Meta công khai mô hình AI khổng lồ chuyên xử lý ngôn ngữ

Meta công khai mô hình AI khổng lồ chuyên xử lý ngôn ngữ

Thứ 4, 04/05/2022 | 10:41
Bằng cách công khai mô hình ngôn ngữ với 175 tỷ tham số OPT-175B, Meta hy vọng sẽ đóng góp cho quá trình nghiên cứu AI và giảm thiểu thiên vị trong mô hình này.

Meta - tập đoàn mẹ của Facebook - sẽ công khai một mô hình ngôn ngữ lớn (large language model) cho giới nghiên cứu trí tuệ nhân tạo (AI), theo thông báo ngày 3/5.

"Mô hình ngôn ngữ lớn" là loại mô hình AI xử lý ngôn ngữ tự nhiên được "luyện tập" bằng khối lượng văn bản rất lớn, có khả năng trả lời câu hỏi đọc hiểu đồng thời có thể tạo ra văn bản mới.

Trong bài blog của mình, Meta cho biết mô hình mang tên "Open Pretrained Transformer" (OPT-175B) là mô hình ngôn ngữ 175 tỷ tham số đầu tiên được công khai cho cộng đồng nghiên cứu AI và sẽ cải thiện khả năng nghiên cứu mô hình ngôn ngữ lớn.

Theo Meta, việc giới hạn truy cập mô hình ngôn ngữ lớn đã "cản trở tiến bộ trong quá trình cải thiện tính đầy đủ và giảm thiểu vấn đề thiên vị của mô hình". Bằng cách công khai OPT-175B, Meta hy vọng sẽ có thêm luồng ý kiến đống góp về mặt đạo đức cho công nghệ này.

Tuy nhiên, để tránh việc mô hình bị lạm dụng và duy trì tính toàn vẹn của mô hình, Meta sẽ chỉ công khai OPT-175B dưới dạng ứng dụng phi thương mại để tập trung cho mục đích nghiên cứu. Dữ liệu được công khai sẽ bao gồm mô hình được luyện tập trước và mã nguồn dùng để luyện tập và sử dụng mô hình.

Công nghệ AI vốn là một lĩnh vực nghiên cứu then chốt của nhiều tập đoàn công nghệ lớn. Tuy nhiên, việc phụ thuộc vào AI - bao gồm các mô hình ngôn ngữ lớn - được cho là nguyên nhân dẫn đến nhiều vấn đề trên môi trường mạng và mang lại rủi ro về đạo đức.

Tùng Phong (Theo Reuters)

Vấn nạn tiếp thị bằng tài khoản ảo bằng AI trên LinkedIn

Thứ 3, 29/03/2022 | 16:36
Một số nhà nghiên cứu mạng xã hội tại Mỹ đã phát hiện thêm vấn đề đối với những bức ảnh người chỉ do AI tạo ra - tiếp thị bằng tài khoản giả trên LinkedIn.

Lo ngại xung quanh công nghệ tìm kiếm khuôn mặt của Clearview AI

Thứ 3, 07/12/2021 | 07:00
Clearview AI đã được cơ quan cấp bằng sáng chế Mỹ “bật đèn xanh” cho công nghệ mà công ty này gọi là “công cụ tìm kiếm khuôn mặt”, khiến nhiều nhà hoạt động lo ngại.

Thị trường phần mềm AI toàn cầu có thể vượt 62 tỷ USD năm 2022

Thứ 4, 24/11/2021 | 11:54
Thị trường phần mềm sử dụng AI được dự báo tăng trưởng mạnh trong năm 2022, nhưng tiềm năng còn phụ thuộc vào "mức độ trưởng thành" công nghệ của doanh nghiệp.
Cùng tác giả

Điện toán đám mây sẽ giúp doanh nghiệp đẩy nhanh chuyển đổi số

Thứ 5, 26/05/2022 | 13:58
Đại diện doanh nghiệp và nhà nghiên cứu cho rằng điện toán đám mây sẽ giúp quá trình chuyển đổi số diễn ra mạnh mẽ, nhưng cần có cách tiếp cận toàn diện.

Cải cách thể chế là "chìa khoá" để đạt được mục tiêu phát triển

Thứ 4, 18/05/2022 | 21:11
Các diễn giả công bố báo cáo mới của Ngân hàng Thế giới (WB) đồng thuận rằng Việt Nam đã, đang và sẽ cần tiếp tục điều chỉnh thể chế để đạt mục tiêu phát triển.

Kinh tế Việt Nam tháng 4/2022: Vững chắc trước căng thẳng thế giới

Thứ 2, 16/05/2022 | 16:22
Kinh tế Việt Nam đang tiếp tục đà phục hồi bất chấp xung đột Nga - Ukraine, tuy nhập khẩu chậm lại do tình hình phong tỏa tại Trung Quốc.

ADB tham vấn chính sách nâng cao hiệu quả chiếu sáng đô thị

Thứ 4, 27/04/2022 | 21:08
Các chuyên gia ADB đã hỗ trợ Cục HTKT ban hành tiêu chuẩn, quy chuẩn kỹ thuật về chiếu sáng đô thị, đề xuất các phương thức đầu tư phù hợp cho từng địa phương.

ADB cam kết hơn 22 tỷ USD năm 2021 đối phó đại dịch và phục hồi xanh

Thứ 2, 25/04/2022 | 10:02
Trong số các cam kết năm 2021 của ADB, 13,5 tỷ USD nhằm ứng phó đại dịch, và nhiều cam kết mang tính dài hạn, có tác động ngay cả khi đại dịch kết thúc.
Cùng chuyên mục

Việt Nam phát triển hệ thống vệ tinh quan sát Trái đất

Thứ 5, 30/06/2022 | 19:55
Các thông tin từ ảnh vệ tinh giúp xác nhận biến đổi khí hậu, thiên tai và các cơ sở hạ tầng dễ tổn thương bằng công nghệ vũ trụ và dữ liệu mặt đất.

Apple thất bại trong dự án chip 5G cho iPhone?

Thứ 5, 30/06/2022 | 17:00
Nhà phân tích Ming-chi Kuo vừa đăng một tweet mới nhất trên Twitter, nói về sự thất bại của Apple trong việc sản xuất chip modem 5G dành riêng cho iPhone.

One Mount nhận giải thưởng cung ứng và logistics từ Google

Thứ 5, 30/06/2022 | 14:48
Tập đoàn One Mount vừa được Google vinh danh là đối tác có chuỗi cung ứng và logistics xuất sắc nhất năm 2021 cho giải thưởng Google Cloud Customer Award.

Sony đẩy mạnh thiết bị chơi game trên máy vi tính

Thứ 5, 30/06/2022 | 07:00
Sony đang tìm cách mở rộng ra ngoài mảng thiết bị chơi game PlayStation và tăng doanh thu từ các lĩnh vực khác.

Điện thoại giá rẻ Nokia G11 Plus mới trình làng có gì đặc biệt?

Thứ 4, 29/06/2022 | 21:31
HMD Global vừa trình làng điện thoại Nokia G11 Plus như là bản nâng cấp của Nokia G11 trước đó.