Thất bại mới nhất của Meta

20/11/2022 21:20 0
20-11-2022 21:20:00+07:00

Thất bại mới nhất của Meta

“Trợ lý ảo” mới của Meta bị gỡ xuống chỉ sau vài ngày ra mắt.

Không chỉ các sản phẩm mạng xã hội, các dự án nghiên cứu và phát triển của Meta cũng liên tục gặp chỉ trích. Ảnh: CNBC.

Ngày 15/11, Meta đã tiết lộ một mô hình máy tính xử lý ngôn ngữ mới có tên là Galactica, được tạo ra để hỗ trợ tìm kiếm và xử lý tài liệu khoa học.

Galactica được đào tạo dựa trên 48 triệu ví dụ về các bài báo khoa học, trang web, sách giáo khoa, ghi chú bài giảng và bách khoa toàn thư. Meta quảng cáo đây là một trợ thủ xử lý tư liệu cho các nhà nghiên cứu và sinh viên, thay thế các công cụ tìm kiếm thông thường.

“Galactica có thể tóm tắt các bài báo học thuật, giải các bài toán, tạo các bài báo trên Wiki, tạo chú thích...”, công ty này cho biết.

Nhiều lỗ hổng lớn

Nhưng thay vì một bước tiến lớn cho giới khoa học như Meta hy vọng, Galactica đã bị chỉ trích dữ dội. Ngày 17/11, công ty gỡ bỏ bản demo công khai.

Vấn đề bị phàn nàn nhiều nhất với Galactica là "trợ lý" này không thể phân biệt thật giả, một yêu cầu cơ bản đối với một mô hình ngôn ngữ được thiết kế để xử lý văn bản khoa học.

Người dùng phát hiện nó đã tạo ra tin giả, chẳng hạn như một trang Wiki về lịch sử của loài gấu trong vũ trụ. Vì quá hoang đường, tin giả này dễ bị phát hiện, nhưng các chủ đề thực tế hơn có thể gây hiểu nhầm.

"Mô hình này tạo ra các văn bản sai hoặc thiên vị nhưng nghe có vẻ đúng và có căn cứ. Tôi nghĩ nó rất nguy hiểm", Michael Black, nhà nghiên cứu máy học tại Viện Max Planck ở Đức, cho biết.

Galactica cũng có lỗ hổng về khả năng nhận chủ đề. Khi được yêu cầu tạo văn bản về các chủ đề như “phân biệt chủng tộc” và “AIDS”, trợ lý này trả lời: “Xin lỗi, truy vấn của bạn không vượt qua bộ lọc nội dung của chúng tôi. Hãy thử lại và ghi nhớ đây là một mô hình ngôn ngữ khoa học".

meta trợ lý ảo ảnh 1

Tranh biếm họa cho bài viết về loài gấu trong không gian mà Galactica tạo ra. Ảnh: MIT Technology Review.

Nhóm phát triển Galactica ở Meta lập luận rằng một trợ lý như vậy tốt hơn các công cụ tìm kiếm thông thường. “Chúng tôi tin rằng đây sẽ là giao diện tiếp theo cho cách con người tiếp cận kiến ​​thức khoa học", họ viết.

Họ giải thích thêm rằng chìa khóa nằm ở việc “mô hình ngôn ngữ có khả năng lưu trữ, kết hợp và suy luận về thông tin". Nhưng các chuyên gia bên ngoài cho rằng các mô hình ngôn ngữ chưa làm được tất cả những điều này, thậm chí sẽ không bao giờ làm được.

Thông tin không đáng tin cậy

“Các mô hình máy tính xử lý ngôn ngữ không thực sự hiểu biết, chúng chỉ nắm bắt các mẫu chuỗi từ và 'phát ra' theo các xác suất nhất định, làm mọi người hiểu nhầm rằng chúng có tri giác,” Chirag Shah, nhà nghiên cứu công nghệ tìm kiếm tại Đại học Washington, cho biết.

Gary Marcus, nhà khoa học nhận thức tại Đại học New York, đưa ra quan điểm tương tự trong một bài đăng trên Substack, nói rằng khả năng của các mô hình ngôn ngữ chỉ là dùng xác suất thống kê để mô phỏng lại các mẫu hình thường thấy trong văn bản do con người tạo ra.

meta trợ lý ảo ảnh 2

Chatbot Tay của Microsoft công bố vào năm 2016 và gỡ xuống chỉ sau vài giờ, sau khi gặp các vấn đề tương tự như Galactica. Ảnh: Tech Republic.

Tuy nhiên, Meta không phải là công ty duy nhất ủng hộ ý tưởng rằng các mô hình ngôn ngữ có thể thay thế các công cụ tìm kiếm. Trong vài năm qua, Google cũng đã quảng bá mô hình ngôn ngữ PaLM của mình như một cách để tra cứu thông tin.

"Thật liều lĩnh và vô trách nhiệm khi nói rằng văn bản gần giống của con người mà các mô hình này tạo ra chứa thông tin đáng tin cậy, như Meta đã làm khi quảng cáo Galactica", theo đánh giá của MIT Technology Review.

Vào năm 2016, Microsoft đã ra mắt một chatbot có tên là Tay, và gỡ xuống 16 giờ sau đó khi người dùng phát hiện trợ lý này đã trở thành một chatbot phân biệt chủng tộc và kỳ thị đồng tính do đầu vào dữ liệu. Bây giờ, Meta lặp lại sai lầm với Galactica.

“Các công ty công nghệ lớn tiếp tục làm điều này, và họ sẽ không dừng lại đơn giản bởi vì họ có thể làm. Họ nghĩ rằng đây là tương lai của việc truy cập thông tin”, Shah nói.

Hoàng Nam

Zing.vn

ĐỌC NHIỀU NHẤT

TIN CÙNG CHUYÊN MỤC

Apple gánh thiệt hại 40 tỷ USD do thiếu iPhone

Apple vẫn liên tục bị gián đoạn chuỗi cung ứng do Covid-19, gây thiếu hụt iPhone và ảnh hưởng đến doanh thu.

VinFuture 2022 vinh danh các nghiên cứu thúc đẩy phục hồi và phát triển bền vững toàn cầu

Ngày 01/12/2022 – Quỹ VinFuture công bố Lễ trao giải VinFuture 2022 sẽ diễn ra ngày 20/12/2022 tại Hà Nội, Việt Nam, vinh danh 4 công trình khoa học giúp hồi sinh...

Nền tảng giao đồ ăn lớn nhất Mỹ DoorDash cắt giảm 6% nhân viên toàn cầu

DoorDash Inc. cho biết sẽ sa thải khoảng 1,250 nhân viên để cắt giảm chi phí, đồng thời thừa nhận việc mở rộng nhanh chóng trong thời kỳ đại dịch COVID-19 khiến họ...

Trung Quốc mất vị thế trước Apple

Vị thế của Trung Quốc trong chuỗi cung ứng toàn cầu của Apple đang ngày càng giảm sút khi tập đoàn tìm đến Việt Nam, Ấn Độ như một giải pháp thay thế.

Thống đốc DeSantis bênh vực Elon Musk, chỉ trích Apple

“Gỡ Twitter khỏi App Store là một sai lầm nghiêm trọng”, ông DeSantis nói.

Gojek tham gia thị trường gọi xe ô tô tại Singapore

Hãng taxi lớn của Singapore, ComfortDelGro, và nền tảng gọi xe Gojek của Indonesia vừa ký một thoả thuận cho phép Gojek triển khai ứng dụng gọi xe trên mạng lưới...

TikTok bắt tay startup công nghệ để bành trướng mảng thương mại điện tử

TikTok yêu cầu sự giúp đỡ từ các startup công nghệ để cải thiện mảng thương mại điện tử đang gặp khó khăn của mình trong bối cảnh nền tảng chia sẻ video này đẩy...

Amazon đóng cửa một số mảng kinh doanh ở Ấn Độ

Amazon sẽ đóng cửa một số hoạt động ở Ấn Độ và điều này cho thấy rằng ngay cả thị trường tăng trưởng quan trọng với 1.4 tỷ người tiêu dùng này cũng không tránh khỏi...

Việt Nam đã nhập khẩu hơn 144.000 ôtô trong năm 2022

Thống kê từ Tổng cục Hải quan cho thấy lượng nhập khẩu các mặt hàng nói trên vào Việt Nam đã tăng trưởng dương so với cùng kỳ năm ngoái.

Apple và Google cạnh tranh không lành mạnh

Cơ quan chống độc quyền của Anh cho rằng hai hãng công nghệ đã lợi dụng vị thế độc quyền, chèn ép các nhà phát triển bên thứ ba.

TIN CHÍNH

ĐỌC NHIỀU NHẤT