Meta lặp lại sai lầm của Microsoft 6 năm trước

Theo Zingnews, cách đây ít ngày, Meta đã hé lộ Galactica, một mô hình máy tính xử lý ngôn ngữ mới, được tạo ra nhằm hỗ trợ tìm kiếm và xử lý tài liệu khoa học.

Theo quảng cáo của Meta, Galactica là một trợ thủ xử lý tư liệu cho nhà nghiên cứu và sinh viên, thay thế những công cụ tìm kiếm thông thường. Nó được đào tạo dựa theo 48 triệu ví dụ về những bài báo khoa học, sách giáo khoa, trang web, ghi chú bài giảng cũng như bách khoa toàn thư.

Công ty cho biết: “Galactica có thể tóm tắt giải các bài toán, bài báo học thuật, tạo nên những bài báo trên Wiki hay tạo ghi chú, chú thích”.

Nhiều điểm yếu

Tuy nhiên, không như kỳ vọng của Meta, Galactica đã hứng chịu những chỉ trích dữ đội. Hôm 17/11, công ty đã gỡ bỏ bản demo công khai.

Galactica bị phàn nàn nhiều nhất là vì không thể phân biệt thật giả. Trong khi đó là một yêu cầu cơ bản của một mô hình ngôn ngữ có khả năng xử lý văn bản khoa học.

Người dùng phát hiện nó đã tạo nên tin giả, ví dụ như một trang Wiki về lịch sử của loài gấu trong vũ trụ. Do quá hoang đường, tin giả này dễ dàng bị phát hiện, tùy nhiên những chủ đề thiết thực hơn có thể gây hiểu nhầm.

Michael Black, nhà nghiên cứu máy học tại Viện Max Planck ở Đức, cho biết: “Mô hình này tạo nên những văn bản sai, tuy nhiên nghe có vẻ đúng và có căn cứ. Tôi cho rằng nó rất nguy hiểm”.

Galactica cũng có lỗ hổng về việc nhận chủ đề. Trợ lý này trả lời rằng: “Xin lỗi, truy vấn của bạn không vượt qua bộ lọc nội dung. Hãy thủ lại và ghi nhớ rằng đây là một mô hình ngôn ngữ khoa học” khi được yêu cầu tạo văn bản về những chủ đề như “AIDS” hay phân biệt chủng tộc.

Theo lập luận của nhóm phát triển Galactica ở Meta, một trợ lý như vậy tốt hơn những công cụ tìm kiếm thông thường. Họ viết: “Chúng tôi cho rằng đó sẽ là giao diện tiếp theo cho cách con người tiếp cận với khoa học”.

Họ cho biết chìa khóa nằm ở việc mô hình ngôn ngữ có thể lưu trữ, kết hợp và suy luận về thông tin. Tuy nhiên, theo các chuyên gia bên ngoài, những mô hình ngôn ngữ chưa làm được tất cả điều đó, hoặc không bao giờ có thể làm được.

Thông tin thiếu chính xác

Chirag Shah, nhà nghiên cứu công nghệ tìm kiếm tại Đại học Washington nói: “Những mô hình máy tính xử lý ngôn ngữ không thực sự hiểu biết, chỉ nắm bắt những mẫu chuỗi từ và phát ra theo những xác suất nhất định, khiến mọi người hiểu nhầm rằng chúng có tri giác”.

Gary Marcus, nhà khoa học nhận thức tại Đại học New York, nêu quan điểm tương tự rằng các mô hình ngôn ngữ dùng xác suất thống kê nhằm mô phỏng lại những mẫu hình thường thấy trong văn bản do con người tạo nên.

Thế nhưng, Meta không phải là công ty duy nhất ủng hộ ý tưởng rằng những mô hình ngôn ngữ có thể thay thế những công cụ tìm kiếm. Google trong vài năm qua đã quảng bá mô hình ngôn ngữ PaLM của mình như một giải pháp tìm kiếm thông tin.

MIT Technology Review đánh giá: “Sẽ là liều lĩnh khi nói rằng văn bản gần giống của con người mà những mô hình này tạo ra có thông tin đáng tin, như Meta đã nói về Galactica”.

Cách đây 6 năm, Microsoft đã giới thiệu Tay - một loạt chatbot, nhưng lại lập tực gỡ xuống trong 16 giờ sau đó vì người dùng nhận ra đây là một chatbot phân biệt chủng tộc do đầu vào của dữ liệu. Hiện tại, sai lầm lại lặp lại với Galactica của Meta.

Shah nói: “Những công ty công nghệ lớn tiếp tục làm điều đó và không dừng lại. Họ cho rằng đó là tương lai của việc truy cập thông tin”.