Google, Apple vẫn “ám ảnh” sự cố 8 năm trước vì AI

Theo Zingnews, năm 2015, Google đã phát hành Photos khiến người dùng không khỏi bất ngờ về khả năng của ứng dụng này. Cụ thể, là khả năng tra cứu hình ảnh dựa trên từ khóa, tự động gắn nhãn tên người, đồ vật hay địa điểm. Tuy nhiên, không lâu sau đó Google Photos đã bị Jacky Alciné, một kỹ sư phần mềm, phát hiện về việc gắn nhãn những bức ảnh của anh và một người bạn là “khỉ đột” vì cả hai đều là người da đen.

Vì gợi lại sự phân biệt chủng tộc nên sự cố này đã gây phản cảm với người dùng. Google sau đó đã ngăn ứng dụng phân loại bất kỳ thứ gì là “khỉ đột”. Hãng cho biết sẽ khắc phục vụ việc này. Và giờ đây, sau 8 năm, Google hay các đối thủ khác như Amazon, Microsoft và Apple vẫn có cách xử lý triệt để, mà chỉ né tránh phân loại “khỉ đột”.

Tránh phân loại khỉ đột

he New York Times đã tạo bộ sưu tập có 44 hình ảnh có đồ vật, động vật và con người trong một thử nghiệm kiểm tra chức năng tìm kiếm hình ảnh dựa trên từ khóa. Khi được cho từ khóa “chuột túi”, “mèo” hay đa số loài động vật khác, Google Photos đã tìm ra đúng ảnh. Tuy nhiên, đối với từ khóa “khỉ đột” thì sẽ không có bất kỳ hình ảnh nào dù có hình ảnh của nó ở bộ sưu tập.

Apple Photos có mắc vấn đề tương tự khi có thể thấy chính xác ảnh của loài động vật cụ thể, trừ linh trưởng. Mặt khác, Microsoft OneDrive không tìm được bất kỳ động vật nào, và Amazon Photos hiển thị toàn bộ động vật mỗi khi có từ khóa liên quan đến động vật.

Ứng dụng của Apple và Google tỏ ra chính xác hơn cả, tuy nhiên cả hai hãng phát hành nền tảng cho đa số smartphone trên toàn cầu vẫn phải tắt tính năng tìm kiếm về động vật linh trưởng vì sợ gặp sự cố như cách đây 8 năm.

Xét trên thực tế, từ khóa này không tác động nhiều tới người tiêu dùng. Thế nhưng, vấn đề là vẫn có những lỗ hổng không thể sửa, và rủi ro trong cách dịch vụ dựa trên AI. Alciné bày tỏ sự thất vọng khi biết rằng Google vẫn chưa có cách giải quyết triệt để vấn đề.

Lỗi về từ khóa “khỉ đột” cho thấy thiên kiến phân biệt chủng tộc. Theo 2 cựu nhân viên của Google, hãng không cung cấp đủ ảnh của người da đen vào dữ liệu dùng để huấn luyện AI và do không quen nên hệ thống đã nhầm lẫn họ là khỉ đột.

Rủi ro tiềm ẩn trong các hệ thống AI

Việc chặn từ khóa “khỉ đột” của Google là cách tiếp cận phổ biến trong lĩnh vực AI. Các doanh nghiệp tìm cách chặn đầu vào của người dùng hoặc đầu ra của AI theo từ khóa, thay vì tìm cách giải quyết vấn đề triệt để.

Theo Michael Marconi, phát ngôn viên của Google, công ty đã ngăn Photos gắn nhãn bất kỳ thứ gì là vượn hay khỉ bởi lo ngại về tổn thất mà tính năng tra cứu từ khóa này có thể mang tới.

Thế nhưng, việc xử lý vấn đề mới quan trọng. Lỗi thiên kiến có thể để lại hậu quả nghiêm trọng khi AI được dùng trong các sản phẩm y tế và an ninh.

Webcam của HP cũng bị chỉ trích khi gây lỗi là không thể phát hiện một số người có da sẫm màu. Một vụ kiện cho thấy Apple Watch không thể đọc nồng độ oxy máu chính xác với những màu da khác nhau. Những sai sót chỉ ra rằng các sản phẩm công nghệ nói chung đang bỏ qua những nhóm dân số nhất định.

Sau nhiều năm từ khi gặp lỗi Google Photos, công ty đã gặp sự cố với Nest khi thử nghiệm nội bộ. Dùng AI để xác định người đang tiếp cận khuôn viên nhà là lạ hay quen, Nest đã nhầm một số người da đen là động vật.

Theo Margaret Mitchell, nhà nghiên cứu từng dẫn đầu nhóm đạo đức AI của Google, những hệ thống này không phải lúc nào cũng hoàn hảo. Mặt khác, có hàng tỷ  người dùng dịch vụ của Google và sẽ có những trục trặc hiếm gặp.