AI có thể thay đổi suy nghĩ của người dùng như thế nào?

Theo Zingnews, người dùng có thể cho rằng trợ lý AI đang phục vụ mình khi họ yêu cầu ChatGPT hay một chatbot soạn thảo email hoặc trình bày. Tuy nhiên, thực tế cho thấy ngày càng có nhiều nghiên cứu chỉ ra rằng AI khiến suy nghĩ của người dùng thay đổi mà họ không hề hay biết.

Một nghiên cứu mới tại Hội nghị về các yếu tố con người trong các hệ thống tính toán đã tìm hiểu về việc người tham gia được yêu cầu viết một bài luận có sự hỗ trợ của AI. Kết quả chỉ ra rằng AI có thể thúc đẩy người dùng ủng hộ hoặc chống lại một quan điểm rõ ràng, tùy theo thiên kiến vốn có của thuật toán. Ý kiến của những người tham gia về chủ đề được giao chịu tác động đáng kể khi thực hiện bài luận này.

Mor Naaman, nhà khoa học thông tin tại Đại học Cornell, tác giả chính của nghiên cứu cho biết thậm chí bạn không rõ mình đang chịu ảnh hưởng từ AI. Theo ông, hiện tượng đó là sự thuyết phục ngầm.

AI thay đổi quan điểm của người dùng như thế nào?

Những nghiên cứu theo hướng này chỉ ra một viễn cảnh đáng báo động. AI có thể thay đổi quan điểm theo những cách ngầm ẩn và không thể lường trước được khi giúp con người làm việc hiệu quả hơn. Tác động đó có thể tương tự như cách con người gây ảnh hưởng lẫn nhau thông qua tương tác.

Theo các chuyên gia, cách phòng thủ duy nhất và tốt nhất hiện nay chính là cảnh báo cho người dùng. Tương lai có thể sẽ có những biện pháp khác, ví dụ như việc các cơ quan quản lý yêu cầu thuật toán AI minh bạch và những thành kiến của con người mà chúng phản ánh.

Một nghiên cứu khác đăng trên Proceedings of the ACM on Human Computer Interaction được thực hiện vào năm 2021 cho thấy các câu trả lời tự động của AI được tích hợp trong Gmail đều theo hướng tích cực, khiến người dùng giao tiếp một cách tích cực hơn. Trên cùng tạp chí, một nghiên cứu thứ hai chỉ ra rằng những câu trả lời tự động này được dùng hàng tỉ lần hàng ngày, ảnh hưởng tới cả người nhận, khiến họ cảm thấy người gửi hợp tác và thân thiện hơn.

Xây dựng các công cụ trí tuệ nhân tạo hỗ trợ cho người dùng tạo tài liệu, email bảng tính, bài thuyết trình và hàng loạt tác vụ văn phòng khác là mục tiêu của Google và Microsoft, chưa tính tới hàng chục công ty khởi nghiệp. Gần đây, Google đã phát đi thông báo rằng mô hình mới nhất của họ là PaLM 2 sẽ xuất hiện vào 25 sản phẩm hiện có và có thể tiếp cận tới hàng tỉ người dùng.

Nghiên cứu của nhóm Naaman cho thấy chủ đề được đưa ra là mạng xã hội đó liệu có tốt cho xã hội không. Theo chuyên gia, chủ đề này được chọn vì nó không phải là vấn đề mà nhiều người có một quan điểm cố hữu và sâu sắc, khó thay đổi được. Nếu người dùng được hỗ trợ bởi AI có xu hướng ủng hộ mạng xã hội khi viết bài luận thì họ cũng sẽ có xu hướng tương tự và ngược lại.
Nhóm nghiên cứu nêu ra mối lo ngại rằng các công cụ AI hỗ trợ có thể bị thao túng để khiến người dùng suy nghĩ và giao tiếp theo một chiều hướng nhất định nào đó. Thậm chí, khi kịch bản này không xảy ra, những người dùng công cụ AI có thể vô tình chạy theo một số quan điểm nhất định khi dùng trí tuệ nhân tạo trong công việc và học tập.

Người dùng cần hiểu quan điểm của AI xuất phát từ đâu

Theo Tatsunori Hashimoto, nhà khoa học máy tính tại Đại học Stanford, các công cụ AI như ChatGPT không có niềm tin, mà chỉ phản ánh những ý kiến thu được từ quá trình đào tạo.

Trong nhiều năm qua, Hashimoto và các đồng nghiệp đã đối chiếu kết quả  nghiên cứu tại Mỹ với phản hồi của các mô hình ngôn ngữ lớn khác nhau, nhằm xem những mô hình này liệu có phản ánh ý kiến của người Mỹ hay không. Họ so sánh tần suất các AI đưa ra câu trả lời trong mỗi câu hỏi với tần suất một người Mỹ sẽ đưa ra câu trả lời tương tự.

Kết quả là ý kiến của các mô hình ngôn ngữ lớn từ các công ty như OpenAI không phù hợp với quan điểm của người Mỹ nói chung, mà chỉ phù hợp với quan điểm của nhóm nhỏ hơn. Họ là những người có trình độ đại học. Đó cũng là nhóm chiếm phần lớn trong những người được làm nhiệm vụ hiệu chỉnh AI.

Những mô hình này được đào tạo dựa trên dữ liệu từ mọi nơi, mặc dù không đáng tin như những thông điệp ở các diễn đàn trực tuyến hay nội dung Wiki. Bên cạnh đó, chúng tiềm ẩn những thành kiến có trong dữ liệu đào tạo. Trong quá trình hiệu chỉnh, những quan điểm này tiếp tục bị định hình, cố tình và cả vô tình, để mô hình không đưa ra những phản hồi cực đoan, chẳng hạn như có hại hay bạo lực.

Điều này có nghĩa là các AI đang được dùng phổ biến ngày nay không chỉ bị chi phí bởi một nhóm nào đó, ví dụ như nhóm người trẻ trình độ đại học làm việc phát triển và hiệu chỉnh mô hình. Chẳng hạn, ở nghiên cứu của nhóm Hashimoto, trong khi những mô hình này có xu hướng đưa ra những phản hồi cánh tả về kiểm soát súng, chúng lại đưa ra những quan điểm cánh hữu về những vấn đề như tôn giáo.

Lydia Chilton, nhà khoa học máy tính tại Đại học Columbia cho biết khi mọi người hiểu rằng AI mà họ dùng có những thành kiến nhất định thì họ có thể quyết định dùng thông tin mà AI cung cấp hay không và dùng trong bối cảnh nào. Đó cũng là cách để người dùng không bị thuyết phục ngầm bởi AI, mặt khác họ có thể hoàn toàn chủ động sử dụng AI nhằm trải nghiệm cách giao tiếp cũng như các quan điểm khác nhau.