Người dùng TikTok đang rơi vào cái bẫy "gây nghiện" của thuật toán AI?
Theo Trí thức trẻ, không chỉ giúp người dùng giải tỏa tổn thương thời thơ ấu, thuật toán AI của Tik Tok còn có thể để hỗ trợ người dùng khám phá giới tính thật. So với Facebook, mạng xã hội này yêu cầu người dùng tạo hồ sơ và điền những thông tin cá nhân mới có thể làm được điều đó. Trong khi Tik Tok lại chỉ cần dùng thuật toán.
Nền tảng truyền thông kỹ thuật số về văn hóa, công nghệ, khoa học và xã hội (Anh) - Mashable cho hay: “Tik Tok có thể khám phá tâm trí, đọc được tâm hồn người dùng và cả những thứ người dùng chưa từng biết đến về bản thân mình. Người dùng đang bị thuật toán Tik Tok gây nghiện”.
TikTok thành công là nhờ sở hữu thuật toán có đề xuất nội dung giúp người dùng tiếp cận được thông tin mới mẻ, tạo cảm giác không gây nhàm chán. Thực tế cho thấy hầu hết người dùng bị cuốn theo các video hướng dẫn nấu ăn, hướng dẫn làm vườn hay đắm chìm vào những video về vấn đề thần kinh.
Inna Kanevsky, một giáo sư tâm lý học cho biết: “Có vẻ như thuật toán AI Tik Tok đã chuẩn đoán về hội chứng tâm lý của người dùng. Điều này thật sự đáng lo ngại khi mà có thể thay đổi cuộc sống của con người. Không chỉ dừng lại ở việc dự đoán, AI cũng tạo ra các ma trận thông tin quanh người sử dụng app này”.
AI của Netflix hay Amazon cũng có thể đoán người dùng muốn xem gì tiếp theo, và rồi hiển thị những gợi ý nội dung thích hợp. Thế nhưng, Tik Tok lại vận hành như thể app này sẽ giúp người dùng biết được họ thực sự muốn gì, họ thực sự là ai.
Wall Street Journal cho biết thuật toán sẽ hiển thị cho những người dùng mới hàng loạt video phổ biến với mục đích là kiểm tra phản ứng của họ với nhiều loại nội dung khác nhau. Các nội dung từ video sửa chữa nhà cửa đến điệu nhảy đều xuất hiện và chỉ trong vòng 2 tiếng, thuật toán AI có thể chẩn đoán được tâm lý của người dùng trên nền tảng này.
Giáo sư tâm lý học và khoa học nhận thức tại Đại học Yale, John Bargh cho rằng thuật toán này giống như việc học thống kê. Nó khiến người dùng tiếp thu kiến thức mới trong vô thức chỉ bằng cách tiếp nhận mô hình của thế giới xung quanh.
Tuy nhiên, điều đáng lo ngại hơn là TikTok thậm chí biết cả những bí mật thầm kín nhất mà chính bản thân người dùng còn chưa biết.
Mục đích cuối cùng của AI không phải là phân tích tâm lý của người dùng và Tik Tok muốn thông qua dữ kiện đó để thu về lợi nhuận. Thuật toán của Tik Tok như đang cố gắng tạo cho người dùng một cảm giác rằng họ đặc biệt so với những người khác và Tik Tok sẽ kiếm tiền từ đó. Đây là thông tin được đưa ra bởi Johannes Eichstaedt, nhà khoa học tại Viện Stanford.
Ngoài ra, AI của Tik Tok nguy hiểm đến mức người dùng như đang tham gia một canh bạc. Bởi lẽ, nếu không may mắn được TikTok gợi ý những nội dung thay đổi bản thân theo hướng tích cực thì có thể sẽ lạc vào thế giới mới dưới danh nghĩa đi tìm hiểu sâu hơn về bản thân.
Đến thời điểm hiện tại, vẫn là rất bí ẩn khi nói về thuật toán của Tik Tok vận hành như thế nào. Tik Tok đã tiết lộ công cụ gợi ý nội dung được phát triển dựa trên 3 yếu tố là các yếu tố trên video mà người dùng xem, tương tác của người dùng trên ứng dụng và bối cảnh liên quan đến người dùng vào năm 2020.
“Nhiều người có thể xem một số video nổi bật giống nhau trên các ứng dụng khác nhau. Tuy nhiên, những gợi ý về nội dung mà TikTok đưa ra cho mỗi người là khác nhau, không ai giống ai”, theo giải thích của Tik Tok.