Mặt tối đằng sau thuật toán AI gây nghiện của TikTok

Kể từ khi ra mắt lần đầu tiên vào năm 2016, TikTok đã thu hút được hơn 1 tỷ người dùng hàng tháng. Chìa khóa thành công của họ nằm ở luồng video vô tận được nhắm mục tiêu ngay vào bạn. Từ lâu, nhiều người đã tự hỏi ứng dụng chia sẻ video thuộc sở hữu của ByteDance thu thập dữ liệu gì về người dùng để hiển thị nội dung trên đó. Giờ đây, câu chuyện này tiến gần hơn đến việc giải mã bước đầu.

Cách thức hoạt động của thuật toán TikTok có lẽ là bí mật được bảo vệ chặt chẽ nhất của công ty. Và tạp chí The Wall Street Journal cho rằng, hệ thống thuật toán AI vận hành của ứng dụng này vừa cho ra kết quả hấp dẫn nhưng vừa đáng lo ngại.

Guillaume Chaslot - Một cựu kỹ sư của Google từng làm việc trên thuật toán của YouTube nói rằng, về cơ bản nó có cùng một cách tiếp cận, nhưng ở một hình thức khắc nghiệt hơn. Theo anh, dữ liệu liên quan đến tương tác của người dùng (thích, bình luận hoặc theo dõi tài khoản), thông tin video (chú thích, âm thanh và thẻ tag bắt đầu bằng #) và cài đặt tài khoản (tùy chọn ngôn ngữ, vị trí) đều được cân nhắc để hệ thống thuật toán tính toán, khai phá sở thích của người dùng.

Nhưng theo kỹ sư này, hệ thống thuật toán AI TikTok sử dụng bốn tín hiệu chính: những gì bạn xem, chia sẻ, thích và theo dõi. TikTok chỉ cần một trong những điều này để theo dõi, thậm chí còn biết bạn nán lại xem một phần nội dung video đó trong bao lâu.

Mỗi giây bạn chần chừ hoặc xem lại, ứng dụng cũng sẽ theo dõi bạn. Thông qua các tín hiệu mạnh mẽ này, TikTok biết được những sở thích và cảm xúc tiềm ẩn nhất của bạn, đồng thời đưa bạn lạc vào sâu trong những đề xuất nội dung video khó có thể thoát ra được, hay nói cách khác là dễ bị gây nghiện.

Trải nghiệm TikTok bắt đầu theo cùng một cách cho tất cả mọi người. Mở ứng dụng và ngay lập tức bạn sẽ thấy một chuỗi video dài vô tận trong nguồn cấp dữ liệu cho bạn. TikTok bắt đầu bằng cách cung cấp cho tài khoản các các video tuyển chọn rất phổ biến được kiểm duyệt bởi người kiểm duyệt ứng dụng. Bằng cách đưa ra những điều này, nó hoạt động để xác định sở thích của bạn.

Kết quả được phân tích bởi nhà khoa học dữ liệu và chuyên gia thuật toán Guillaume Chaslot, một cựu kỹ sư của Google từng làm việc trên thuật toán của YouTube. Anh ấy hiện là một người ủng hộ cho sự minh bạch của thuật toán. Anh ấy nói TikTok khác biệt nhiều so với các nền tảng mạng xã hội khác ở mặt thuật toán. Trên thực tế, qua hệ thống AI đặc biệt, TikTok có thể tìm hiểu đầy đủ các sở thích của nhiều tài khoản chúng ta trong vòng chưa đầy hai giờ. Một số đã tìm ra trong vòng chưa đầy 40 phút.

Trong một thử nghiệm khảo sát, chưa đầy ba phút khi sử dụng TikTok, ở video thứ 15, một tài khoản thử nghiệm kentucky_96 tạm dừng xem video nội dung buồn về việc chia tay người yêu khỏi cuộc sống. Trước đó, tài khoản Kentucky_96 xem video 35 giây này trong suốt hai lần. Hệ thống thuật toán AI TikTok nhận tín hiệu rằng có lẽ người dùng mới đang cảm thấy thất vọng trong thời gian gần đây.

Sau khi xem video buồn đầu tiên, kentucky_96 được TikTok phục vụ đề xuất thêm 23 video khác mang chủ đề chia tay với hashtag #sad. TikTok vẫn đang cố gắng làm phiền người dùng mới này, với nhiều video có lượt xem cao hơn mang chủ đề tương tự. Dĩ nhiên, điều này rõ ràng hệ thống AI đang càng làm tăng thêm cảm giác đau lòng và tổn thương.

Với sự phổ biến rộng rãi của TikTok đối với thanh thiếu niên nói riêng, điều này làm dấy lên những lo ngại rõ ràng. Một người nào đó đang ở trong trạng thái trầm cảm có thể dễ dàng bị trầm cảm hơn khi xem một luồng nội dung như vậy. Hay nói cách khác, một thuật toán như vậy cũng có khả năng đẩy những người có quan điểm cực đoan đến hành vi suy nghĩ sẽ ngày càng cực đoan hơn nữa. Điều này trở thành một mối quan tâm khi cơ sở người dùng của TikTok có xu hướng trẻ hơn so với các nền tảng truyền thông xã hội khác như Facebook hoặc Youtube.

TikTok dường như đang ưu tiên sự tham gia hơn là sức khỏe tâm thần người dùng và Chaslot nói rằng YouTube cũng làm điều gì đó tương tự, nhưng theo một cách ít cực đoan, khắc nghiệt hơn TikTok.

Trước đây, TikTok cho biết họ đã cảnh giác về việc xóa nội dung mà họ phát hiện vi phạm các quy tắc của mình (bao gồm cả nội dung độc hại). Trước đây, công ty này đã từng nói rằng họ sử dụng sự kết hợp giữa máy tính và con người để kiểm tra nội dung video. Tuy nhiên, các sai lầm vẫn xảy ra và đôi khi video bị gắn cờ độc hại vẫn lọt qua các bộ lọc kiểm duyệt. Chaslot nói: "Đó là một thách thức thực sự đối với những công ty này vì chúng quá lớn. TikTok phát triển quá nhanh".

Không chỉ dừng tại đó, giới chuyên gia nhận định, hiện gần như không thuật toán AI nào toàn diện hơn mạng xã hội video ngắn TikTok. Nó có thể giúp người dùng giải toả tổn thương thời thơ ấu, thậm chí khám phá giới tính thật. Trong khi Facebook yêu cầu người dùng xây dựng cả một trang hồ sơ và cung cấp thông tin cá nhân để làm được điều đó, còn TikTok chỉ cần thuật toán.

"TikTok như thể đọc tâm hồn bạn. Nó giống kiểu tiên tri kỹ thuật số thần thánh khó có thể gọi tên chính xác. Thuật toán này có thể khám phá từng lớp tâm trí của bạn, có những thứ bạn thậm chí chưa từng biết đến", trang Mashable đưa tin.

Thành công của TikTok nằm ở thuật toán đề xuất nội dung For You, giúp luôn đổi mới trang chủ để người dùng không thấy nhàm chán. Hầu hết người dùng bị cuốn vào các video hướng dẫn làm vườn, nấu ăn nhưng cũng có không ít người đắm chìm trong những video liên quan đến hội chứng tự kỷ hoặc các vấn đề về thần kinh. Chẳng hạn, từ khóa #mentalhealth (sức khoẻ tâm thần) thu hút được gần 21 tỷ lượt xem trên nền tảng này. Thông tin nghe có vẻ không mấy nghiêm trọng cho đến khi các nhà khoa học phát hiện ra rất nhiều nội dung tâm thần giả đang được lưu hành trên nền tảng này.

Giáo sư tâm lý học Inna Kanevsky nói: "Người dùng có vẻ được thuật toán TikTok chẩn đoán về hội chứng tâm lý. Đó là điều đáng lo ngại về cách AI có thể thay đổi cuộc sống con người. Thuật toán không chỉ dừng lại ở việc dự đoán mà còn tiến xa hơn đến việc tạo các ma trận thông tin bao quanh người dùng".

Đáng lo ngại hơn, TikTok thậm chí còn biết cả những bí mật thầm kín nhất mà người dùng còn chưa khám phá ra.

"Các thuật toán biết tôi là người song tính trước khi tôi hoàn toàn sống thật với giới tính của mình", một người có tên Joho nói với trang Mashable. Người này cho rằng, quyết định sống thật với giới tính của mình bị tác động bởi thuật toán trên TikTok.