Cuối tháng 1, mạng xã hội Twitter trở thành tâm điểm chú ý khi ảnh "nóng" được tạo bằng deepfake của nữ ca sĩ Taylor Swift lan tràn. Deepfake, một công nghệ tổng hợp sử dụng trí tuệ nhân tạo để thay đổi chân dung người nổi tiếng đã đặt ra những thách thức mới đối với quản lý nội dung và bảo vệ danh tiếng cá nhân trên mạng xã hội.

Tình hình trở nên nghiêm trọng đến mức Twitter tạm thời chặn tìm kiếm về Taylor Swift và vĩnh viễn chặn thuật ngữ "deepfake". Ngoài ra, các cảnh báo đã xuất hiện, nhắc nhở người dùng không đăng tải ảnh khỏa thân mà không có sự đồng thuận, với hậu quả là có thể bị xử lý nếu vi phạm.

Ảnh "nóng" người nổi tiếng tràn ngập mạng xã hội

Đối với những phụ nữ từng là nạn nhân của việc tạo và chia sẻ nội dung khiêu dâm sử dụng deepfake, sự kiện của Taylor Swift như một lần nữa "cứa" vào nỗi đau trong lòng họ. Taylor Swift may mắn vì được X xoá những bức ảnh khiêu dâm deepfake. Tuy nhiên, hầu hết nạn nhân, kể cả những người nổi tiếng, đều kém may mắn hơn. Nữ diễn viên Marvel 17 tuổi Xochitl Gomez đã phát biểu trong tháng này về việc X đã không xóa các nội dung khiêu dâm sâu về cô ấy. "Việc này không liên quan tới tới tôi, nhưng khuôn mặt của tôi thì vẫn chình ình ra trên X", cô nói.

Noelle Martin từng là nạn nhân bị lạm dụng dựa trên hình ảnh. Lần đầu tiên cô phát hiện ra khuôn mặt của mình bị sử dụng trong nội dung khiêu dâm cách đây 11 năm. Cô nói: "Những phụ nữ bình thường như tôi sẽ không có hàng triệu người lên tiếng để bảo vệ và giúp gỡ bỏ nội dung khiêu dâm. Ngoài ra, cũng chẳng công ty công nghệ lớn nào đứng ra bảo vệ chúng tôi cả".

Martin - một nghiên cứu viên tại Phòng thí nghiệm Công nghệ & Chính sách tại Đại học Tây Úc cho biết, ban đầu, đó là những bức ảnh được chỉnh sửa về cô, nhưng trong vài năm qua, khi AI phát triển bùng nổ, thì khuôn mặt cô xuất hiện trong những video, chủ yếu được chia sẻ trên các trang web khiêu dâm. "Thật là kinh khủng, nó khiến tôi choáng váng. Tôi cố gắng tránh chúng đi. Tôi thực sự không biết phải tả cảm giác đó đau đớn đến như thế nào", cô chia sẻ.

Cô nói, ngay cả khi những hình ảnh đó không thực sự đặc biệt, thì nó vẫn đủ để gây ra tổn hại vĩnh viễn đối với một cá nhân. "Nỗ lực gỡ bỏ những bức ảnh đó khỏi internet là vô ích. Đó là một trận chiến khó khăn và gần như bạn không có cơ hội chiến thắng", Martin đau đớn chia sẻ.

Ảnh "nóng" của Taylor không chỉ tác động đến danh tiếng cá nhân mà còn đưa vấn đề này lên tầm cao mới, khiến Chính phủ Mỹ phải phản ứng. Thư ký báo chí Nhà Trắng, Karine Jean-Pierre cam kết đưa ra mọi giải pháp có thể để giải quyết vấn đề và kêu gọi các nền tảng truyền thông xã hội đưa ra biện pháp quản lý nội dung.

Trong khi Taylor Swift chưa có phản ứng chính thức, nguồn tin từ Daily Mail cho biết cô đang xem xét các biện pháp pháp lý để bảo vệ hình ảnh cá nhân của mình. Sự phẫn nộ không chỉ nằm ở cộng đồng người hâm mộ Taylor mà còn lan rộng đến fan Kpop, mong đợi hành động cụ thể chống lại vấn nạn deepfake. Thống kê năm 2021 cho thấy 25% nạn nhân deepfake là nữ thần tượng Kpop.

Chính phủ các nước chống lại deepfake

Hàn Quốc từ lâu đã trở thành địa điểm nóng của vấn đề này, nhiều thần tượng phải trải qua tình huống tương tự. Mặc dù có nhiều đề xuất và thị hiếu từ hơn 200.000 chữ ký gửi đến Nhà Xanh, nhưng chưa có đối sách cụ thể nào từ chính quyền Hàn Quốc.

Giữa năm 2023, một video về cặp đôi nghệ sĩ Jungkook và Lisa đã lan truyền trên mạng. Trong đó, hai ngôi sao này được thể hiện ngồi cạnh nhau, trao đổi ánh mắt và thậm chí có những cử chỉ vuốt ve lẫn nhau. Một đoạn clip khác lại ghi lại cảnh bộ đôi ôm nhau thân thiết. Đáng chú ý, tất cả những hình ảnh này đều được chỉnh sửa bằng trí tuệ nhân tạo (AI), nhưng vẫn giữ nguyên một độ chân thực đến mức nhiều cư dân mạng bị nhầm lẫn, lầm tưởng rằng chúng là hình ảnh thực tế.

Sự việc này làm nổi lên hồi chuông cảnh báo về sự không trong sạch của không gian ảo. Ngay cả những điều mà mắt nhìn thấy và tai nghe nghe cũng không chắc chắn là sự thật. Dư luận đối diện với tình trạng không biết tin vào cái gì. Hơn nữa, điều này cũng khiến nhiều người lo ngại cho quyền sử dụng hình ảnh của các thần tượng.

Đến tháng 9/2023, cơ quan công tố Hàn Quốc đã thông báo về một sinh viên Hàn Quốc đang du học ở Mỹ, được biết đến với tên gọi Mr. A, đã tạo và phát tán hàng nghìn hình ảnh khiêu dâm của các sao Kpop dưới 18 tuổi. 

Trong giai đoạn từ tháng 8/2019 đến tháng 6/2023, A đã tạo ra 2.300 video nhạy cảm sử dụng công nghệ deepfake. A đã sử dụng kỹ thuật số để thay đổi khuôn mặt của các thần tượng và người nổi tiếng vị thành niên khác, tạo ra hình ảnh giống người trưởng thành. 

Mặc dù không bán các tác phẩm của mình, A đã phát tán khoảng 5.800 video khiêu dâm thông qua các phòng trò chuyện độc quyền chỉ dành cho thành viên trên Telegram và các nền tảng tương tự. Có ít nhất 50 người nổi tiếng được xác nhận là nạn nhân của anh ta.

Cảnh sát Hàn Quốc đã phát hiện phòng trò chuyện Telegram của A vào tháng 12/2022. Ngay sau đó, họ đã xin lệnh bắt giữ, vô hiệu hóa hộ chiếu của A, đồng thời yêu cầu sự hợp tác từ chính quyền Mỹ thông qua hệ thống thông báo đỏ của Interpol. A đã chính thức bị bắt vào tháng 6/2023. Tòa án Mỹ đã từ chối đơn xin bảo lãnh và sau đó không lâu, Anh ta bị còng tay và trục xuất về Hàn Quốc vào ngày 22/8/2023.

A đã thú nhận, ông bắt đầu sản xuất và phát tán video giả mạo sau khi tình cờ nhìn thấy chúng trên mạng xã hội khi còn ở Hàn Quốc. Tất cả hành vi phạm tội này chỉ để thỏa mãn nhu cầu cá nhân.

Theo đạo luật an toàn trực tuyến mới của Vương quốc Anh, việc chia sẻ tài liệu khiêu dâm deepfake là bất hợp pháp. Clare McGlynn, giáo sư luật tại Đại học Durham và là chuyên gia về lĩnh vực này cho biết: "Tôi không nghĩ có ai mong chờ hàng loạt người bị kết án hình sự, nhưng về mặt kỹ thuật, việc chia sẻ nhiều hình ảnh này của Taylor Swift sẽ cấu thành tội hình sự".

Cô nói, trong nhiều năm, quan điểm của chính phủ là việc bị giả mạo hình ảnh khiêu dâm không thực sự đáng lo ngại. "Vấn đề rộng hơn là lạm dụng trực tuyến đối với phụ nữ và trẻ em gái không được coi trọng. Mọi người không hiểu tác hại của điều này có thể rất tàn khốc và diễn ra liên tục. Ngay cả khi nạn nhân tưởng như vượt qua, chỉ cần thấy hình ảnh của mình trên internet, cơn đau sẽ quay trở lại"

Tại Việt Nam, gần đây, loạt ảnh "nóng" giả mạo ngôi sao Việt đã tạo nên làn sóng phẫn nộ trên Twitter. Các tài khoản lợi dụng công nghệ deepfake để tái tạo khuôn mặt và hình dáng của các nghệ sĩ nổi tiếng, tạo ra những bức ảnh không đúng đắn, thậm chí làm mất uy tín của họ.

Một số tài khoản như "Fake_***" đã thu hút 10.000 người theo dõi, chuyên đăng ảnh nhạy cảm của nghệ sĩ Việt, thậm chí bán chúng với giá khác nhau. Điều đáng phẫn nộ là chủ nhân của tài khoản này khẳng định việc cắt ghép chỉ mang tính chất giải trí và không xúc phạm ai.

Ngoài việc làm mất uy tín người nổi tiếng trong showbiz, còn có nhiều nam TikToker bị chế ảnh khiêu dâm. Deepfake đã không chỉ là một định nghĩa giải trí, mà còn trở thành mối đe dọa đối với danh tiếng và quyền hình ảnh cá nhân.

Cùng với sự phát triển của deepfake là việc lạm dụng nó để thao túng thông tin về chính trị và gây thiệt hại nặng nề đến danh dự của nhiều người. Chuyên gia đánh giá, deepfake là một mối đe dọa nguy hiểm, khi thông tin giả mạo có thể lan truyền rất nhanh trên mạng, khiến việc lựa chọn thông tin trở nên khó khăn hơn.

×