Trung Quốc sắp trở nên cứng rắn hơn đối với deepfake theo cách chưa từng có

Trong một năm được đánh dấu bằng những tiến bộ dường như xuất hiện hàng tuần về khả năng của AI, các cơ quan chính phủ và các nhà lập pháp trên khắp thế giới đã phải vật lộn để theo kịp, trong đó có cả deepfake.

Công nghệ này có thể bao gồm việc sử dụng các thuật toán học sâu và thực tế tăng cường để tạo văn bản, âm thanh, hình ảnh hoặc video. Trong nhiều năm qua, chúng ta đã thấy nhiều trường hợp công nghệ này được sử dụng để mạo danh các cá nhân nổi tiếng, từ những người nổi tiếng và giám đốc điều hành công nghệ cho đến các nhân vật chính trị. Vì vậy, bắt đầu từ tháng tới, các nhà quản lý Trung Quốc sẽ áp dụng các quy tắc mới hạn chế một trong những trường hợp sử dụng căng thẳng nhất của AI: Deepfake.

Cụ thể, vào tháng 1 năm tới, Trung Quốc sẽ áp dụng quy định đầu tiên về "deepfake", tăng cường kiểm soát nội dung internet. Vốn dĩ, Deepfake là hình ảnh hoặc video được tạo hoặc thay đổi tổng hợp được tạo bằng cách sử dụng một dạng trí tuệ nhân tạo. Công nghệ này có thể được sử dụng để thay đổi video hiện có, chẳng hạn bằng cách đặt khuôn mặt của một chính trị gia lên video hiện có hoặc thậm chí tạo bài phát biểu giả.

Kết quả tưởng chừng chúng là phương tiện truyền thông bịa đặt có vẻ là thật nhưng sự thật thì không phải vậy. Vì vậy mà nó đã để lại nhiều hậu quả khôn lường.

Bắc Kinh đã công bố các quy tắc quản lý công nghệ deepfake vào đầu năm nay và hoàn thiện chúng vào tháng 12. Chúng sẽ có hiệu lực vào ngày 10 tháng 1 năm 2023.

Dưới đây là một số quy định chính:

• Người dùng phải đồng ý nếu hình ảnh của họ được sử dụng trong bất kỳ công nghệ tổng hợp deepfake nào.

• Các dịch vụ deepfake không thể sử dụng công nghệ này để phổ biến tin giả.

• Các dịch vụ deepfake cần xác thực danh tính thực của người dùng.

• Bên thực hiện công nghệ deepfake phải gửi một loại thông báo nào đó để cho người dùng biết rằng hình ảnh hoặc video đã bị thay đổi bằng công nghệ.

• Nội dung đi ngược lại luật hiện hành đều bị cấm, cũng như nội dung gây nguy hiểm cho lợi ích và an ninh quốc gia, làm tổn hại hình ảnh quốc gia hoặc làm gián đoạn nền kinh tế.

Trung Quốc đang thiết lập tiêu chuẩn cho quy định Deepfake, tốt hơn hay tồi tệ hơn?

Cơ quan quản lý không gian mạng hùng mạnh của Trung Quốc là cơ quan quản lý đằng sau các quy tắc này. Được biết, kể từ cuối năm 2020, Trung Quốc đã tìm cách kiềm chế quyền lực của những gã khổng lồ công nghệ trong nước và đưa ra quy định sâu rộng trong các lĩnh vực từ chống độc quyền đến bảo vệ dữ liệu. Nhưng họ cũng đã tìm cách điều chỉnh các công nghệ mới nổi, và đi xa hơn bất kỳ quốc gia nào khác trong các quy tắc công nghệ của mình.

Đầu năm nay, Trung Quốc đã đưa ra một quy tắc quản lý cách các công ty công nghệ có thể sử dụng các thuật toán đề xuất, trong một luật đầu tiên khác. Các nhà phân tích cho biết luật này giải quyết hai mục tiêu - kiểm duyệt trực tuyến chặt chẽ hơn, và vượt lên trên các quy định về công nghệ mới.

Paul Triolo, lãnh đạo chính sách công nghệ tại công ty tư vấn Albright Stonebridge, nói với CNBC: "Chính quyền Trung Quốc rõ ràng đang mong muốn trấn áp khả năng các phần tử chống chế độ sử dụng deepfake giả mạo các nhà lãnh đạo cấp cao, bao gồm cả Tập Cận Bình, để truyền bá tuyên bố chống chế độ".

"Nhưng các quy tắc cũng minh họa rằng chính quyền Trung Quốc đang cố gắng giải quyết các vấn đề nội dung trực tuyến khó khăn theo cách mà ít quốc gia khác đang làm, tìm cách đi trước đón đầu khi các công nghệ mới như nội dung do AI tạo ra bắt đầu phổ biến trực tuyến".

Triolo nói thêm rằng, các quy định về AI mà Bắc Kinh đã đưa ra trong những năm gần đây "được thiết kế để giữ cho các nỗ lực kiểm duyệt nội dung đi trước một bước so với các công nghệ mới nổi, đảm bảo rằng Bắc Kinh có thể tiếp tục dự đoán sự xuất hiện của các công nghệ có thể được sử dụng để phá vỡ sự kiểm soát hệ thống tổng thể".

Công nghệ deepfake không hoàn toàn xấu. Nó có thể có một số ứng dụng tích cực trong các lĩnh vực như giáo dục và chăm sóc sức khỏe. Nhưng Trung Quốc đang cố gắng giải quyết vai trò tiêu cực của nó trong việc tạo ra thông tin giả mạo.

Kendra Schaefer, đối tác tại công ty tư vấn Trivium China có trụ sở tại Bắc Kinh chia sẻ: "Điều thú vị là Trung Quốc đang nhắm vào một trong những mối đe dọa nghiêm trọng đối với xã hội của chúng ta trong thời hiện đại: sự xói mòn niềm tin vào những gì chúng ta thấy và nghe, và ngày càng khó phân biệt sự thật và dối trá".

Thông qua việc đưa ra quy định, các cơ quan quản lý khác nhau của Trung Quốc đã tích lũy kinh nghiệm trong việc thực thi các quy tắc công nghệ. Có một số phần của quy định deepfake không rõ ràng, chẳng hạn như cách chứng minh bạn được người khác đồng ý sử dụng hình ảnh của họ. Nhưng nhìn chung, Kendra Schaefer cho biết trong lưu ý của mình, hệ thống quản lý hiện tại của Trung Quốc sẽ giúp họ thực thi các quy tắc một cách triệt để hơn.

"Trung Quốc có thể đưa ra các quy tắc này vì họ đã có sẵn các hệ thống để kiểm soát việc truyền tải nội dung trong không gian trực tuyến, và các cơ quan quản lý tại chỗ thực thi các quy tắc này", Kendra Schaefer cho biết thêm.