Dự thảo Luật Trí tuệ nhân tạo: AI không thay thế con người trong các quyết định trọng yếu

Bộ Khoa học và Công nghệ đang lấy ý kiến nhân dân đối với dự thảo Luật Trí tuệ nhân tạo. Dự thảo Luật Trí tuệ nhân tạo bao gồm 9 Chương, 70 Điều.

Theo dự thảo, mọi hoạt động liên quan đến hệ thống trí tuệ nhân tạo tại Việt Nam phải tuân thủ 7 nguyên tắc cơ bản sau:

1- Lấy con người làm trung tâm (nhân văn): AI phải phục vụ và hỗ trợ con người, không thay thế con người trong các quyết định trọng yếu và phải luôn nằm dưới sự kiểm soát, giám sát và chịu trách nhiệm cuối cùng của con người.

2- Bảo đảm an toàn, công bằng, minh bạch và trách nhiệm: Hệ thống AI phải được phát triển và vận hành một cách an toàn, tin cậy, bảo mật và bảo đảm công bằng, không phân biệt đối xử; có khả năng giải trình và phải xác định rõ trách nhiệm pháp lý đối với các thiệt hại gây ra.

AI không thay thế con người trong các quyết định trọng yếu. Ảnh VDI

3- Bảo đảm tự chủ quốc gia và hội nhập quốc tế: Phát triển năng lực tự chủ về công nghệ, hạ tầng, dữ liệu và các mô hình trí tuệ nhân tạo; chủ động hợp tác, hội nhập quốc tế trên cơ sở hài hoà với các nguyên tắc và thông lệ quốc tế.

4- Phát triển bao trùm và bền vững: Gắn phát triển trí tuệ nhân tạo với mục tiêu phát triển kinh tế - xã hội bền vững, bảo đảm công bằng và cơ hội thụ hưởng cho mọi người dân, không ai bị bỏ lại phía sau, bảo vệ môi trường và giữ gìn bản sắc văn hoá dân tộc.

5- Bảo đảm sự cân bằng và hài hòa trong xây dựng và thực thi chính sách.

6- Quản lý dựa trên rủi ro: Nhà nước áp dụng biện pháp quản lý tương xứng với cấp độ rủi ro của hệ thống trí tuệ nhân tạo, chỉ quy định quản lý bắt buộc đối với hệ thống trí tuệ nhân tạo có nguy cơ gây hại rõ ràng…

7- Thúc đẩy đổi mới sáng tạo: Nhà nước kiến tạo môi trường pháp lý và chính sách thuận lợi, an toàn để thúc đẩy nghiên cứu, khởi nghiệp và thương mại hóa các sản phẩm, dịch vụ liên quan đến hệ thống trí tuệ nhân tạo.

Dự thảo cũng phân loại hệ thống trí tuệ nhân tạo thành 4 cấp độ rủi ro sau đây để áp dụng các biện pháp quản lý tương ứng:

Rủi ro không chấp nhận được là các hệ thống trí tuệ nhân tạo có mục đích sử dụng gây tổn hại đến an ninh quốc gia, các giá trị xã hội và quyền con người, bị cấm theo quy định tại Điều 11 của Luật này.

Rủi ro cao là các hệ thống trí tuệ nhân tạo được sử dụng trong các lĩnh vực hoặc cho các mục đích có khả năng gây tổn hại đáng kể đến tính mạng, sức khỏe, các quyền cơ bản của con người, an ninh, trật tự và các lợi ích công cộng quan trọng khác.

Rủi ro trung bình là các hệ thống trí tuệ nhân tạo có tương tác trực tiếp với con người hoặc tạo ra nội dung mà người sử dụng cần được biết về bản chất nhân tạo của nó.

Rủi ro thấp là các hệ thống trí tuệ nhân tạo không thuộc các trường hợp quy định trên.

Các trường hợp hệ thống trí tuệ nhân tạo bị cấm

Theo dự thảo, nghiêm cấm việc nghiên cứu, phát triển, cung cấp, triển khai và sử dụng hệ thống trí tuệ nhân tạo trong các trường hợp sau đây:

Thao túng nhận thức, hành vi của con người một cách có chủ đích nhằm làm mất khả năng tự chủ, ra quyết định, dẫn đến hoặc có khả năng dẫn đến tổn hại về thể chất hoặc tinh thần. Lợi dụng các điểm yếu của một nhóm người cụ thể liên quan đến tuổi tác, khuyết tật hoặc hoàn cảnh kinh tế, xã hội để tác động đến hành vi của họ. 

Chấm điểm tín nhiệm xã hội đối với cá nhân trên phạm vi rộng bởi cơ quan nhà nước, dẫn đến sự đối xử bất lợi hoặc không công bằng trong các bối cảnh xã hội không liên quan. 

Sử dụng hệ thống nhận dạng sinh trắc học từ xa theo thời gian thực tại các địa điểm công cộng cho mục đích thực thi pháp luật, trừ các trường hợp đặc biệt do luật chuyên ngành quy định nhằm phòng, chống tội phạm nghiêm trọng và phải được cơ quan nhà nước có thẩm quyền cho phép theo một trình tự đặc biệt.

Xây dựng hoặc khai thác cơ sở dữ liệu nhận dạng khuôn mặt quy mô lớn thông qua việc thu thập hình ảnh một cách tràn lan, không có chủ đích từ internet hoặc camera giám sát. Sử dụng hệ thống nhận diện cảm xúc tại nơi làm việc và các cơ sở giáo dục, trừ trường hợp luật chuyên ngành cho phép vì lý do y tế hoặc an toàn với các điều kiện nghiêm ngặt.

Sản xuất hoặc phổ biến nội dung giả mạo và các nội dung khác do trí tuệ nhân tạo tạo ra có khả năng gây nguy hại nghiêm trọng đến trật tự, an toàn xã hội, an ninh quốc gia. 

Phát triển hoặc sử dụng hệ thống trí tuệ nhân tạo nhằm chống phá Nhà nước Cộng hòa xã hội chủ nghĩa Việt Nam.

Các trường hợp khác do Chính phủ quy định sau khi có ý kiến của các cơ quan liên quan và thực hiện tham vấn công khai.

Bộ Khoa học và Công nghệ đang lấy ý kiến đối với dự thảo này trên Cổng TTĐT của Bộ.

×