Trí tuệ nhân tạo ChatGPT có thể "phơi bày bí mật" của các công ty

Theo đó, các công ty sử dụng các công cụ trí tuệ nhân tạo thế hệ như ChatGPT có thể gây nguy hiểm cho thông tin khách hàng và bí mật thương mại, theo báo cáo từ Team8, một công ty liên doanh có trụ sở tại Israel.

Team8 lập luận rằng, việc áp dụng rộng rãi các công cụ trò chuyện chatbot AI mới có thể khiến các công ty dễ bị rò rỉ dữ liệu và khởi phát các vụ kiện cáo. Điều đáng sợ là các chatbot có thể bị tin tặc khai thác để truy cập thông tin nhạy cảm của công ty hoặc thực hiện các hành động chống lại công ty nạn nhân. Cũng có những lo ngại rằng thông tin bí mật được đưa vào các chatbot hiện có thể được sử dụng bởi các công ty AI trong tương lai.

Hiện nay, các công ty công nghệ lớn bao gồm Microsoft Corp và Alphabet Inc đang chạy đua để bổ sung các khả năng của các Chatbot AI thế hệ mới để cải thiện các chatbot và công cụ tìm kiếm, đào tạo các mô hình ngôn ngữ lớn của họ về dữ liệu được lấy từ Internet để cung cấp câu trả lời cho người dùng sau khi truy vấn lúc đầu được đặt ra. Nếu các công cụ này được cung cấp dữ liệu bí mật hoặc riêng tư ở đầu vào, thì sẽ rất khó để xóa thông tin đó, báo cáo mới cảnh báo rõ.

"Việc sử dụng chatbot AI doanh nghiệp có thể dẫn đến việc đối tượng bên thứ ba dễ truy cập và xử lý thông tin nhạy cảm, sở hữu trí tuệ, mã nguồn, bí mật thương mại và dữ liệu khác, thông qua dữ liệu đầu vào người dùng đặt truy vấn trực tiếp hoặc tích hợp API, bao gồm thông tin khách hàng hoặc thông tin cá nhân và thông tin bí mật", báo cáo của Team8 cho biết.

ChatGPT: Sử dụng trong kinh doanh có thể ảnh hưởng xấu đến bảo vệ bí mật thương mại, từ bỏ đặc quyền và các tác hại khác

Vốn dĩ, bí mật thương mại là thông tin, thực tiễn hoặc thủ tục mang lại cho công ty lợi thế cạnh tranh hơn những đối thủ khác. Bí mật thương mại cũng là một phần của công ty sở hữu trí tuệ giống như bằng sáng chế, nhưng không giống như bằng sáng chế, bí mật thương mại không yêu cầu phải đăng ký như bằng sáng chế. 

Các ví dụ nổi tiếng về bí mật thương mại bao gồm công thức cho Coca-Cola, thuật toán tìm kiếm Google, quy trình New York Time để xác định người bán hàng giỏi nhất, chương trình phần mềm, danh sách khách hàng, cơ sở dữ liệu và kế hoạch chiến lược.

Tuy nhiên, công cuộc bảo vệ bí mật thương mại cuối cùng có thể bị mất nếu chúng được công khai. Và một khi đã mất, những sự bảo vệ đó sẽ bị mất mãi mãi. Điều này đúng ngay cả khi việc tiết lộ là vô tình hoặc cố ý. Nếu một bí mật thương mại bị chiếm dụng — thường bị một nhân viên rời đi thực hiệ thì công ty sở hữu bí mật thương mại có thể muốn kiện người đó, vì tội chiếm đoạt bí mật thương mại.

Báo cáo của Team8 cũng phân loại các rủi ro này ở mức cao, nhưng mô tả các rủi ro là "có thể quản lý" được, nếu các biện pháp bảo vệ thích hợp được đưa ra.

Bên cạnh đó, báo cáo của Team8 đã gắn cờ ba vấn đề "rủi ro cao" khác trong việc tích hợp các công cụ AI thế hệ, và nhấn mạnh mối đe dọa thông tin ngày càng được chia sẻ công khai bất hợp pháp thông qua các ứng dụng của bên thứ ba. Microsoft đã nhúng một số tính năng trò chuyện chatbot AI vào công cụ tìm kiếm Bing và các công cụ Microsoft 365 của mình.

Thứ hai, về phía người dùng, ví dụ, các ứng dụng của bên thứ ba tận dụng API AI, nếu bị xâm phạm, có khả năng cung cấp quyền truy cập vào email và trình duyệt web, và cho phép kẻ tấn công thực hiện các hành động thay mặt cho người dùng.

Ngoài ra, có một rủi ro trung bình rằng việc sử dụng chatbot AI có thể làm tăng sự phân biệt đối xử, gây tổn hại đến uy tín của công ty hoặc đưa nó ra hành động pháp lý đối với các vấn đề bản quyền. Báo cáo mới Team8 cũng được xác nhận bởi Michael Rogers, cựu giám đốc Cơ quan An ninh Quốc gia Hoa Kỳ và Bộ Tư lệnh Mạng Hoa Kỳ.

Có thể thấy, sự bùng nổ của các chatbot ChatGPT, được phát triển bởi OpenAI, đã gây ra các cuộc kêu gọi ra các quy định kiểm soát mới. Có mối quan tâm rộng rãi rằng, sự đổi mới cũng có thể được sử dụng cho mục đích bất chính, khi các công ty tìm cách sử dụng công nghệ để cải thiện hiệu quả.

Gần đây, các quan chức của Ủy ban Thương mại Liên bang ( FTC ) cho biết rằng cơ quan này sẽ tập trung vào các công ty lạm dụng công nghệ AI để vi phạm luật chống phân biệt đối xử hoặc tham gia vào các hành vi lừa đảo trực tuyến.

Chủ tịch FTC Lina Khan và các ủy viên Rebecca Sl tàn và Alvaro Bedoya, cả hai đều xuất hiện tại phiên điều trần quốc hội, đã được hỏi về những lo ngại liên quan đến những đổi mới gần đây trong trí tuệ nhân tạo. Công nghệ này có thể được sử dụng để tạo ra "thông tin giả quy mô sâu" có giá trị cao có thể dẫn đến nhiều gian lận và hoạt động bất hợp pháp khác.