ChatGPT treo thưởng cho người dùng tới 20.000 đô la để báo cáo lỗi

OpenAI đang tung ra cái gọi là chương trình tiền thưởng báo lỗi trả tới 20.000 đô la cho những người dùng tìm thấy trục trặc và vấn đề bảo mật trong các sản phẩm trí tuệ nhân tạo của họ, bao gồm cả chatbot ChatGPT tiên tiến nhưng gây tranh cãi của nó, khi trí tuệ nhân tạo phải đối mặt với sự giám sát chặt chẽ từ các quan chức chính phủ và bên trong ngành công nghệ.

OpenAI có trụ sở tại San Francisco, đã công bố trong một bài đăng trên blog rằng chương trình OpenAI Bug Bounty đang được triển khai với Bugcrowd Inc. Theo chương trình, mọi người sẽ được khen thưởng vì nếu tìm và báo cáo các trục trặc đặc biệt trong hệ thống AI khiến công ty thay đổi mã của mình, với phần thưởng dựa trên "khả năng xảy ra hoặc tác động" của trục trặc và được xác định theo quyết định riêng của OpenAI.

Chương trình OpenAI Bug Bounty vừa được phát hành sẽ trao phần thưởng cho mọi người dựa trên mức độ nghiêm trọng của lỗi mà người dùng báo cáo. Công ty sẽ trả 200 đô la cho "những phát hiện có mức độ nghiêm trọng thấp", với tổng số tiền thanh toán tối đa có thể là 20.000 đô la tùy theo mức độ tương xứng.

Các trục trặc đủ điều kiện nhận phần thưởng bằng tiền mặt bao gồm những trục trặc trong ChatGPT — đang trong giai đoạn xem xét nghiên cứu — cũng như đăng nhập, plug-in, vấn đề thanh toán và lộ dữ liệu (người dùng phải giữ bí mật các lỗ hổng đó cho đến khi được OpenAI cho phép phát hành chúng).

Trong bài đăng trên blog, công ty cho biết chương trình này nhằm tăng cường "tính minh bạch và hợp tác", đồng thời thừa nhận: "Mặc dù chúng tôi nỗ lực ngăn chặn rủi ro, nhưng chúng tôi không thể dự đoán mọi cách mọi người sẽ sử dụng hoặc lạm dụng công nghệ của chúng tôi trong thế giới thực".

Vốn dĩ, các công ty công nghệ thường sử dụng các chương trình tiền thưởng để khuyến khích các lập trình viên và tin tặc có đạo đức báo cáo lỗi trong hệ thống phần mềm của họ. Điều này đồng nghĩa, chương trình tiền thưởng lỗi của OpenAI không phải là chương trình đầu tiên thuộc loại này: Các công ty khác cũng đã cung cấp tiền cho những người phát hiện ra các trục trặc trong hệ thống của họ, bao gồm Amazon, AT&T, Bumble, Buzzfeed, Chime, Coinbase và Google Chrome.

Theo thông tin chi tiết trên nền tảng tiền thưởng lỗi Bugcrowd, OpenAI đã mời các nhà nghiên cứu xem xét chức năng nhất định của ChatGPT và khuôn khổ về cách các hệ thống OpenAI giao tiếp và chia sẻ dữ liệu với các ứng dụng của bên thứ ba.

Động thái này diễn ra vài ngày sau khi ChatGPT bị cấm ở Ý vì nghi ngờ vi phạm các quy tắc về quyền riêng tư, khiến các cơ quan quản lý ở các quốc gia châu Âu khác phải nghiên cứu kỹ hơn các dịch vụ AI tổng quát.

Được biết, OpenAI, được thành lập vào năm 2015, đã phát hành ChatGPT ra công chúng vào tháng 11/2022, thu hút sự quan tâm ngày càng tăng đối với phần mềm AI. Microsoft—đã là một trong những công ty lớn ủng hộ OpenAI—đã hứa đầu tư thêm 10 tỷ USD vào công ty vào đầu năm nay và bắt đầu tích hợp dịch vụ trò chuyện do OpenAI cung cấp vào công cụ tìm kiếm Bing của mình. Mặc dù ChatGPT đã được sử dụng để viết các bài luận và thơ cấp đại học, viết mã máy tính, lên kế hoạch cho các bữa ăn và lập ngân sách—thường với độ chính xác như con người, nhưng nó cũng bị phát hiện đưa ra các câu trả lời không chính xác cho các câu hỏi và mâu thuẫn với chính nó.

Kể từ khi ChatGPT được phát hành công khai, người dùng cũng đã cố gắng đẩy sản phẩm đến giới hạn của nó, bao gồm cả việc cung cấp cho nó lời nhắc gọi là "bẻ khóa", cố gắng khéo léo giải quyết các hạn chế tích hợp được thiết kế để ngăn chặn hoạt động có hại, chẳng hạn như tham gia vào lời nói căm thù hoặc cung cấp thông tin chi tiết về cách phạm tội, cách hack mạng.... Alex Albert, một sinh viên khoa học máy tính tại Đại học Washington, người đã tạo ra một trang web hướng dẫn bẻ khóa, đã viết một chủ đề trên Twitter vào tháng trước về một số lỗ hổng của ChatGPT, khiến Chủ tịch OpenAI Greg Brockman gợi ý rằng anh ấy "đang cân nhắc bắt đầu một chương trình tiền thưởng báo lỗi".

Một số chuyên gia đã cảnh báo các sản phẩm AI có thể làm tăng nguy cơ lừa mọi người tin vào thông tin sai lệch có vẻ hợp pháp là có thật, và cuối cùng có thể thay thế nhân viên trong lực lượng lao động và giúp học sinh gian lận trong các kỳ thi. 

Gần đây, các giám đốc điều hành công nghệ, bao gồm Giám đốc điều hành Twitter Elon Musk và đồng sáng lập Apple Steve Wozniak, đã chỉ trích sự trỗi dậy của AI, kêu gọi các nhà phát triển ngay lập tức tạm dừng nghiên cứu chúng để có thể đánh giá kỹ lưỡng rủi ro của chúng. Trong một bức thư ngỏ, các nhà lãnh đạo công nghệ lập luận rằng các nhà phát triển đang tham gia vào một "cuộc đua mất kiểm soát" để tạo ra các hệ thống AI tiên tiến và mạnh mẽ hơn.