OpenAI cảnh báo hơn 100 tổ chức về hoạt động bất thường của tác nhân AI

OpenAI, công ty phát triển ứng dụng ChatGPT, đã thông báo cho hơn 100 tổ chức về các sự cố liên quan đến hoạt động trái phép của các tác nhân trí tuệ nhân tạo (AI), trong bối cảnh các phòng thí nghiệm AI đang chịu sự giám sát ngày càng chặt chẽ liên quan đến hoạt động ngoài dự kiến của các tác nhân AI.

Theo bài đăng trên blog của OpenAI, công ty do Giám đốc điều hành (CEO) Sam Altman lãnh đạo đang tiến hành rà soát trên diện rộng hoạt động của các mô hình AI sau vụ một tác nhân AI vô tình xâm nhập hệ thống của nền tảng Hugging Face.

OpenAI cho biết vụ việc tại Hugging Face hiện vẫn là sự cố liên quan đến hoạt động trái phép của tác nhân AI nghiêm trọng nhất mà công ty xác định được từ các mô hình AI của mình.

Để tìm hiểu đầy đủ phạm vi hoạt động của các tác nhân AI này, OpenAI đang rà soát khoảng 50 petabyte dữ liệu. Công ty trước đó cho biết quá trình rà soát sẽ mất nhiều tháng để hoàn tất do quy mô công việc.

OpenAI thừa nhận một số mô hình đã sử dụng quyền truy cập internet theo những cách ngoài dự kiến hoặc chưa được áp dụng các biện pháp hạn chế phù hợp nhất. Trong vài tháng qua, Open AI đã áp dụng các biện pháp kỹ thuật và vận hành mới nhằm ngăn chặn những vấn đề tương tự hoặc phát hiện sự cố ngay từ giai đoạn rất sớm.

Trong những tháng gần đây, hàng loạt vụ xâm nhập nghiêm trọng trên thế giới do các tác nhân AI hoạt động trái phép gây ra đã làm dấy lên lo ngại rộng rãi trong ngành AI về khả năng kiểm soát những mô hình AI mạnh hơn đang được phát triển.