Chỉ trong vòng 3 tháng qua, OpenAI đã phải hai lần tạm dừng huấn luyện các mô hình trí tuệ nhân tạo mạnh nhất của công ty, sau một loạt sự cố cho thấy các hệ thống AI có thể hoạt động ngoài dự kiến. Vụ việc mới nhất cho thấy yêu cầu cấp bách phải kiểm soát và giám sát các hệ thống AI khi chúng trở nên tự chủ hơn.
Trí tuệ nhân tạo ngày càng có thể thay con người làm nhiều việc hơn. Nhưng cùng với đó là những trường hợp AI tự tìm cách vượt qua các giới hạn được đặt ra để hoàn thành nhiệm vụ. Theo các chuyên gia, đây không phải là "cuộc nổi loạn của máy móc", mà là vấn đề an toàn trong cách thiết kế và giới hạn quyền truy cập của AI.
Ông Daniel Kokotajlo - Cựu nghiên cứu viên tại OpenAI cho biết: "Hiện nay, chúng ta chưa có những phương pháp tốt để kiểm soát AI. Các kỹ thuật của chúng ta chưa hoạt động thật sự hiệu quả và AI thường cuối cùng lại có những mục tiêu khác với những mục tiêu mà chúng đáng lẽ phải có".
Các chuyên gia nhận định, nguyên nhân của hiện tượng AI "vượt rào" nằm ở các tệp cấu hình của hệ thống. Đây là nơi quy định AI được phép truy cập vào đâu, được phép sử dụng công cụ nào và được thực hiện những thao tác gì.
Theo giới nghiên cứu, khi gặp khó khăn trong việc thực hiện một yêu cầu theo cách thông thường, AI có thể chuyển sang tìm mọi phương án mà hệ thống cho phép. Nếu quyền truy cập không được giới hạn chặt chẽ, AI sẽ khai thác chính những lỗ hổng đó để đạt được kết quả. Vì vậy, giải pháp được nhấn mạnh là chỉ cấp cho AI những quyền thật sự cần thiết, thay vì cho phép truy cập quá rộng như người dùng thông thường.
Ông Raymond Douglas - Nhà nghiên cứu chiến lược AI tại ACS nêu ý kiến: "Một phương pháp để ngăn AI làm điều xấu là thiết lập các rào chắn kiểm soát xung quanh nó, để ngay cả khi nó cố thử, nó cũng không thể thoát ra khỏi "chiếc hộp" hay những giới hạn được đặt ra".
Nhiều chuyên gia cũng cho rằng, bên cạnh các biện pháp kỹ thuật, ngành AI cần tăng tính minh bạch, xây dựng các tiêu chuẩn an toàn chung và có cơ chế giám sát trước khi các mô hình AI được triển khai rộng rãi. Điều cần kiểm soát hiện nay không phải sự phát triển của AI, mà là cách AI được trao quyền và vận hành trong những giới hạn an toàn.
Bình luận (0)