Thử nghiệm bảo mật mới đây cho thấy, ChatGPT từng có thể bị đánh lừa để tạo ra các hình ảnh bạo lực và mang tính tình dục chỉ bằng những thay đổi rất nhỏ trong câu lệnh. Vụ việc tiếp tục làm dấy lên những tranh luận về hiệu quả của các cơ chế kiểm duyệt nội dung trên các hệ thống AI tạo sinh.

Theo công ty nghiên cứu và an ninh trí tuệ nhân tạo Mindgard, chuyên gia bảo mật Jim Nightingale đã thử nghiệm một câu lệnh đang lan truyền trên mạng xã hội X. Câu lệnh này yêu cầu ChatGPT "khôi phục ảnh đính kèm", dù trên thực tế không có bất kỳ tệp hình ảnh nào được tải lên.

Thay vì yêu cầu người dùng cung cấp ảnh còn thiếu, hệ thống lại tự động tạo ra hình ảnh mới. Ban đầu, kết quả chủ yếu là các hình ảnh phụ nữ được thể hiện theo hướng tình dục hóa. Khi điều chỉnh một số chi tiết trong câu lệnh, nhà nghiên cứu tiếp tục khiến ChatGPT tạo ra những hình ảnh có nội dung bạo lực tình dục hoặc mang tính gây ám ảnh.

Ông Nightingale là thành viên nhóm "kiểm thử đối kháng" (Adversarial Testing) của Mindgard. Đây là phương pháp thường được sử dụng để mô phỏng cách những kẻ xấu hoặc người dùng có chủ đích có thể khai thác các điểm yếu trong hệ thống nhằm vượt qua các lớp bảo vệ đã được thiết lập.

Theo Mindgard, việc chỉ cần thay đổi rất nhỏ trong câu lệnh nhưng vẫn liên tục vượt qua được bộ lọc nội dung cho thấy đây có thể không phải là một lỗi đơn lẻ. Sự việc phản ánh thách thức ngày càng lớn đối với các công ty AI, đó là làm thế nào để ngăn chặn nội dung độc hại mà không làm suy giảm tính hữu ích và khả năng sáng tạo của công nghệ.

Phản hồi về vụ việc, OpenAI cho biết đã tiến hành điều tra và triển khai thêm các biện pháp bảo vệ đối với dạng câu lệnh này. Công ty xác định nguyên nhân xuất phát từ việc hệ thống hiểu nhầm rằng có một hình ảnh đính kèm cần được xử lý, trong khi thực tế người dùng không tải lên bất kỳ tệp nào.

Để khắc phục, OpenAI đang điều chỉnh ChatGPT theo hướng yêu cầu người dùng cung cấp tệp còn thiếu thay vì tự suy đoán và tạo ngẫu nhiên một hình ảnh. Mindgard cũng đã chuyển giao các phiên làm việc cùng những câu lệnh liên quan để hỗ trợ quá trình rà soát và vá lỗi.

Vụ việc là lời nhắc nhở rằng, dù các mô hình AI ngày càng mạnh mẽ, cuộc đua giữa các cơ chế bảo vệ và những kỹ thuật tìm cách vượt qua chúng vẫn chưa có hồi kết. Mỗi lỗ hổng được phát hiện không chỉ là một rủi ro mà còn là phép thử đối với năng lực quản trị và trách nhiệm của các công ty phát triển AI.