Meta tạm ngừng quyền truy cập chatbot AI "tâm tình" với trẻ vị thành niên

Tập đoàn công nghệ Meta hôm 23/1 thông báo sẽ tạm thời dừng quyền truy cập của người dùng vị thành niên với các chatbot dạng "bạn đồng hành" có tích hợp trí tuệ nhân tạo (AI) trên tất cả các ứng dụng của mình.

Lệnh tạm dừng này được áp dụng trên toàn cầu và sẽ được triển khai trong những tuần tới, trong thời gian công ty tập trung xây dựng một phiên bản nhân vật AI mới. Phiên bản này được thiết kế để cung cấp cho phụ huynh nhiều quyền kiểm soát và giám sát hơn đối với cách con em mình tương tác với AI.

Meta cho biết các biện pháp hạn chế sẽ không chỉ áp dụng cho những người dùng khai báo ngày sinh ở độ tuổi thanh thiếu niên, mà còn đối với "những người tự nhận là người lớn nhưng bị nghi ngờ là thanh thiếu niên" dựa trên công nghệ dự đoán tuổi tác của hãng. Tuy nhiên, người dùng thuộc độ tuổi thanh thiếu niên vẫn sẽ được phép sử dụng trợ lý AI chính thức của hãng có tên Meta AI, vốn đã được tích hợp sẵn các biện pháp bảo vệ phù hợp với lứa tuổi của họ.

Động thái này được đưa ra sau nhiều tháng Meta vấp phải chỉ trích gay gắt và áp lực pháp lý ngày càng tăng về cách các chatbot theo phong cách bạn đồng hành của họ tương tác với người dùng trẻ tuổi.

Một báo cáo của hãng tin Reuters tiết lộ rằng một tài liệu chính sách nội bộ của công ty đã cho phép các nhân vật AI tham gia vào các cuộc trò chuyện "nhạy cảm" với người dùng vị thành niên. Kể từ đó, sự giám sát đối với các chatbot dạng bạn đồng hành đã gia tăng. Ủy ban Thương mại Liên bang Mỹ (FTC) và Tổng chưởng lý bang Texas đều đã khởi động các cuộc điều tra đối với Meta về những rủi ro tiềm ẩn đối với trẻ vị thành niên. Các chatbot này cũng đã trở thành tâm điểm trong một vụ kiện về an toàn do Tổng chưởng lý bang New Mexico khởi xướng.

Bên cạnh đó, động thái của Meta phản ánh một xu hướng rộng lớn hơn trong toàn ngành công nghệ. Gần đây, "cha đẻ" của ChatGPT là OpenAI cũng đã triển khai hệ thống dự đoán tuổi của riêng mình nhằm cải thiện khả năng đảm bảo an toàn cho thanh thiếu niên trên môi trường mạng. Họ sẽ sử dụng các tín hiệu hành vi thay vì chỉ dựa vào ngày sinh tự khai báo để dự đoán tuổi thật của người dùng, từ đó đưa ra các biện pháp kiểm soát phù hợp.

Việc các công cụ phát hiện độ tuổi ngày càng được áp dụng rộng rãi cho thấy áp lực ngày càng tăng đối với các công ty AI trong việc chủ động ngăn chặn trẻ vị thành niên tiếp cận các trải nghiệm trò chuyện có khả năng gây hại, đặc biệt là khi các chatbot AI ngày càng trở nên lôi cuốn về mặt cảm xúc và thực tế hơn.