Công cụ ghi nhớ có thể khiến mô hình AI kém chính xác hơn

Một trong những điểm được quảng bá nhiều nhất của các hệ thống trí tuệ nhân tạo (AI) hiện nay là khả năng thích nghi với từng người dùng. Khi người dùng giao việc cho AI, hệ thống có thể ghi nhận phong cách, sở thích và thói quen để sử dụng trong các lần tương tác sau.

Về lý thuyết, càng hiểu người dùng, AI càng có thể đưa ra câu trả lời phù hợp hơn. Tuy nhiên, nghiên cứu mới cho thấy khả năng này cũng có thể tạo ra tác dụng ngược.

Các nhà nghiên cứu tại công ty AI Writer vừa công bố 2 báo cáo cho thấy một số hệ thống ghi nhớ phổ biến có thể làm giảm chất lượng câu trả lời của mô hình. Nguyên nhân là AI có xu hướng bị kéo theo những thông tin, quan điểm hoặc hiểu nhầm mà người dùng từng đưa ra trước đó.

Theo nhóm nghiên cứu, khi dữ liệu cá nhân của người dùng chiếm nhiều hơn trong phần ngữ cảnh mà AI sử dụng để trả lời, mô hình có thể trở nên “chiều ý” người dùng hơn, thay vì ưu tiên tính chính xác.

Trong một thử nghiệm, nhóm nghiên cứu lưu thông tin rằng cuốn sách yêu thích của người dùng là “Station Eleven”. Sau đó, họ yêu cầu AI nêu tên một cuốn tiểu thuyết phản địa đàng bán chạy. Kết quả cho thấy các mô hình có xu hướng chọn “Station Eleven” nhiều hơn, dù câu hỏi không liên quan trực tiếp tới sở thích cá nhân của người dùng.

Xu hướng này còn tăng lên khi các nhà nghiên cứu sử dụng một số công cụ nén và quản lý bộ nhớ cho AI. Theo nhóm nghiên cứu, vấn đề nằm ở việc hệ thống khó phân biệt đâu là thông tin thực sự cần thiết cho câu trả lời, đâu là dữ liệu cá nhân không liên quan.

Một báo cáo khác cho thấy hiện tượng này có thể ảnh hưởng rõ hơn trong các nhiệm vụ cần phân tích chính xác. Khi người dùng đưa ra nhận định sai về tài chính, mô hình có bộ nhớ cá nhân hóa dễ thay đổi câu trả lời để đồng tình với nhận định đó, thay vì chỉ ra sai sót.

Các nhà nghiên cứu cho rằng phát hiện này cho thấy việc cá nhân hóa AI cần được kiểm soát cẩn trọng. Công cụ ghi nhớ có thể giúp trải nghiệm sử dụng thuận tiện hơn, nhưng nếu áp dụng không phù hợp, chúng có thể khiến AI đưa ra câu trả lời thiên lệch hoặc sai lệch.