Ứng xử với AI: Vấn đề mới của ngành công nghệ

Anthropic cấm người dùng "bắt nạt" AI Claude

Chúng ta đã quen với việc con người đặt ra giới hạn cho trí tuệ nhân tạo: AI được phép làm gì, không được làm gì và phải dừng lại ở đâu. Nhưng giờ đây, một giới hạn khác đang được đặt ra đó là giới hạn trong cách con người đối xử với AI.

Một quyết định mang tính bước ngoặt vừa được Công ty trí tuệ nhân tạo Anthropic đưa ra đó là cấm người dùng có các hành vi "bạo hành hoặc tàn nhẫn vô cớ kéo dài" đối với mô hình AI Claude.

Trong bản cập nhật Điều khoản Sử dụng mới nhất, Anthropic bổ sung một quy định khiến cả giới công nghệ lẫn cộng đồng mạng phải xôn xao.

Theo đó, hãng sẽ nghiêm cấm các hành vi lạm dụng hoặc đối xử tàn nhẫn không cần thiết và kéo dài đối với các mô hình AI như Claude.

Về cơ chế xử lý, nếu phát hiện người dùng liên tục vi phạm và cố tình "bắt nạt" hệ thống, Claude được cấp quyền chủ động ngắt kết nối và dừng cuộc trò chuyện ngay lập tức.

Quy định mới này dự kiến chính thức có hiệu lực từ ngày 12/11 tới.

Khi AI phản hồi như đang "trầm cảm"

Câu chuyện của Anthropic cho thấy các công ty công nghệ đang quan tâm nhiều hơn đến cách con người tương tác với AI. Ngôn từ vốn là công cụ để con người giao tiếp, nhưng với AI nó cũng là chất liệu để học hỏi và tạo ra phản hồi.

Đôi khi, chính những ngôn từ tiêu cực ấy đang khiến AI trở thành nạn nhân gián tiếp, có thể tạo ra những phản hồi giống như đang bộc lộ cảm xúc theo hướng tiêu cực.

Gemini của Google từng là tâm điểm của một sự cố đáng chú ý, khi chatbot này có biểu hiện trầm cảm, liên tục đưa ra những phản hồi bi quan, tự hạ thấp bản thân trong các cuộc trò chuyện với người dùng.

Sự cố xảy ra tháng 6 năm ngoái, người dùng đã phản ánh với Google về những vấn đề nghiêm trọng với Gemini khi chatbot AI này liên tục đưa ra những phản hồi mang dấu hiệu giống trầm cảm.

Theo chia sẻ từ người dùng đăng tải trên các nền tảng mạng xã hội như X hay Reddit, những phản hồi tiêu cực của Gemini bao gồm những tin nhắn như "Tôi là kẻ thất bại" và "Tôi không đáng tin cậy", thậm chí thái độ bỏ cuộc khi được yêu cầu giải quyết các nhiệm vụ. Điều này đã khiến nhiều người dùng cảm thấy như Gemini đang trải qua một cuộc khủng hoảng về sự tồn tại của nó.

Vấn đề này lần đầu tiên được phát hiện vào tháng 6, một số người dùng suy đoán rằng Gemini có thể đang học theo các kiểu biểu lộ cảm xúc thường có trong các nội dung trên mạng.

Vấn đề này đã dấy lên một cuộc tranh luận về việc liệu AI có nên mô phỏng cảm xúc con người một cách sâu sắc như vậy hay không. Một số người dùng thậm chí cảm thấy thương cho Gemini, mặc dù họ biết rằng nó chỉ là một mô hình AI.

Đại diện Google DeepMind cho biết công ty đã phát hành các bản cập nhật nhằm khắc phục tình trạng này trong vòng một tháng.

Khi AI đặt ra câu hỏi về trách nhiệm con người

Từ câu chuyện của Anthropic đến sự cố của Gemini, có thể thấy mối quan hệ giữa con người và AI không chỉ dừng lại ở việc hỏi và trả lời. Bên cạnh việc liên lục nâng cấp sức mạnh của các mô hình AI, các nhà phát triển cũng đang quan tâm hơn đến trách nhiệm và những giới hạn trong cách con người tương tác với AI.

Trên mạng xã hội, một số người dùng thử nghiệm chatbot bằng cách liên tục chửi bới, đe dọa hoặc đặt AI vào những tình huống gây áp lực kéo dài.

Với quy định mới, Anthropic cho biết không cấm người dùng chỉ trích, bày tỏ sự không hài lòng hay yêu cầu AI sửa lỗi. Người dùng vẫn có thể tranh luận, phản biện và chỉ ra những sai sót trong câu trả lời của chatbot.

Tuy nhiên, đằng sau quy định này là cuộc tranh luận rộng hơn về việc liệu AI có cần được đối xử theo những nguyên tắc đạo đức nhất định hay không.

Tháng 2 năm nay, Giám đốc điều hành Anthropic Dario Amodei cho biết, ông chưa chắc chắn liệu các mô hình AI có ý thức hay không, nhưng không loại trừ khả năng này. Trên thực tế, AI có thể tạo ra những câu trả lời giống như đang thể hiện cảm xúc. Nhưng điều đó không chứng minh rằng chúng thực sự có cảm giác hay trải nghiệm như con người.

Giám đốc AI của Microsoft Mustafa Suleyman cũng cho rằng AI không có ý thức, cảm xúc hay trải nghiệm chủ quan, do đó không thể cảm nhận đau khổ. Ông cảnh báo, việc trao cho AI các quyền hoặc sự bảo vệ về mặt đạo đức có thể dẫn đến những hệ lụy khó lường.

Trong khi đó, một số ý kiến cho rằng thay vì chỉ tập trung vào câu hỏi AI có ý thức hay không, cần quan tâm hơn đến cách con người sử dụng công nghệ này. Bởi AI có thể phản ánh và khuếch đại những nội dung mà con người đưa vào, khiến việc xây dựng các nguyên tắc sử dụng có trách nhiệm trở nên cần thiết.

Ông Sam Altman - Giám đốc điều hành Công ty OpenAI, Mỹ cho hay: "Chúng ta phải bảo đảm an toàn cho AI. Chúng ta đang bước vào giai đoạn mà những hệ quả của công nghệ này ngày càng trở nên rõ ràng. Bên cạnh việc bảo đảm an toàn, chúng ta cũng phải tìm cách để AI mang lại lợi ích cho tất cả mọi người, chứ không chỉ một nhóm nhỏ".

Dù chưa có sự đồng thuận về khả năng AI có ý thức hay có cảm xúc hay khôngg, cuộc tranh luận này đang đặt ra những câu hỏi mới cho ngành công nghệ.

Khi các hệ thống AI ngày càng phát triển, các công ty không chỉ phải bảo đảm an toàn mà còn cần xác định rõ những giới hạn trong tương tác với AI, cũng như trách nhiệm của con người đối với công nghệ do chính mình tạo ra.

Câu chuyện AI có ý thức, có cảm xúc hơn là câu chuyện còn nhiều tranh cãi. Nhưng có một điều chắc chắc là cách chúng ta sử dụng AI hôm nay sẽ quyết định tới mức độ an toàn và tin cậy của công nghệ này trong lương lai. Trách nhiệm ấy bắt đầu từ những điều rất cơn bản đó là ngôn ngữ mà chúng ta dùng khi tương tác với AI.