AI tạo thế giới ảo trên sàn thương mại điện tử

Quảng cáo giả - Nạn nhân thật

Không thể phủ nhận, trí tuệ nhân tạo AI đang khiến nhiều khía cạnh cuộc sống của chúng ta trở nên dễ dàng hơn rất nhiều, hoặc ít nhất là cũng thú vị hơn. Nhờ AI soạn thảo văn bản, hoặc dùng các công cụ tạo ra video nhìn không khác gì người thật.

Kỳ World Cup đang diễn ra là một ví dụ. Khi cầu thủ người Na Uy Erling Haaland gây sốt trên mạng xã hội với một video trông có vẻ như là anh đang ngồi ăn, với biểu cảm hài hước. Nhưng đây chỉ là một sản phẩm của AI. Nhưng có lẽ với người hâm mộ bóng đá, dù họ đã nhìn hàng trăm bức ảnh của Haaland, vẫn phải dụi mắt mấy lần khi xem video này vì nó thật sự quá khó để phân biệt thật giả.

Sẽ không có gì đáng nói nếu tác dụng này của AI chỉ dừng ở mức hỗ trợ công việc của con người. Nhưng sự việc sẽ trở nên nghiêm trọng hơn, khi AI được dùng vào những mục đích trục lợi. Ví dụ như một chiếc cốc rất đẹp, được rao bán trên nhiều trang mạng với giá loanh quanh 30 euro không hề rẻ nhưng lại không phải sản phẩm thật. Và không ít người tiêu dùng đã mất tiền oan cho một sản phẩm ảo.

Hình ảnh một cô gái tên là Eliza cũng như chiếc cốc trên, Eliza không có thật trên đời, mà hoàn toàn là sản phẩm của AI. Nhưng chỉ chừng ấy thôi là quá đủ để Eliza lừa được hàng trăm nghìn USD tiền tiết kiệm của một người đàn ông.

Mọi chuyện bắt đầu bằng một lời mời kết bạn trên Facebook vào cuối năm 2024 - khi ông Chris kết bạn với một người phụ nữ tên là Eliza. Eliza tự giới thiệu làm việc trong lĩnh vực tài chính, thường xuyên đầu tư tiền số và dần tạo dựng niềm tin qua những cuộc trò chuyện, thậm chí cả các cuộc gọi video. Eliza thuyết phục ông đầu tư vào một ứng dụng tiền số. Tin rằng mình đang nói chuyện với một chuyên gia đầu tư thực sự, ông Chris quyết định tham gia với mong muốn gia tăng quỹ hưu trí sau nhiều năm làm việc vất vả.

Ông Chris Colocousis - Nạn nhân lừa đảo bằng AI cho biết: "Đây là cách để tôi làm quỹ hưu trí của mình tăng lên. Tôi không định đầu tư quá lâu".

Trên ứng dụng đầu tư tiền số mà Eliza giới thiệu cho ông, số dư tài khoản liên tục tăng lên, có thời điểm hiển thị hơn 800.000 USD. Cho đến khi một người bạn là quản lý ngân hàng nhìn thấy và hỏi Chris thực sự đang đầu tư vào đâu. Câu hỏi đó khiến ông chột dạ. Và khi kiểm tra lại thì toàn bộ ứng dụng chỉ là giả mạo.

Ông Chris Colocousis - Nạn nhân lừa đảo bằng AI chia sẻ: "Bạn tôi nói với tôi: Chris, anh đã bị lừa".

Tin rằng chỉ cần nộp thêm khoản phí cuối cùng để mở khóa tài khoản, ông Chris tiếp tục làm theo mọi hướng dẫn. Ông xếp hàng chục nghìn USD tiền mặt trên bàn, bỏ vào túi nhựa và trao tận tay cho một người đàn ông đến nhận tại nhà. Tất cả được camera chuông cửa ghi lại. Đoạn video sau đó được chuyển cho cơ quan điều tra, nhưng cũng không thể lấy lại số tiền đã mất.

Những dây chuyền lừa đảo với sự hỗ trợ của AI

Theo điều tra chung của hãng AP và FRONTLINE, điều những nạn nhân như ông Chris đối mặt không còn là một vụ lừa đảo trực tuyến thông thường. Đằng sau những nhân vật như Eliza là các công cụ sử dụng AI để tạo dựng danh tính giả, giao tiếp với nạn nhân và mở rộng hoạt động trên quy mô lớn. Khi trí tuệ nhân tạo giúp cho việc tạo ra những con người, hay những sản phẩm "không có thật" trở nên dễ dàng hơn bao giờ hết, các đường dây lừa đảo cũng đang bước sang một cấp độ hoàn toàn mới.

Nếu trước đây, mỗi kẻ lừa đảo chỉ có thể tiếp cận từng nạn nhân một cách thủ công, thì giờ đây, phần lớn công việc được tự động hóa. Điều tra của AP cho thấy các bộ công cụ dành cho đường dây lừa đảo đã tích hợp những mô hình AI do các công ty công nghệ Mỹ phát triển, cho phép tạo ra những nhân vật đáng tin cậy, xây dựng các cuộc hội thoại tự nhiên và giao tiếp với nạn nhân bằng nhiều ngôn ngữ khác nhau.

Ông Michael Di Girolamo - Cựu chuyên gia Trung tâm Nghiên cứu Quốc phòng Nâng cao, Mỹ cho biết: "Khi các mô hình ngôn ngữ ngày càng tốt hơn, bạn cũng đồng thời mở rộng được phạm vi những người mà mình có thể giao tiếp trên toàn cầu. Những công cụ này có thể giúp tạo tài khoản mạng xã hội ở quy mô lớn, vượt qua nhiều biện pháp ngăn chặn mà các nền tảng đã xây dựng".

Theo các nhà nghiên cứu, các phần mềm này cũng có thể tạo phản hồi tự động, xây dựng kịch bản tiếp cận và theo dõi hiệu quả làm việc của từng người vận hành. Điều đáng lo ngại không phải là AI khiến những kẻ lừa đảo trở nên thông minh hơn. Mà là công nghệ đã giúp chúng hoạt động nhanh hơn, rẻ hơn và trên quy mô lớn hơn. Khi chi phí tạo ra một nhân vật ảo, một cuộc hội thoại hay cả một chiến dịch lừa đảo gần như giảm xuống mức tối thiểu, ranh giới giữa một vụ lừa đảo đơn lẻ và một "dây chuyền" lừa đảo công nghiệp cũng dần bị xóa nhòa.

Siết chặt trách nhiệm của nền tảng để ngăn lừa đảo AI

Khi trí tuệ nhân tạo AI giúp những kẻ lừa đảo hoạt động nhanh hơn và tinh vi hơn, cuộc chiến chống lừa đảo cũng không thể chỉ dừng ở việc cảnh báo người dùng. Nhiều quốc gia đang chuyển sang một cách tiếp cận mới: yêu cầu chính các nền tảng công nghệ, ngân hàng và doanh nghiệp viễn thông phải cùng chịu trách nhiệm ngăn chặn lừa đảo ngay từ đầu.

Sau điều tra của các hãng tin AP và FRONTLINE, OpenAI - công ty mẹ của ChatGPT- cho biết đã khóa nhiều tài khoản bị phát hiện lợi dụng các mô hình AI để phục vụ hoạt động lừa đảo. Google cũng khẳng định đang triển khai nhiều biện pháp nhằm chủ động phát hiện và ngăn chặn việc lạm dụng các công cụ AI của mình. Trong khi đó, tại Mỹ, lực lượng chuyên trách chống scam đang phối hợp với Google, Meta và nhiều doanh nghiệp công nghệ để chia sẻ dữ liệu, truy vết các đường dây lừa đảo xuyên biên giới.

Ở nhiều quốc gia, cách tiếp cận cũng đang thay đổi. Thay vì chỉ xử lý sau khi vụ việc xảy ra, Anh đã thành lập Trung tâm phòng chống tội phạm trực tuyến, quy tụ lực lượng thực thi pháp luật, ngân hàng, doanh nghiệp viễn thông và các hãng công nghệ nhằm phát hiện, ngăn chặn lừa đảo ngay từ sớm. Australia cũng đưa vào thực thi khung pháp lý mới, yêu cầu các nền tảng số, ngân hàng và nhà mạng chủ động phòng chống scam, nếu không có thể đối mặt với các chế tài. Singapore thúc đẩy phối hợp ở cấp khu vực ASEAN nhằm xây dựng các tiêu chuẩn chung trong phòng chống lừa đảo xuyên biên giới.

Những giải pháp đó cho thấy, trong kỷ nguyên AI, chống lừa đảo không còn là trách nhiệm của riêng người dùng. Khi những công cụ trí tuệ nhân tạo có thể tạo ra một sản phẩm không tồn tại, hay một con người chưa từng hiện hữu, việc bảo vệ niềm tin trên không gian số cũng đòi hỏi sự tham gia của cả hệ sinh thái công nghệ. Bởi cuộc chiến hôm nay không chỉ là gỡ bỏ một quảng cáo giả hay triệt phá một đường dây lừa đảo, mà là xây dựng những "hàng rào an toàn" đủ nhanh để theo kịp chính tốc độ phát triển của AI.

Trong nền kinh tế số, AI không chỉ làm tăng năng suất cho doanh nghiệp mà khi bị lợi dụng, nó cũng có thể làm tăng "năng suất" của tội phạm. Và vì vậy, cuộc chiến chống lừa đảo ngày nay không còn chỉ là truy tìm những kẻ đứng sau màn hình, mà là quản trị cả một hệ sinh thái công nghệ có thể bị khai thác ở quy mô công nghiệp.