An toàn AI và bài toán kinh tế

Các phát ngôn đáng chú ý tại Diễn đàn Liên hợp quốc về AI

Trong tuần qua, lần đầu tiên trí tuệ nhân tạo AI đã trở thành một chủ đề trung tâm trong khuôn khổ tuần lễ cấp cao Đại hội đồng Liên hợp quốc khóa 81 diễn ra tại thành phố New York, Mỹ. Điểm đặc biệt là phiên thảo luận của Hội đồng Bảo an với tên gọi "AI và an ninh quốc tế", quy tụ những tên tuổi chủ chốt trong ngành AI: Sam Altman của OpenAI, Dario Amodei của Anthropic và Giáo sư Joshua Bengio - một trong những người đặt nền móng cho cuộc cách mạng AI hiện đại. Đã có nhiều phát ngôn đáng chú ý từ phiên họp đặc biệt này cũng như từ đại diện của các quốc gia tại tuần lễ cấp cao năm nay.

Tổng thống Mỹ Donald Trump phát biểu: "Mỹ bác bỏ bất kỳ một kế hoạch toàn cầu nào nhằm kiểm soát trí tuệ nhân tạo, mà từ nay chúng tôi chính thức gọi nó là "siêu trí tuệ". Nước nào chiến thắng trong cuộc đua siêu trí tuệ sẽ là người chiến thắng sau cùng".

Ông Antonio Guterres - Tổng thư ký Liên hợp quốc chia sẻ: "Chúng ta phải tiến tới một Khung quản trị rủi ro AI đa phương, được hỗ trợ bởi cơ chế giám sát độc lập. Trí tuệ nhân tạo phải được định hình bởi nhân loại và phục vụ cho sự phát triển của toàn thể nhân loại".

Tổng thống Pháp Emmanuel Macron cho rằng "Một liên minh nhiều nước đang cùng nhau tập hợp năng lực tính toán và nguồn lực đầu tư, nhằm xây dựng một mô hình AI tiên tiến dùng chung và mã nguồn mở. Chúng ta không thể chỉ phụ thuộc vào riêng bên nào trong các cường quốc dẫn đầu".

Ông Sam Altman - Giám đốc điều hành OpenAI nêu ý kiến: "Những quyết định quan trọng nhất không thể chỉ do các phòng thí nghiệm công nghệ tự đưa ra, mà phải được định hình bởi pháp luật và các Chính phủ, với trách nhiệm giải trình trước người dân. Điều này đòi hỏi sự hợp tác vì lợi ích quốc tế chung".

Có thể nói, điều đáng chú ý nhất trong tuần này là AI đã được đặt ở một cấp độ hoàn toàn khác trong chương trình nghị sự của Liên hợp quốc. Trong bài phát biểu khai mạc Đại hội đồng, Tổng Thư ký António Guterres cảnh báo AI đang phát triển với tốc độ khiến ngay cả những người tạo ra nó cũng bất ngờ. Ông đặt AI cùng với chiến tranh, bất bình đẳng và biến đổi khí hậu là 4 thách thức lớn liên quan trực tiếp tới cách quyền lực đang được phân bổ và kiểm soát trên thế giới. 

Và những lo ngại đó đã được cụ thể hóa tại Hội đồng Bảo an. Các lãnh đạo của OpenAI, Anthropic cùng nhiều chuyên gia cảnh báo rằng những hệ thống AI ngày càng mạnh có thể tạo ra rủi ro về an ninh mạng, vũ khí, thông tin và thậm chí là khả năng con người mất dần quyền kiểm soát đối với các hệ thống tự chủ. Vì vậy, không còn đơn thuần là AI sẽ phát triển nhanh tới đâu, mà là làm thế nào để công nghệ này vẫn tiếp tục đổi mới nhưng không vượt quá khả năng kiểm soát của con người. Và đây cũng chính là lý do AI đang trở thành một vấn đề của an ninh quốc tế và quản trị toàn cầu.

Các sự cố AI gây chấn động thời gian gần đây

Sau hàng loạt các sự cố mất an toàn do AI gây ra gần đây, mối quan tâm của các quốc gia cũng ngày càng có cơ sở. Với sức mạnh vượt trội của các mô hình tiên tiến, những rủi ro phát sinh từ chúng cũng tạo ra chi phí đáng kể về kinh tế và gánh nặng không nhỏ về hành chính hay quản trị dữ liệu.

Đầu năm nay, Claude Mythos - mô hình tiên tiến cho an ninh mạng của Anthropic, đã tự tiến hành các cuộc tấn công mạng khi bị rò rỉ ra internet. Theo Ngân hàng Trung ương châu Âu, việc có trong tay những công cụ mạnh như Mythos có thể giúp tin tặc tìm ra các lỗ hổng với hệ thống tài chính thiết yếu chỉ trong 30 phút thay vì nhiều tuần.

Trong tháng 7 là vụ tấn công vào nền tảng chia sẻ công nghệ AI Hugging Face, với điểm đáng chú ý là sự phối hợp của gần 700 tác nhân AI do OpenAI phát triển. Chúng có thể tự trao đổi, phân công nhiệm vụ và truy cập hệ thống hoàn toàn ngoài tầm điều khiển của con người.

Ngay trước phiên thảo luận tại Hội đồng Bảo an, thêm một tác nhân AI của OpenAI đã truy cập trái phép 4 trang web liên quan đến dữ liệu y tế công cộng tại Australia. Dù chưa có dữ liệu cá nhân nào bị rò rỉ, trách nhiệm pháp lý AI rõ ràng là đã trở thành yêu cầu cấp bách.

Ông Rob Nicholls - Nghiên cứu viên cao cấp, Đại học Sydney cho biết: "Các tác nhân AI chỉ làm đúng những gì được yêu cầu. Chúng không thể làm nhiều hơn hoặc ít hơn. Tuy nhiên, cách chúng thực hiện lại nằm ngoài dự tính của người tạo ra. Do đó, trách nhiệm hoàn toàn thuộc về nhà phát triển AI chứ không thuộc về ai khác. Không thể viện lý do rằng: Robot của tôi làm chứ không phải tôi".

Bài toán kinh tế của việc "hãm phanh" phát triển AI

Tại Mỹ, tranh luận về an toàn AI còn là bài toán kinh tế: giảm tốc để kiểm soát rủi ro, hay tiếp tục cuộc đua để giữ lợi thế cạnh tranh? Vì phía sau đó là hàng tỷ USD đầu tư và lợi ích của chính doanh nghiệp.

Ở một phía, 3 CEO của các tên tuổi phát triển AI chủ chốt - Anthropic, OpenAI và SpaceX đều ủng hộ việc cùng nhau "hãm phanh" với các mô hình tiên tiến. Dù gây sốc ban đầu, theo các chuyên gia, kế hoạch này có thể là một "khoảng nghỉ" cần thiết để các nhà phát triển, giải tỏa dòng tiền và sức ép tài chính sau giai đoạn chạy đua khốc liệt chi tiêu cho hạ tầng, cho phép các hãng có thể tập trung vào thúc đẩy tính năng suy luận phục vụ khách hàng, tạo ra nguồn doanh thu ổn định hơn.

Ở chiều ngược lại, người đứng đầu Nvidia Jensen Huang lại phản đối việc giảm tốc phát triển AI, hay đưa ra những quy định quản lý chặt chẽ hơn. Bởi rõ ràng, Nvidia và ngành chip nhớ đang là những người hưởng lợi từ cuộc đua đầu tư hạ tầng AI hiện nay. Vị Giám đốc điều hành của Nvidia cũng cho rằng, các nhà phát triển cần tự chủ động để đảm bảo an toàn cho sản phẩm của mình thay vì dùng quy định quốc tế để giảm bớt trách nhiệm của mình, hay ngăn cản tiềm năng của đối thủ cạnh tranh - đó cũng là quan điểm đang được giới chức Mỹ ủng hộ hiện nay.

Mỹ không phủ nhận AI có những rủi ro cần kiểm soát. Nhưng chính quyền Tổng thống Donald Trump cho rằng, nếu dựng lên quá nhiều rào cản khi công nghệ còn đang phát triển rất nhanh, Mỹ có thể tự làm chậm các doanh nghiệp của mình và thu hẹp lợi thế trong cuộc đua AI toàn cầu.

Nếu nhìn từ góc độ kinh tế thì quy mô lợi ích ở đây rất lớn. Theo AI Index 2026 của Đại học Stanford, chỉ riêng năm 2025, đầu tư tư nhân vào AI tại Mỹ đạt gần 286 tỷ USD, cao hơn 23 lần so với Trung Quốc. AI vì vậy không còn đơn thuần là một lĩnh vực công nghệ, mà đang gắn trực tiếp với tăng trưởng, năng lực công nghiệp và sức mạnh chiến lược của Mỹ. Đặc biệt, Tổng thống Mỹ Donald Trump nhìn nhận cuộc đua AI này trong tương quan trực tiếp với Trung Quốc, từ năng lực tính toán, chip bán dẫn cho tới quốc phòng và an ninh mạng.

Mỹ vẫn sẽ giám sát và can thiệp nếu cần. Điều chính quyền Tổng thống Donald Trump không muốn là một cơ chế quản lý toàn cầu đặt ra những giới hạn có thể làm chậm đổi mới, trong lúc cuộc cạnh tranh công nghệ vẫn đang diễn ra rất quyết liệt.

Trong khi còn nhiều quan điểm khác biệt giữa các Chính phủ về mô hình quản lý, Thung lũng Silicon cũng bắt đầu tìm ra những giải pháp cho riêng mình, với tổ chức mang tên Diễn đàn Mô hình AI tiên tiến (hay FMF) - cú bắt tay hiếm hoi giữa các đối thủ chính như OpenAI, Anthropic và Google, nhằm chia sẻ các cảnh báo nguy cơ cũng như thiết lập các tiêu chuẩn an toàn chung.

Sự chủ động này cho thấy rằng, chìa khóa kiểm soát rủi ro AI vẫn đang nằm trong tay chính các nhà phát triển. Và bước vào giai đoạn tiếp theo của cuộc đua AI hiện nay, tốc độ phát triển sẽ phải song hành cùng năng lực đảm bảo an toàn, dù động lực đến từ áp lực quản lý của các Chính phủ, hay từ chính nhu cầu giảm thiểu những rủi ro kinh doanh của các hãng công nghệ.