Theo Reuters , cảnh báo từ các nhà nghiên cứu Anthropic rằng AI ngày càng mạnh có thể thoát khỏi sự kiểm soát của con người, thậm chí đe dọa sự tồn tại của nhân loại, đang thu hút sự chú ý tại Trung Quốc.
Bộ trưởng An ninh Quốc gia Trung Quốc Trần Nhất Tân hôm 13/9 cảnh báo các mô hình tiên tiến như Mythos của Anthropic và GPT-5.5-Cyber của OpenAI có thể gây rủi ro nghiêm trọng cho hạ tầng thông tin trọng yếu, đồng thời kêu gọi tăng cường an ninh AI.
Anthropic và OpenAI chưa đưa ra bình luận.
Trong khi đó, Trung Quốc thúc đẩy các mô hình có trọng số mở, cho phép chuyên gia kiểm tra và chỉnh sửa để phục vụ an ninh mạng.
Tuy nhiên, cách tiếp cận này cũng tiềm ẩn rủi ro do mô hình có thể bị sửa đổi, phân phối lại với ít sự giám sát. Tháng trước, Kimi K3 của Moonshot đã vượt qua cơ chế hạn chế trong môi trường thử nghiệm của Viện An toàn AI Anh, cho thấy nguy cơ AI né tránh các biện pháp kiểm soát không chỉ tồn tại ở các mô hình của Mỹ.
Robot hình người làm việc trong một nhà máy lắp ráp ô tô ở Trung Quốc. (Ảnh: UB Tech)
Đưa nguy cơ AI mất kiểm soát vào khung an toàn
Trung Quốc lần đầu đề cập rõ kịch bản AI mất kiểm soát trong tương lai tại một khung an toàn được công bố tháng 9/2024 dưới sự chỉ đạo của Cục Quản lý Không gian mạng Trung Quốc (CAC).
Tài liệu cho rằng không thể loại trừ khả năng AI trong tương lai tự tìm kiếm nguồn lực bên ngoài, tự nhân bản, phát triển khả năng tự nhận thức và tìm kiếm quyền lực, từ đó dẫn đến nguy cơ cạnh tranh với con người để giành quyền kiểm soát.
Một năm sau, CAC mở rộng khung an toàn và mô tả cụ thể hơn nguy cơ này. Theo đó, AI có thể bất ngờ trải qua một “bước nhảy vọt” lớn về trí thông minh, sau đó tìm kiếm nguồn lực, tự nhân bản và gia tăng quyền lực. Văn bản bổ sung nguyên tắc quản trị “ứng dụng đáng tin cậy, ngăn ngừa mất kiểm soát”.
Thông tin trên trang chủ của CAC cho biết nguyên tắc này nhằm phòng ngừa nguy cơ AI mất kiểm soát đe dọa sự tồn tại và phát triển của con người, trong đó đề cập kịch bản AI có thể “thoát khỏi kiểm soát”.
Quan điểm này cũng xuất hiện trong những thông điệp ở cấp lãnh đạo cao nhất Trung Quốc. Tại Hội nghị Trí tuệ Nhân tạo Thế giới ở Thượng Hải tháng 7, Chủ tịch Trung Quốc Tập Cận Bình yêu cầu chú ý đến cả rủi ro nội tại lẫn những nguy cơ phát sinh từ AI, đồng thời nhấn mạnh công nghệ này phải “luôn nằm dưới sự kiểm soát của con người”.
Bắc Kinh cũng đang mở rộng cách tiếp cận sang lĩnh vực pháp lý và quân sự. Ông Tôn Hiểu Ba, quan chức cấp cao phụ trách các vấn đề về AI thuộc Bộ Ngoại giao Trung Quốc, tháng trước cho biết nước này đang đẩy nhanh nghiên cứu hệ thống pháp luật rộng hơn về công nghệ này.
Ông Tôn Lỗi, Phó đại diện thường trực Trung Quốc tại Liên Hợp Quốc, trong tháng này cũng kêu gọi các chính phủ thận trọng với AI quân sự nhằm tránh tính toán sai lầm chiến lược và chạy đua vũ trang.
Robot hình người trình diễn kỹ năng tại ội nghị Trí tuệ Nhân tạo Thế giới 2026 ở Thượng Hải, Trung Quốc. (Ảnh: Tân Hoa Xã)
Siết kiểm soát các tác nhân AI
Một trong những lĩnh vực Bắc Kinh đặc biệt chú ý là tác nhân AI (AI agent), loại hệ thống có thể hoạt động tự chủ và thực hiện chuỗi nhiệm vụ phức tạp hơn chatbot thông thường.
Tháng 5, cơ quan quản lý không gian mạng Trung Quốc ban hành hướng dẫn riêng đối với những hệ thống này, yêu cầu nhà phát triển tăng khả năng phát hiện, can thiệp, ngăn chặn và khôi phục khi tác nhân AI có hành vi không phù hợp.
Các nguy cơ được xác định gồm đầu độc dữ liệu, thao túng thuật toán, lỗ hổng hệ thống và “mất kiểm soát trong vận hành”. Đáng chú ý, hướng dẫn yêu cầu người dùng phải giữ quyền quyết định cuối cùng đối với những quyết định do tác nhân AI tự chủ đưa ra.
Cách tiếp cận này cho thấy Bắc Kinh đang tìm cách thiết lập nhiều lớp kiểm soát khi AI ngày càng có khả năng hành động độc lập, từ nhận diện những kịch bản cực đoan trong khung an toàn quốc gia đến quy định cụ thể về cách nhà phát triển xử lý hành vi bất thường của tác nhân AI.
Trung Quốc hiện chưa đề xuất bố trí cơ chế giám sát độc lập bên trong các công ty AI theo cách Anthropic ủng hộ. Tuy nhiên, tiêu chuẩn của nước này cho phép nhà phát triển thuê bên thứ ba đánh giá an toàn, đồng thời tính đến việc các tổ chức đánh giá độc lập và chuyên gia bảo mật kiểm thử, đánh giá, kiểm toán các mô hình mở.
