CEO OpenAI Sam Altman cho rằng xã hội không thể đòi hỏi trí tuệ nhân tạo vừa mang lại lợi ích ở quy mô chưa từng có, vừa loại bỏ hoàn toàn mọi rủi ro. Theo ông, thế giới cần chấp nhận một số điều tồi tệ xảy ra để đổi lấy những lợi ích mà AI có thể đem lại.
Phát biểu được Altman đưa ra trong cuộc phỏng vấn với bản tin Decoded của POLITICO, khi ông được hỏi về khác biệt giữa OpenAI và Anthropic, đối thủ vốn được biết đến với quan điểm thận trọng hơn về an toàn AI.
Cụ thể, CEO Altman cho rằng hai công ty vẫn có “rất nhiều khác biệt” trong cách nhìn nhận vấn đề. Theo ông, OpenAI không chấp nhận quan điểm rằng AI quá nguy hiểm đến mức chỉ một số ít phòng thí nghiệm nên được quyền kiểm soát công nghệ, sau đó quyết định cách phân phối những lợi ích mà AI tạo ra.
“Thế giới nên chấp nhận một số điều tồi tệ xảy ra vì những lợi ích của công nghệ này”, Altman nói.
Quan điểm này không đồng nghĩa OpenAI chấp nhận mọi rủi ro. Altman cho biết ông không chấp nhận những nguy cơ mang tính thảm họa, trong đó có khả năng con người mất quyền kiểm soát nghiêm trọng đối với AI.
Điểm đáng chú ý nằm ở cách Altman phân biệt giữa hai loại rủi ro. Những vụ lừa đảo, lạm dụng, tấn công mạng hay các hành vi sai trái do AI hỗ trợ có thể là cái giá không thể tránh khỏi khi công nghệ được phổ cập rộng rãi. Ngược lại, một kịch bản AI thực sự mất kiểm soát, gây ra hậu quả thảm họa, là ranh giới mà ông không chấp nhận.
Altman tin rằng phần lợi ích sẽ vượt xa phần tác hại. Ông cho rằng con người có thể tạo ra lượng giá trị lớn hơn “nhiều bậc độ lớn” so với những điều xấu mà AI gây ra.
Nguồn ảnh: Politico
Điều này tạo ra một khác biệt đáng chú ý giữa OpenAI và Anthropic. Dario Amodei, CEO Anthropic, từ lâu theo đuổi cách tiếp cận thận trọng hơn với những mô hình AI tiên tiến nhất. Anthropic cũng liên tục cảnh báo về khả năng các hệ thống AI trong tương lai có thể tạo ra những rủi ro nghiêm trọng nếu năng lực phát triển nhanh hơn khả năng kiểm soát.
Trớ trêu là khoảng cách chính sách giữa hai công ty gần đây lại đang thu hẹp.
OpenAI đã bắt đầu ủng hộ những quy định an toàn AI nghiêm ngặt hơn so với lập trường trước đây. Công ty công khai ủng hộ các yêu cầu đánh giá độc lập đối với những hệ thống AI tiên tiến, báo cáo các sự cố nghiêm trọng cùng một số tiêu chuẩn an toàn bắt buộc.
Sự thay đổi diễn ra trong bối cảnh chính OpenAI phải đối mặt với ngày càng nhiều câu hỏi về khả năng kiểm soát các mô hình của mình. Những vụ việc liên quan đến AI tự động thực hiện các hoạt động tấn công mạng, hành vi ngoài dự kiến của mô hình hay nguy cơ AI được sử dụng cho mục đích xấu đang khiến cuộc tranh luận về quản lý AI chuyển sang một giai đoạn mới.
Vì thế, tranh luận hiện nay không còn đơn giản là OpenAI muốn ít quản lý còn Anthropic muốn nhiều quản lý hơn. Cả hai đang cùng tiến gần đến quan điểm rằng những hệ thống AI mạnh nhất cần có cơ chế kiểm soát và đánh giá an toàn.
Khác biệt nằm ở câu hỏi khó hơn, xã hội nên chấp nhận bao nhiêu rủi ro để đổi lấy lợi ích của AI.
Với Altman, việc cố gắng loại bỏ toàn bộ rủi ro có thể tạo ra một rủi ro khác, đó là quyền kiểm soát công nghệ tập trung vào tay một số ít công ty hoặc tổ chức. Khi AI ngày càng có khả năng tác động tới năng suất, nghiên cứu khoa học, y tế, phần mềm cùng nhiều lĩnh vực khác, việc hạn chế quyền tiếp cận cũng đồng nghĩa hạn chế một phần giá trị mà công nghệ có thể tạo ra.
Đây là nghịch lý lớn của cuộc đua AI. Càng mạnh, AI càng cần được kiểm soát. Càng được kiểm soát chặt, câu hỏi về việc ai có quyền kiểm soát lại càng trở nên quan trọng.
Phát biểu của Altman cho thấy OpenAI đang cố giữ một đường biên khá rõ. Công ty có thể chấp nhận những tác hại nhất định để AI tiếp tục được phổ cập, song không chấp nhận những rủi ro có khả năng đe dọa nghiêm trọng quyền kiểm soát của con người.
