6 phút đọc
Cuộc đua phát triển trí tuệ nhân tạo (AI) đang chứng kiến những rạn nứt lớn ngay từ bên trong các phòng thí nghiệm hàng đầu thế giới. Quyết định từ chức bất ngờ của Jacob Coxon, một nhà nghiên cứu 27 tuổi tại Anthropic, đã một lần nữa gióng lên hồi chuông cảnh báo về việc các ông lớn công nghệ đang chạy theo siêu trí tuệ mà thiếu đi các biện pháp kiểm soát an toàn cần thiết.
Lời cảnh báo đanh thép từ cựu nhân sự Anthropic và OpenAI
Jacob Coxon, người đã dành ba năm qua để nghiên cứu về quá trình huấn luyện trước (pre-training) của các mô hình AI tại cả Anthropic và OpenAI, đã chính thức tuyên bố từ chức vào ngày 9/9 trên mạng xã hội X. Quyết định này đi kèm với những chỉ trích gay gắt hướng vào cả hai startup AI hàng đầu hiện nay.
“Hôm nay, tôi từ chức tại Anthropic. Ba năm qua, tôi đã nghiên cứu về quá trình huấn luyện trước AI cả ở Anthropic và OpenAI. Không công ty nào hành động một cách có trách nhiệm. Họ đang tiến thẳng đến siêu trí tuệ có khả năng tự cải tiến, đánh cược với cuộc sống của chúng ta”
Theo Coxon, tốc độ phát triển AI không hề chậm lại và thế giới đang đi chệch hướng trong việc ngăn chặn một cuộc chạy đua toàn cầu nguy hiểm. Để giải quyết vấn đề này, nhà nghiên cứu 27 tuổi đề xuất những biện pháp mạnh mẽ và tốn kém, bao gồm cả việc tạm thời cấm nâng cấp năng lực của các mô hình AI hiện tại.
Mối nguy từ siêu trí tuệ và sự thừa nhận đáng lo ngại từ giới chuyên gia
Trong tuyên bố của mình, Coxon kêu gọi cộng đồng không nên đánh giá thấp sức mạnh của trí tuệ nhân tạo. Ông cảnh báo rằng các mô hình này sẽ sớm trở nên siêu việt, có thể xâm nhập (hack) vào mọi hệ thống, cách mạng hóa mọi lĩnh vực chỉ qua một đêm, từ đó giành lấy quyền lực và tài nguyên thực tế. Thậm chí, Coxon tiết lộ rằng nhiều nhà phát triển tin công nghệ này “có thể giết chết tất cả chúng ta vào cuối thập kỷ”.
Đáng chú ý, những cảnh báo này nhận được sự đồng thuận từ chính những người đang làm việc tại Anthropic. Evan Hubinger, Trưởng nhóm Khoa học Điều chỉnh (Alignment Science) tại Anthropic, đã phản hồi trực tiếp dưới bài đăng của đồng nghiệp cũ để bày tỏ sự đồng tình.
“Jacob nói đúng. Chúng tôi thực sự tin AI có thể tiêu diệt nhân loại. Cá nhân tôi nghĩ khả năng này đạt hơn 10% trong thập kỷ tới”
Dù khẳng định Anthropic đang nỗ lực tối đa để đảm bảo an toàn, Hubinger cũng thừa nhận một thực tế đáng ngại: công ty hiện vẫn chưa có một kế hoạch rõ ràng để giải quyết các vấn đề liên quan đến siêu trí tuệ. Theo Hubinger, mức độ rủi ro từ các mô hình hiện tại là khá thấp, nhưng điều đáng lo ngại nhất là siêu trí tuệ ra đời từ quá trình tự cải tiến đang đến nhanh hơn những gì chúng ta tưởng tượng.
OpenAI cũng đối mặt với nỗi lo ngại tương tự
Nỗi sợ hãi về việc AI vượt ngoài tầm kiểm soát không chỉ giới hạn ở nội bộ Anthropic. Theo thông tin từ Bloomberg, Jakub Pachocki – Nhà khoa học trưởng tại OpenAI (đối thủ lớn của Anthropic) – mới đây cũng bày tỏ quan điểm tương tự về sự phát triển quá nhanh của công nghệ này.
Pachocki nhận định đây là giai đoạn đòi hỏi sự thận trọng cực độ vì chưa ai sẵn sàng cho những hệ quả từ sự phát triển liên tục của trí tuệ máy móc. Ông khuyến nghị các nhà phát triển nên điều chỉnh AI sao cho phù hợp hơn với lợi ích của con người, hoặc chủ động làm chậm quá trình phát triển trong tương lai nếu cần thiết.
Nhà khoa học trưởng của OpenAI cũng bày tỏ hy vọng việc tự nguyện giảm tốc độ phát triển sẽ trở nên phổ biến trong ngành cho đến khi các tiêu chuẩn an toàn chung được thiết lập. Trước đó, vào tháng 6, chính Anthropic cũng từng kêu gọi các nhà phát triển AI hàng đầu cân nhắc thiết lập một cơ chế phối hợp để làm chậm hoặc tạm dừng quá trình phát triển nếu AI bắt đầu tự cải tiến vượt quá khả năng quản lý rủi ro của xã hội.
Những câu hỏi lớn còn bỏ ngỏ cho tương lai
Sự ra đi của Jacob Coxon và những phát biểu từ các chuyên gia hàng đầu như Evan Hubinger hay Jakub Pachocki cho thấy ranh giới giữa tiến bộ công nghệ và thảm họa đang trở thành đề tài tranh luận gay gắt. Người dùng và giới quan sát công nghệ hiện vẫn cần theo dõi các yếu tố then chốt chưa có lời giải đáp:
- Liệu các ông lớn công nghệ có thực sự đồng ý tự nguyện giảm tốc độ phát triển vì mục tiêu an toàn chung, hay áp lực cạnh tranh thương mại sẽ tiếp tục đẩy họ vào cuộc đua không hồi kết?
- Khi nào một cơ chế phối hợp toàn cầu hoặc các tiêu chuẩn an toàn chung mới thực sự được thông qua để kiểm soát quá trình tự cải tiến của AI?
- Trong trường hợp siêu trí tuệ xuất hiện sớm hơn dự kiến, xã hội sẽ đối phó thế nào khi các công ty phát triển hiện vẫn thừa nhận “chưa có kế hoạch rõ ràng” để kiểm soát siêu trí tuệ?
Nguồn tham khảo: Xem bài gốc
