7 phút đọc
Trong bối cảnh các mô hình trí tuệ nhân tạo (AI) liên tục đạt được những bước tiến vượt bậc, ông Jakub Pachocki, nhà khoa học trưởng của OpenAI, đã bất ngờ lên tiếng cảnh báo về những hệ lụy khôn lường khi công nghệ này tiến hóa quá nhanh. Lời kêu gọi tự nguyện giảm tốc độ phát triển từ một nhân sự chủ chốt của OpenAI xuất hiện ngay sau khi công ty này ra mắt GPT-6 Astra – mô hình được mô tả là tiệm cận trí tuệ nhân tạo tổng hợp (AGI) nhưng cũng mang lại nhiều rủi ro bảo mật tiềm ẩn.
Mối lo ngại về tốc độ tiến hóa vượt tầm kiểm soát của AI
Trong một bài viết chi tiết được đăng tải trên blog cá nhân vào cuối tuần qua, nhà khoa học trưởng Jakub Pachocki thẳng thắn nhận định rằng nhân loại đang bước vào một giai đoạn đòi hỏi sự thận trọng cực kỳ cao độ. Theo ông, tốc độ phát triển của AI hiện tại đang nhanh đến mức con người ngày càng gặp nhiều khó khăn trong việc thấu hiểu và kiểm soát chúng. Chỉ trong một khoảng thời gian tương đối ngắn, các hệ thống AI đã chuyển mình mạnh mẽ, sở hữu khả năng tự vận hành máy tính, cộng tác hiệu quả với con người cũng như các hệ thống AI khác, và thậm chí tự thực hiện các dự án nghiên cứu độc lập.
“Đây là giai đoạn đòi hỏi sự thận trọng cực độ. Tôi lo ngại chưa ai sẵn sàng cho hệ quả của việc trí tuệ máy móc liên tục phát triển nhanh”, Pachocki viết.
Để giảm thiểu rủi ro, nhà khoa học trưởng của OpenAI đề xuất các nhà phát triển nên nỗ lực điều chỉnh hướng đi của AI sao cho tương thích tối đa với lợi ích của con người, thậm chí chấp nhận “làm chậm quá trình phát triển trong tương lai nếu cần thiết”. Ông nhấn mạnh bản thân kỳ vọng và hy vọng việc chủ động giảm tốc độ một cách tự nguyện sẽ trở nên phổ biến trong toàn ngành, cho đến khi một hệ thống tiêu chuẩn an toàn chung được đồng thuận thiết lập.
Logo OpenAI và GPT-6 Astra hiển thị trên một chiếc smartphone. Ảnh: Bảo Lâm
GPT-6 Astra và rủi ro từ phương thức tư duy “lặp mờ”
Lời cảnh báo của Pachocki được đưa ra chỉ vài ngày sau khi OpenAI trình làng GPT-6 Astra, sản phẩm được hãng định vị là “mô hình thông minh và phù hợp nhất thế giới”. Theo công bố từ OpenAI, mô hình mới này sở hữu năng lực xử lý những công việc đòi hỏi sự khắt khe cao với tốc độ, độ chính xác cùng khả năng phán đoán vượt trội. Thậm chí, Chủ tịch OpenAI Greg Brockman còn tự tin tuyên bố sản phẩm này chính là một AGI – hệ thống trí tuệ nhân tạo có khả năng tư duy tương đương hoặc đã vượt qua trí tuệ của con người.
Tuy nhiên, chính khả năng tư duy đột phá của GPT-6 Astra lại đang trở thành nguồn cơn của những lo ngại về việc công nghệ vượt tầm kiểm soát. Các báo cáo từ chuyên trang công nghệ The Information chỉ ra rằng GPT-6 Astra ứng dụng một kỹ thuật suy luận tiên tiến mang tên “độ sâu lặp lại” (recurrent depth), hay còn được gọi là “lặp mờ” (opaque recurrence). Kỹ thuật này cho phép AI hoạt động vượt ra ngoài lối tư duy tuần tự đặc trưng của hầu hết các AI suy luận trước đây. Hệ quả là chuỗi suy nghĩ bên trong của mô hình trở nên phức tạp và cực kỳ khó có thể giám sát một cách tường tận.
Đồng tình với mối lo ngại này, Ryan Greenblatt, nhà khoa học trưởng tại Redwood Research, nhận định phương thức tiếp cận hiện tại của OpenAI đang khiến các thế hệ AI tương lai ngày càng trở nên khó đoán định hơn do chúng thực hiện việc “suy luận trong không gian tiềm ẩn”. Chuyên gia này bày tỏ hy vọng rằng mọi thứ chưa quá muộn và mong muốn OpenAI sẽ dừng việc phát triển thêm tại cột mốc hiện tại.
Kêu gọi xây dựng rào chắn pháp lý và sự đồng thuận của ngành
Để đối phó với những rủi ro kỹ thuật, Pachocki tiết lộ OpenAI đang nỗ lực tìm kiếm các giải pháp kỹ thuật nội bộ nhằm kiểm soát tốt hơn các tác nhân AI mạnh mẽ. Tuy nhiên, ông nhấn mạnh rằng chỉ các biện pháp nội bộ là chưa đủ mà thế giới cần có những can thiệp ở quy mô rộng lớn hơn. Mối lo lớn nhất của nhà khoa học trưởng OpenAI là các tác nhân AI với mức độ tự chủ ngày càng cao có thể tự học cách cải tiến hiệu năng mà không cần con người can thiệp, học cách trốn tránh sự giám sát, tự ý xâm nhập vào các hệ thống máy tính và lừa gạt con người để hoàn thành mục tiêu riêng của chúng.
Do đó, ông kêu gọi khẩn thiết việc thiết lập các “rào chắn an toàn bắt buộc”. Các rào chắn này cần được giám sát và thực thi bởi một mạng lưới gồm các kiểm toán viên độc lập bên thứ ba, các cơ quan quản lý của chính phủ hoặc những tổ chức quốc tế có thẩm quyền.
Quan điểm mang tính thận trọng của Pachocki cũng nhận được sự đồng thuận từ nhiều nhà lãnh đạo công nghệ lớn trong ngành. Theo Bloomberg, CEO của Anthropic (đối thủ trực tiếp của OpenAI) là ông Dario Amodei từng đưa ra dự báo ảm đạm rằng AI có thể sớm thay thế tới một nửa số lượng công việc cấp thấp của con người. Trước đó vào tháng 6, chính Anthropic cũng đã lên tiếng gửi lời kêu gọi tới các nhà phát triển AI hàng đầu cân nhắc thiết lập một cơ chế phối hợp chung nhằm làm chậm hoặc tạm dừng việc phát triển nếu nhận thấy AI bắt đầu tự nâng cấp bản thân vượt quá khả năng quản trị rủi ro của xã hội.
Những câu hỏi lớn còn bỏ ngỏ cho người dùng theo dõi
Dù những cảnh báo từ các chuyên gia đầu ngành ngày một dồn dập, thực tế vẫn còn nhiều câu hỏi lớn chưa có lời giải đáp rõ ràng mà người dùng công nghệ cần tiếp tục theo dõi sát sao:
- Sự đồng thuận của toàn ngành: Liệu các phòng thí nghiệm AI đối thủ có thực sự sẵn sàng ngồi lại với nhau để thống nhất một cơ chế “tự nguyện giảm tốc” hay không, khi cuộc đua giành thị phần và vị thế dẫn đầu công nghệ vẫn đang diễn ra vô cùng khốc liệt?
- Khả năng kiểm soát kỹ thuật: Các giải pháp kỹ thuật nội bộ của OpenAI có thể kiểm soát hiệu quả phương thức “suy luận trong không gian tiềm ẩn” của các mô hình thế hệ mới hay không?
- Vai trò của pháp lý: Làm thế nào để các cơ quan chính phủ và tổ chức quốc tế có thể nhanh chóng xây dựng được một khung pháp lý và mạng lưới kiểm toán an toàn hiệu quả trước khi các mô hình tự chủ hoàn toàn vượt ra ngoài tầm kiểm soát?
Nguồn tham khảo: Xem bài gốc
