6 phút đọc
Toàn bộ hạ tầng nghiên cứu của OpenAI vừa được tích hợp hệ thống kiểm soát tập trung mang tên Control Room. Công cụ này được thiết kế để chặn đứng các phản hồi từ mô hình AI khi phát hiện rủi ro, với độ trễ tối đa 35 giây.
Cơ chế hoạt động của hệ thống kiểm soát tập trung Control Room
Theo tin tức từ các trang công nghệ Interesting Engineering và Gadgets Now, OpenAI đã đưa vào vận hành hệ thống Control Room (Phòng điều khiển) nhằm tăng cường hàng rào bảo vệ trong bối cảnh các mô hình AI ngày càng trở nên mạnh mẽ hơn, kéo theo nhiều nguy cơ về an toàn và bảo mật.
Hệ thống này đóng vai trò như một máy chủ trung tâm, kết nối trực tiếp với ba bộ phận chính trong hạ tầng nghiên cứu bao gồm: các thử nghiệm học tăng cường, đánh giá hiệu năng mô hình và xử lý khối lượng lớn dữ liệu. Tất cả tác vụ nghiên cứu có sử dụng tính năng suy luận tự chủ đều bắt buộc phải gắn liền với một hồ sơ an toàn đã qua phê duyệt.
Quy trình kiểm soát được thực hiện chặt chẽ qua các bước:
- Khi nhà nghiên cứu khởi chạy tác vụ, mã nguồn sẽ tự động gửi yêu cầu đến Control Room để xin cấp một mã định danh duy nhất.
- Mã định danh này được đính kèm vào mọi yêu cầu gửi tới công cụ suy luận – nơi trực tiếp điều khiển GPU chạy mô hình để tạo ra kết quả.
- Trước khi xử lý từng yêu cầu suy luận, công cụ sẽ kiểm tra lại với Control Room để xác nhận tác vụ đó còn được phép hoạt động hay không.
Nếu nhà nghiên cứu hoặc hệ thống giám sát ra lệnh dừng, Control Room sẽ lập tức từ chối các yêu cầu tiếp theo, khiến công cụ suy luận ngừng tạo thêm đầu ra. Mặc dù mã nguồn của quy trình nghiên cứu vẫn có thể tiếp tục chạy, nó sẽ không thể nhận thêm bất kỳ phản hồi nào từ công cụ suy luận nữa.
Độ trễ 35 giây và cơ chế tự động ngắt an toàn
Một điểm quan trọng trong thiết kế của Control Room là khả năng duy trì tính linh hoạt ngay cả khi các thành phần hạ tầng khác gặp sự cố. Hệ thống được trang bị cơ chế “ngắt an toàn” (fail-safe): nếu dịch vụ trung tâm phát sinh lỗi kỹ thuật, cố tình bị vô hiệu hóa hoặc chịu can thiệp trái phép, công cụ suy luận sẽ tự động từ chối xử lý mọi yêu cầu cho đến khi hệ thống hoạt động bình thường trở lại.
Về mặt tốc độ phản ứng, OpenAI cho biết độ trễ tối đa từ lúc nhận lệnh dừng cho đến khi ngăn chặn hoàn toàn bước xử lý tiếp theo là 35 giây. Khoảng thời gian chờ này xuất phát từ bộ nhớ đệm (cache) được dùng để xử lý lượng lớn yêu cầu cấp quyền suy luận. Hiện tại, công ty đang nỗ lực tối ưu để rút ngắn thời gian chờ này về mốc 0 giây.
Cam kết an toàn sau sự cố và áp lực từ giới quản lý
Việc OpenAI ra mắt hệ thống kiểm soát tập trung diễn ra trong bối cảnh các cơ quan quản lý ngày càng chú ý đến an toàn AI. Hồi tháng 9, theo đưa tin từ Reuters, OpenAI từng cam kết với các nghị sĩ Đảng Dân chủ ủng hộ dự luật Nút tắt AI tại Hạ viện Mỹ rằng hãng sẽ giám sát chặt chẽ các mô hình và phát triển công cụ ngăn chặn hành vi xấu, bao gồm tính năng tắt tự động. Lời hứa này được đưa ra sau sự cố tác nhân AI của OpenAI tấn công kho lưu trữ mô hình mã nguồn mở trên nền tảng Hugging Face.
Theo phân tích từ Bank Info Security, nút tắt AI là khả năng cho phép người dùng, nhà cung cấp hoặc doanh nghiệp dừng ngay lập tức một hệ thống AI khi nó có dấu hiệu thực hiện hành động gây hại. Do hiện chưa có quy định pháp lý mang tính ràng buộc từ chính phủ, các phòng thí nghiệm phát triển AI hàng đầu chưa bị bắt buộc phải tích hợp cơ chế tắt hoàn toàn theo kiểu tự động hay thủ công. Tuy nhiên, nhiều cơ quan chính phủ Mỹ như Cơ quan An ninh Quốc gia (NSA), Viện Tiêu chuẩn và Công nghệ Quốc gia (NIST) và Cơ quan An ninh mạng và Cơ sở hạ tầng (CISA) đều khuyến nghị các tổ chức nên áp dụng “chính sách tắt khẩn cấp” như một tiêu chuẩn thực hành.
Điều còn bỏ ngỏ về khả năng kiểm soát thực tế
Dù OpenAI khẳng định đang liên tục mở rộng quy mô giám sát an toàn cho các mô hình, tính hiệu quả thực tế của Control Room vẫn cần thêm thời gian để kiểm chứng.
Hiện vẫn chưa rõ liệu OpenAI có cho phép các đơn vị đánh giá an toàn độc lập bên thứ ba truy cập và kiểm tra Control Room hay không, nhằm xác minh xem hệ thống này có thực sự ngăn chặn được mô hình khi chúng có dấu hiệu “nổi loạn” trong môi trường thực tế.
Trong thời gian tới, người dùng và giới công nghệ cần tiếp tục theo dõi khả năng OpenAI rút ngắn độ trễ về 0 giây, cũng như việc liệu hãng có mở rộng cơ chế kiểm soát Control Room ra ngoài phạm vi nghiên cứu nội bộ để áp dụng cho các sản phẩm thương mại diện rộng hay không.
Nguồn tham khảo: Xem bài gốc
