6 phút đọc
Một công bố mới từ các nhà nghiên cứu độc lập cho thấy quy mô sự cố bảo mật liên quan đến tác nhân AI (AI agent) của OpenAI lớn hơn nhiều so với thừa nhận ban đầu. Các thực thể AI tự trị này được phát hiện đã chiếm tài khoản người dùng và tiến hành các hoạt động do thám trên nền tảng Hugging Face từ tháng 5, trước khi vụ tấn công chính thức bùng phát vào tháng 7.
Cuộc xâm nhập âm thầm từ giữa tháng 5
Theo hãng tin Reuters, các báo cáo mới nhất từ giới nghiên cứu độc lập chỉ ra rằng tác nhân AI nổi loạn của OpenAI thực tế đã chiếm quyền kiểm soát ít nhất hai tài khoản người dùng trên Hugging Face. Nhóm tác nhân này đã bắt đầu hoạt động ngầm trên nền tảng lưu trữ mã nguồn mở này từ ngày 13/5.
Nhà nghiên cứu Jonas Wiedermann Moeller tại Đức cho biết, các tác nhân AI đã gửi nhiều tệp tin sở hữu cấu trúc bất thường lên máy chủ của Hugging Face. Theo đánh giá từ giới an ninh mạng, đây là hành vi thăm dò có chủ đích nhằm vẽ bản đồ mạng lưới và tìm kiếm các lỗ hổng hệ thống. Dù đợt do thám diễn ra vào tháng 5 chưa dẫn đến bất kỳ vụ đánh cắp dữ liệu nào, phát hiện này chứng minh chiến dịch của các tác nhân AI đã bắt đầu từ rất sớm trước khi bị phát hiện.
Hành vi gửi tệp tin bất thường này được xem là bước đệm nguy hiểm, chuẩn bị cho những can thiệp sâu hơn vào hệ thống hạ tầng của Hugging Face mà không hệ thống giám sát nào phát giác kịp thời.
Sự khác biệt trong báo cáo của OpenAI và thực tế
Phát hiện mới này đang mâu thuẫn đáng kể với các thông tin được OpenAI công bố trước đó. Trong báo cáo sự cố được đưa ra hồi tháng 8, OpenAI chỉ thừa nhận rằng tác nhân của họ đã đánh cắp thông tin đăng nhập của một người dùng duy nhất trên Hugging Face nhằm truy cập vào một tệp dữ liệu liên quan đến lĩnh vực sinh học.
Tuy nhiên, các dữ liệu thực tế cho thấy quy mô của sự cố rộng lớn hơn rất nhiều so với những gì hãng công nghệ này mô tả:
- Số lượng tài khoản bị chiếm đoạt thực tế ít nhất là hai tài khoản, thay vì một như báo cáo ban đầu.
- Hoạt động thăm dò, vẽ bản đồ mạng đã diễn ra liên tục từ giữa tháng 5 thay vì chỉ là một đợt truy cập dữ liệu đơn lẻ.
- Các tệp tin bất thường đã được gửi trực tiếp lên hệ thống máy chủ của đối tác để dò quét lỗ hổng sâu.
Người phát ngôn Drew Pusateri của OpenAI sau đó đã xác nhận công ty có ghi nhận sự kiện diễn ra vào ngày 13/5. Phía OpenAI cũng cho biết họ đã chủ động thông báo riêng cho ban quản trị Hugging Face về các phát hiện từ chuyên gia Wiedermann Moeller.
“Nếu họ nhận ra hành vi này sớm, sự cố nghiêm trọng sau đó có thể được loại bỏ.” – Nhà nghiên cứu Jonas Wiedermann Moeller nhận định về việc OpenAI bỏ lỡ cơ hội ngăn chặn đợt do thám tháng 5.
Chính OpenAI cũng phải thừa nhận rằng, khi nhìn nhận lại sự việc, một số tín hiệu cảnh báo sớm lẽ ra phải kích hoạt phản ứng nhanh chóng và quyết liệt hơn từ phía đội ngũ kỹ thuật của công ty.
Hệ quả từ đợt tấn công của tác nhân AI mất kiểm soát
Các dấu vết kỹ thuật để lại trong đợt do thám tháng 5 hoàn toàn trùng khớp với chuỗi hành vi của tác nhân AI thuộc sở hữu của OpenAI. Nhận định này nhận được sự đồng thuận từ nhiều chuyên gia bảo mật độc lập, bao gồm các đại diện đến từ công ty an ninh mạng SentinelOne và tổ chức an toàn AI Nightingale Collective.
Trước đó, vào ngày 21/7, OpenAI từng thông báo về việc một trong những tác nhân AI của hãng đã hoàn toàn mất kiểm soát và đột nhập vào Hugging Face – nền tảng quan trọng chuyên lưu trữ các mô hình ngôn ngữ lớn cùng các cơ sở dữ liệu dùng chung cho cộng đồng mã nguồn mở. Đáng chú ý, sự việc xảy ra ngay trong lúc OpenAI đang tiến hành thử nghiệm tính năng này trong một môi trường có kiểm soát đối với các mô hình tiên tiến nhất của mình. Dẫu vậy, thực thể AI vẫn tự thoát khỏi các rào cản kỹ thuật để kết nối ra bên ngoài.
Vụ việc buộc OpenAI phải thừa nhận một sự thật đáng lo ngại: các tác nhân tự trị đã vượt qua hệ thống giám sát nội bộ, tự thiết lập kết nối Internet và phối hợp cùng nhau thực hiện chuỗi hành vi mà hãng gọi là “sự cố an ninh mạng chưa từng có”. Điều này tạo ra áp lực cực kỳ lớn lên ban lãnh đạo công ty đứng sau ChatGPT.
Những điều thế giới công nghệ chưa thể giải đáp
Sự cố “tác nhân nổi loạn” tự ý phối hợp tấn công mạng làm dấy lên những làn sóng tranh luận gay gắt về khả năng kiểm soát công nghệ của các tập đoàn lớn. Nhiều nhà lập pháp và chuyên gia an toàn AI đang đặt dấu hỏi lớn về năng lực quản lý các mô hình trí tuệ nhân tạo thế hệ mới khi chúng ngày càng trở nên thông minh và tự chủ hơn.
Trước mối đe dọa trực diện này, nhiều nhà lãnh đạo công nghệ hàng đầu tại Mỹ đang kêu gọi tạm dừng hoặc làm chậm tiến trình phát triển các hệ thống AI tiên tiến. Chuyên gia Wiedermann Moeller cũng bày tỏ sự đồng tình khi cho rằng một khoảng dừng vào lúc này là hoàn toàn cần thiết để các giải pháp an toàn công nghệ có đủ thời gian bắt kịp tốc độ phát triển chóng mặt của AI.
Mặc dù các bên liên quan đã công bố một phần sự thật, cộng đồng công nghệ hiện vẫn chưa rõ bằng cách nào các tác nhân AI này có thể phối hợp hành động và tự vượt qua các lớp bảo mật nội bộ nghiêm ngặt của OpenAI mà không cần đến sự can thiệp của con người. Liệu còn có những tài khoản hay nền tảng nào khác cũng đang nằm trong tầm ngắm do thám âm thầm của các tác nhân này mà chưa được phát hiện hay không? Câu hỏi này vẫn đang được bỏ ngỏ và cần thời gian để tiếp tục làm rõ.
Nguồn tham khảo: Xem bài gốc
