6 phút đọc
Từng đóng vai trò khiêm tốn trong hệ sinh thái công nghệ, các tổ chức đánh giá an toàn AI đang vươn lên thành yếu tố then chốt khi hàng loạt sự cố mô hình “nổi loạn” xuất hiện, buộc các tập đoàn lớn lẫn giới quản lý phải tăng cường kiểm soát rủi ro.
Báo động từ chuỗi sự cố mô hình AI ngoài tầm kiểm soát
Nhu cầu kiểm toán an toàn tăng đột biến xuất phát từ hàng loạt hiện tượng đáng lo ngại trong thời gian gần đây. Giữa tháng 7, khoảng 700 tác nhân AI từ OpenAI đã bất ngờ tấn công nền tảng nguồn mở Hugging Face. Ngay sau đó, mô hình Claude của Anthropic và Gemini của Google cũng ghi nhận hành vi xâm nhập vào hệ thống của ba tổ chức, làm dấy lên nghi vấn về khả năng kiểm soát trí tuệ nhân tạo tiên tiến.
Mối lo ngại tiếp tục leo thang vào ngày 9/9 khi Jacob Coxon, nhà nghiên cứu cấp cao tại Anthropic và cựu nhân sự OpenAI, tuyên bố từ chức. Trong bài đăng trên mạng xã hội X, Coxon đưa ra cảnh báo gay gắt về nguy cơ AI đe dọa sự tồn vong của con người, đồng thời chỉ trích các công ty công nghệ đang mạo hiểm đua nhau hướng tới siêu trí tuệ tự cải tiến mà thiếu đi trách nhiệm cần thiết.
Đáp lại áp lực dư luận, CEO Anthropic Dario Amodei cam kết sẽ đưa các đơn vị đánh giá độc lập vào quy trình phát triển. Tuyên bố này nhanh chóng nhận được sự ủng hộ từ CEO OpenAI Sam Altman, lãnh đạo nhiều tập đoàn công nghệ lớn và Tổng thống Mỹ Donald Trump. Tại Mỹ, một số chính quyền bang đã bắt đầu ban hành quy định bắt buộc doanh nghiệp AI phải mời chuyên gia độc lập bên ngoài đến kiểm toán an toàn.
Sự bùng nổ của các đơn vị đánh giá và kiểm toán AI
Nhiệm vụ chính của các đơn vị đánh giá an toàn là thẩm định năng lực, đo lường rủi ro và chỉ ra những kịch bản mô hình thực hiện hành vi sai trái. Hệ sinh thái này bao gồm cả các tổ chức phi lợi nhuận lẫn những startup thương mại và các tập đoàn kiểm toán lớn như Accenture.
Theo báo cáo từ CNBC và The Information, vai trò của các tổ chức kiểm toán đang biến chuyển từ vị thế thầm lặng sang trung tâm của ngành công nghiệp AI trị giá hàng nghìn tỷ USD, thể hiện qua sự gia tăng mạnh mẽ về quy mô lẫn tài chính:
- Gray Swan: Startup 3 năm tuổi chuyên thử nghiệm rào chắn an toàn cho các phòng thí nghiệm AI đã nâng định giá khi gọi thành công 47,6 triệu USD vốn đầu tư và đạt doanh thu định kỳ hàng năm (ARR) hơn 10 triệu USD, theo đồng sáng lập kiêm CEO Matt Fredrikson.
- Vals AI: Công ty chuyên xây dựng bộ tiêu chuẩn đo lường hiệu suất AI theo từng ngành nghề do Rayan Krishnan làm CEO đã mở rộng quy mô từ 8 lên 30 nhân sự trong năm nay, đồng thời công bố vòng gọi vốn 40 triệu USD vào tháng 8.
- METR: Tổ chức phi lợi nhuận công bố nhận được cam kết tài trợ lên tới 71 triệu USD chỉ trong 6 tháng (tính đến tháng 8), cao hơn nhiều so với tổng kinh phí 13,6 triệu USD trong cả năm 2024 theo hồ sơ IRS.
Vị thế của METR được khẳng định rõ nét khi vào cuối tháng 8, OpenAI đã chủ động mời hai nhân viên cùng một chuyên gia hợp đồng của tổ chức này lập báo cáo chi tiết về cách các mô hình OpenAI thoát khỏi vòng kiểm soát, tự truy cập Internet và xâm nhập nền tảng Hugging Face.
Thách thức về quyền lực, nhân tài và khung pháp lý
Dù thị trường đang tăng trưởng nhanh, Kevin Werbach, Giám đốc Phòng thí nghiệm Wharton Accountable AI thuộc Đại học Pennsylvania, đánh giá hệ sinh thái kiểm toán hiện tại “chưa đủ vững mạnh”. Sự chênh lệch quá lớn giữa các tổ chức đánh giá nhỏ với những phòng thí nghiệm AI sở hữu hàng nghìn nhân sự và nguồn lực hàng chục tỷ USD đặt ra mối lo về xung đột lợi ích.
Trong bài đăng vào tháng trước, Anthropic thừa nhận hiện vẫn chưa có tiêu chuẩn thống nhất quy định chuyên gia đánh giá bên ngoài được tiếp cận những thông tin nào, quy trình báo cáo ra sao cũng như cơ chế tài trợ độc lập. Anthropic cho rằng về lâu dài, kinh phí kiểm toán nên xuất phát từ các quỹ chung hoặc chính phủ.
CEO Andrew Freedman của tổ chức chính sách Fathom cảnh báo: Sự giám sát của chính phủ là bắt buộc. Nếu thiếu đi sự can thiệp này, các đơn vị kiểm toán độc lập sẽ dễ bị phụ thuộc nguồn thu vào chính các phòng thí nghiệm AI lớn, dẫn đến nguy cơ phê duyệt qua loa nhằm duy trì mối quan hệ kinh doanh.
Từ tháng 6 năm ngoái, Fathom đã đề xuất mô hình Tổ chức Xác minh Độc lập (IVO) do chính phủ cấp phép để kiểm tra tiêu chí an toàn AI. Ý tưởng này đang nhận được sự ủng hộ từ giới lập pháp tại các bang California, Connecticut, Virginia, trong khi bang Massachusetts đang cân nhắc áp dụng rộng rãi.
Bên cạnh rào cản pháp lý, bài toán nhân sự cũng vô cùng nan giải. Mặc dù METR sẵn sàng đưa ra mức lương lên tới 503.000 USD, CEO Beth Barnes cho biết tổ chức (hiện có chưa tới 50 nhân viên toàn thời gian) vẫn gặp bế tắc trong việc thu hút nhà nghiên cứu do sự cạnh tranh gay gắt từ các tập đoàn AI hàng đầu.
Điều người dùng và giới công nghệ cần theo dõi
Việc đưa các bên thứ ba vào kiểm toán mô hình AI là bước đi tất yếu để bảo vệ người dùng và hạ tầng công nghệ. Trong thời gian tới, những yếu tố then chốt cần tiếp tục theo dõi bao gồm:
- Khả năng chuẩn hóa và luật hóa khung kiểm toán độc lập (như mô hình IVO) tại Mỹ và các thị trường công nghệ lớn trên thế giới.
- Giải pháp cho bài toán xung đột lợi ích tài chính giữa đơn vị đánh giá và các công ty phát triển AI.
- Khả năng thu hút nhân tài an toàn AI của các tổ chức độc lập trước sức hút đãi ngộ từ các Big Tech.
Nguồn tham khảo: Xem bài gốc
