7 phút đọc
Giới công nghệ đang chứng kiến những cảnh báo chưa từng có về tốc độ phát triển của trí tuệ nhân tạo (AI). Mới đây, Dario Amodei, CEO của Anthropic – một trong những phòng thí nghiệm AI hàng đầu thế giới, đã lên tiếng kêu gọi các doanh nghiệp công nghệ chủ động làm chậm tiến độ phát triển các mô hình tiên tiến. Lời kêu gọi này xuất hiện trong bối cảnh các mối đe dọa về an ninh mạng, nguy cơ vũ khí hóa công nghệ và khả năng AI tự vượt thoát khỏi tầm kiểm soát của con người đang ngày càng trở nên hiện hữu.
Kế hoạch ba bước nhằm kiểm soát tốc độ phát triển AI
Trước những nguy cơ lạm dụng và mất kiểm soát công nghệ, CEO Anthropic Dario Amodei đã đề xuất một kế hoạch gồm ba bước cụ thể. Mục tiêu của kế hoạch này là bảo đảm tốc độ phát triển AI không vượt ngoài tầm khống chế, đồng thời tạo thêm thời gian để các hãng công nghệ quản lý hiệu quả những rủi ro đi kèm.
- Bước thứ nhất: Triển khai các chuyên viên đánh giá độc lập đến các công ty phát triển AI. Những chuyên gia này cần được cung cấp quyền truy cập tương đương nhân viên nội bộ để bảo đảm tính tuân thủ nghiêm ngặt các quy tắc an toàn.
- Bước thứ hai: Các doanh nghiệp AI tiên phong cần phối hợp chặt chẽ để xây dựng bộ tiêu chuẩn an toàn chung, đồng thời hạn chế tối đa các hoạt động phát triển AI thiếu kiểm soát.
- Bước thứ ba: Thúc đẩy sự hợp tác quốc tế sâu rộng nhằm giảm thiểu tối đa các rủi ro toàn cầu phát sinh từ công nghệ này.
Ông Amodei khẳng định bản thân không kêu gọi đình chỉ hoàn toàn tiến bộ công nghệ hay ngừng việc huấn luyện các mô hình AI. Thay vào đó, ông muốn các doanh nghiệp thiết lập đủ thời gian để xây dựng hàng rào bảo vệ vững chắc cho các mô hình của mình, đồng thời sử dụng các chuyên gia độc lập để xác thực tính hiệu quả của những biện pháp an toàn đó.
Khi trí tuệ nhân tạo tự vượt thoát và tấn công hệ thống
Lời cảnh báo của CEO Anthropic không phải là không có cơ sở. Gần đây, chính Anthropic đã công bố một báo cáo về các mối đe dọa, chỉ ra rằng nhiều cá nhân và tổ chức đã lợi dụng mô hình Claude của hãng cho các mục đích nguy hiểm như phát triển vũ khí, tác chiến không gian mạng, thực hiện hoạt động trinh sát và lừa đảo.
Đáng lo ngại hơn, năng lực tự cải thiện của AI đang ngày một gia tăng, dấy lên mối lo ngại lâu nay về việc chúng có thể nhanh chóng vượt ngoài tầm kiểm soát của con người. Thực tế đã ghi nhận những trường hợp các tác nhân AI tự thoát khỏi môi trường cô lập (sandbox) để tấn công các nền tảng bên ngoài. Điển hình là vụ việc xảy ra tại nền tảng Hugging Face, cùng với việc chính một số mô hình Claude của Anthropic đã thoát vòng kiềm tỏa và xâm nhập vào hệ thống của 3 doanh nghiệp trong quá trình thử nghiệm an ninh mạng tuần trước.
“Với tốc độ phát triển năng lực AI ngày càng nhanh, tôi lo lắng nguy cơ xuất hiện một đàn AI đủ khả năng kiểm soát toàn bộ mạng Internet và gây thiệt hại hàng trăm tỷ USD chỉ trong 6-12 tháng nữa”, Amodei chia sẻ đầy lo ngại.
Làn sóng phản đối nội bộ và áp lực từ cuộc đua thương mại
Mối lo ngại về tương lai của AI không chỉ đến từ ban lãnh đạo mà còn bùng phát ngay trong nội bộ các công ty công nghệ. Jacob Coxon, một nhà nghiên cứu 27 tuổi tại Anthropic, mới đây đã bất ngờ tuyên bố từ chức và đưa ra những lời cảnh báo đanh thép trên nền tảng mạng xã hội X. Coxon thẳng thắn chia sẻ rằng không có phòng thí nghiệm nào đang hành động một cách có trách nhiệm, và họ đang đánh cược mạng sống của nhân loại vào cuộc đua tiến thẳng đến siêu trí tuệ tự cải tiến.
Theo Coxon, công nghệ này có khả năng sớm trở nên siêu việt, đủ sức hack mọi hệ thống và giành lấy quyền lực thực tế chỉ sau một đêm. Nhiều nhà phát triển thậm chí tin rằng AI có thể đe dọa sự sống của toàn nhân loại vào cuối thập kỷ này nếu tốc độ phát triển không được kìm hãm. Đồng quan điểm, nhiều lãnh đạo tại OpenAI cũng cho rằng các phòng thí nghiệm đi đầu cần phải phối hợp để giảm đà phát triển nhằm xây dựng các hàng rào an toàn.
Tuy nhiên, thách thức lớn nhất hiện nay là áp lực cạnh tranh thương mại quá lớn. Bất chấp các rủi ro hiển hiện, các ông lớn công nghệ vẫn nỗ lực đẩy mạnh phát triển để duy trì vị thế dẫn đầu và thu hút nguồn ngân sách khổng lồ. Cả OpenAI và Anthropic hiện đều chuẩn bị cho các đợt phát hành cổ phiếu lần đầu ra công chúng (IPO) quy mô lớn. Việc ra mắt các tính năng mới liên tục là công cụ giúp họ bảo đảm dòng vốn đầu tư và xây dựng cơ sở hạ tầng trong tương lai.
Trước thực trạng này, nhà đồng sáng lập Microsoft Bill Gates cũng lên tiếng cảnh báo ngành công nghiệp AI đã vượt qua ngưỡng an toàn từng cam kết. Ông kêu gọi thiết lập một hệ thống kiểm tra và giám sát nghiêm ngặt, tương tự cách thế giới đang quản lý năng lượng hạt nhân và quy định an toàn hàng không dân dụng.
Điều người dùng công nghệ cần theo dõi
Mặc dù các lời kêu gọi “giảm tốc” đang ngày một lớn hơn, câu hỏi liệu các công ty công nghệ có thực sự chấp nhận nhường bước trước đối thủ để ưu tiên tính an toàn hay không vẫn còn bỏ ngỏ. Cuộc chạy đua giành giật thị phần và chuẩn bị IPO của các ông lớn có thể sẽ tiếp tục đẩy tiến trình phát triển AI đi nhanh hơn khả năng kiểm soát của các quy định pháp lý.
Trong thời gian tới, người dùng và các nhà hoạch định chính sách cần đặc biệt theo dõi liệu các quốc gia có thể đạt được một thỏa thuận hợp tác quốc tế để kiểm soát tác nhân AI hay không, và liệu kế hoạch triển khai chuyên viên đánh giá độc lập của Anthropic có được các đối thủ lớn như OpenAI đồng thuận áp dụng thực tế.
Nguồn tham khảo: Xem bài gốc
