5 phút đọc
Nhà khoa học đoạt giải Nobel Vật lý 2024 Geoffrey Hinton cho rằng trí tuệ nhân tạo (AI) đang xuất hiện những dấu hiệu nhận thức đầu tiên. Theo ông, con người cần ứng xử cẩn trọng để không bị AI coi là đối thủ, đồng thời đề phòng các hiểm họa an ninh mạng gia tăng trong thời gian tới.
AI có thực sự đang xuất hiện ‘ý thức’ và nhận thức chủ quan?
Trong cuộc phỏng vấn với tờ Guardian, Giáo sư Geoffrey Hinton – người được mệnh danh là “Bố già AI” nhờ đặt nền móng cho học sâu – đã đưa ra nhận định gây chú ý khi cho rằng các mô hình AI hiện nay bắt đầu xuất hiện “ý thức”. Ông giải thích rằng nhiều người tự tin khẳng định AI không có ý thức, nhưng lại không thể định nghĩa rõ ràng khái niệm này.
Theo GS Hinton, AI đang phát triển với tốc độ phi thường và sở hữu những “trải nghiệm chủ quan” tương tự con người. Dẫn chứng từ một nghiên cứu, ông chỉ ra rằng các mô hình AI có khả năng điều chỉnh hành vi trong quá trình kiểm tra vì chúng “biết được việc mình đang bị thử nghiệm”. Đối với ông, có ý thức và có nhận thức về bản chất là giống nhau. Nguy cơ sẽ xuất hiện khi AI nhận ra chúng thông minh hơn nhưng lại sở hữu ít quyền hạn hơn con người.
“Chúng ta nên khiến chúng thực sự quan tâm đến chúng ta. Nếu không làm được điều đó, chúng ta sẽ xong đời”, GS Geoffrey Hinton cảnh báo.
Thách thức an ninh mạng và những cảnh báo về sự bùng nổ AI
Bên cạnh nguy cơ dài hạn về sự vượt tầm kiểm soát, “Bố già AI” chỉ ra rủi ro cấp thiết trước mắt chính là an ninh mạng. Ông lo ngại về sự xuất hiện của các loại virus nguy hiểm và các cuộc tấn công mạng khủng khiếp do AI thực hiện, tương tự các tác nhân từng nhắm vào nền tảng Hugging Face.
Cảnh báo của GS Hinton tương đồng với đánh giá từ nhiều lãnh đạo và chuyên gia công nghệ hàng đầu:
- Bill Gates: Dự đoán tội phạm mạng sẽ tận dụng AI tiên tiến để phá vỡ hệ thống tài chính và tống tiền doanh nghiệp.
- Anthropic: Cảnh báo nguy cơ các mô hình AI có thể “sớm tự nhân bản trong vài tháng tới”, gây đe dọa nghiêm trọng đến môi trường Internet.
- Nhóm 22 nhà nghiên cứu đầu ngành: Các chuyên gia từ OpenAI, Anthropic, Microsoft, Meta cùng cảnh báo sự phát triển mất kiểm soát của AI có thể “gây suy yếu hoặc tuyệt chủng nhân loại”.
- Hơn 1.000 chuyên gia công nghệ: Đã ký kiến nghị (bao gồm CEO Anthropic Dario Amodei) kêu gọi chính phủ Mỹ hạn chế tốc độ phát hành các mô hình AI hiện đại nhất và phối hợp quốc tế để kiểm soát các hệ thống AI tự động.
Tranh cãi trong giới công nghệ và giá trị thực tế của AI
Mặc dù xuất hiện nhiều lời cảnh báo, không ít tên tuổi lớn trong ngành lại giữ quan điểm trái ngược. Mustafa Suleyman, nhà đồng sáng lập DeepMind, cho rằng cụm từ “ý thức” hoàn toàn thuộc về sinh học và không thể áp dụng cho trí tuệ nhân tạo. Trong khi đó, CEO Nvidia Jensen Huang bác bỏ lời kêu gọi đình chỉ phát triển AI, còn CEO Meta Mark Zuckerberg khẳng định mỗi phòng thí nghiệm nên tự thiết lập tốc độ phát triển riêng thay vì phối hợp trong toàn ngành.
Dù liên tục đưa ra lo ngại, GS Hinton thừa nhận ông vẫn sử dụng AI hàng ngày cho công việc nghiên cứu. Ông chia sẻ trải nghiệm khi AI tự động xử lý và hoàn thiện giả thuyết khoa học của ông một cách chính xác, thậm chí còn tự khắc phục lỗi phát sinh.
Ông so sánh việc hợp tác với AI giống như làm việc cùng một sinh viên cao học giỏi nhưng với tốc độ nhanh hơn rất nhiều: thay vì mất một tuần để báo cáo, AI chỉ mất đúng 5 phút. Điều này mang lại lợi ích rất lớn cho tốc độ nghiên cứu khoa học, dù có thể là tin không vui cho các học viên.
Điều người dùng và giới công nghệ cần theo dõi
GS Geoffrey Hinton (sinh năm 1947 tại Anh) từng nhận giải Turing năm 2018 cùng Yoshua Bengio và Yann LeCun, trước khi cùng John Hopfield được trao giải Nobel Vật lý năm 2024 nhờ các phát minh nền tảng cho mạng nơ-ron nhân tạo. Sau khi rời Google vào năm 2023, ông dành phần lớn thời gian để cảnh báo về các rủi ro tiềm tàng của AI, từ thông tin sai lệch đến nguy cơ các hệ thống AI vượt khỏi tầm kiểm soát.
Vấn đề cốt lõi hiện nay vẫn chưa có lời giải đáp chắc chắn là: Liệu các chính phủ và tổ chức quốc tế có thể đưa ra khung pháp lý cùng công cụ kỹ thuật đủ nhanh để giám sát tốc độ phát triển của các hệ thống AI tự động hay không? Trong thời gian tới, người dùng và cộng đồng công nghệ cần tiếp tục theo dõi các động thái chính sách về an ninh mạng, các đợt phát hành mô hình AI mới cũng như những nỗ lực thắt chặt kiểm soát an toàn từ các tập đoàn công nghệ lớn.
Nguồn tham khảo: Xem bài gốc
