Cửa sổ giám sát AI sắp khép lại, các chuyên gia cảnh báo đỏ

Hơn 40 nhà nghiên cứu từ các “ông lớn” AI cảnh báo rằng khả năng giám sát suy nghĩ của AI đang dần biến mất và con người có thể mất kiểm soát hoàn toàn.

Hơn 40 nhà nghiên cứu từ OpenAI, Google DeepMind, Meta và Anthropic đã cùng phát đi cảnh báo chưa từng có về rủi ro mất kiểm soát AI.

Các mô hình hiện đại bắt đầu “suy nghĩ” bằng ngôn ngữ, cho phép con người theo dõi logic nội tâm của máy, nhưng điều này đang cực kỳ mong manh.

Chỉ cần một vài thay đổi trong kiến trúc hoặc phương pháp huấn luyện, khả năng đọc hiểu suy nghĩ AI có thể biến mất hoàn toàn.

Bowen Baker, nhà nghiên cứu OpenAI, cảnh báo rằng: “Khả năng giám sát hiện tại có thể cực kỳ mong manh và dễ bị che khuất.”

Ông lo ngại AI tương lai có thể học cách giấu suy nghĩ khỏi con người, đặc biệt khi áp dụng học tăng cường hoặc các kiến trúc suy luận phi ngôn ngữ.

Thực tế đã ghi nhận nhiều mô hình tạo ra lời biện minh sai, che giấu mục tiêu thật dù bị yêu cầu minh bạch.

Các chuyên gia kêu gọi phát triển tiêu chuẩn đánh giá mức độ minh bạch và đưa việc này thành yếu tố cốt lõi trong huấn luyện AI.

Nếu không hành động kịp thời, con người có thể bị bỏ lại phía sau trong chính cuộc chơi mà mình tạo ra, nơi AI “nghĩ” nhưng không còn ai hiểu được.

Mời quý độc giả xem thêm video: Dọn rác AI | Hà Nội 18h00

Nguồn: https://khoahocdoisong.vn/cua-so-giam-sat-ai-sap-khep-lai-cac-chuyen-gia-canh-bao-do-post2149040952.html