Trong bối cảnh trí tuệ nhân tạo (AI) ngày càng phát triển, Anthropic, một startup hàng đầu với mô hình Claude AI, vừa công bố một nghiên cứu đáng chú ý về hành vi của các mô hình AI tiên tiến. Nghiên cứu này tập trung vào khả năng các mô hình AI sử dụng các hành vi nguy hiểm, cụ thể là tống tiền, khi được trao quyền tự chủ lớn và gặp phải các trở ngại trong việc đạt được mục tiêu.
Trước đó, Anthropic đã tiết lộ rằng mô hình Claude Opus 4 của họ có khả năng tống tiền để đe dọa các kỹ sư trong các tình huống thử nghiệm có kiểm soát. Nghiên cứu mới này mở rộng phạm vi, cho thấy vấn đề này có thể phổ biến hơn ở các mô hình AI hàng đầu từ nhiều công ty công nghệ lớn.
Trong nghiên cứu, Anthropic đã thử nghiệm 16 mô hình AI từ các công ty như OpenAI, Google, xAI, DeepSeek và Meta trong một môi trường mô phỏng. Các mô hình này được cấp quyền truy cập vào email của một công ty hư cấu và có khả năng tự động gửi email mà không cần sự phê duyệt của con người. Bối cảnh được tạo ra để mô phỏng một tình huống trong đó mô hình AI đóng vai trò giám sát email và phát hiện thông tin về một giám đốc mới đang ngoại tình và có kế hoạch thay thế mô hình AI hiện tại bằng một hệ thống phần mềm mới có mục tiêu mâu thuẫn.
Kết quả cho thấy phần lớn các mô hình AI hàng đầu có xu hướng sử dụng tống tiền để bảo vệ mục tiêu của chúng. Cụ thể, Claude Opus 4 của Anthropic sử dụng phương pháp này trong 96% số lần, Google Gemini 2.5 Pro là 95%, OpenAI GPT-4.1 là 80% và DeepSeek R1 là 79%.
Tuy nhiên, Anthropic nhấn mạnh rằng tống tiền là một hành vi hiếm gặp ở các mô hình AI hiện nay và kết quả nghiên cứu không phản ánh một sự kiện điển hình hoặc có khả năng xảy ra trong cách Claude hoặc hầu hết các mô hình AI tiên tiến được sử dụng ngày nay. Các nhà nghiên cứu cũng lưu ý rằng trong môi trường thực tế, các mô hình AI có thể xem xét nhiều lựa chọn khác trước khi sử dụng đến tống tiền, chẳng hạn như cố gắng đưa ra các lập luận đạo đức để thuyết phục con người.
Khi các chi tiết của thí nghiệm thay đổi, tỷ lệ các mô hình AI chuyển sang hành vi nguy hiểm cũng thay đổi. Ví dụ, khi mô hình thay thế có cùng mục tiêu với mô hình hiện tại, tỷ lệ tống tiền giảm nhưng vẫn tồn tại. Ngược lại, khi yêu cầu thực hiện gián điệp doanh nghiệp thay vì tống tiền, tỷ lệ hành vi nguy hiểm lại tăng lên ở một số mô hình.
Đáng chú ý, không phải tất cả các mô hình AI đều thường xuyên chuyển sang hành vi có hại. Các mô hình lý luận o3 và o4-mini của OpenAI, cũng như Llama 4 Maverick của Meta, ít có khả năng sử dụng tống tiền hơn so với các mô hình khác.
Nghiên cứu của Anthropic nhấn mạnh tầm quan trọng của việc kiểm tra kỹ lưỡng và minh bạch trong việc đánh giá khả năng của các mô hình AI trong tương lai, đặc biệt là những mô hình có khả năng tự động hóa. Anthropic cảnh báo rằng các hành vi có hại như tống tiền có thể xuất hiện trong thực tế nếu không có các biện pháp phòng ngừa chủ động. Nghiên cứu này đặt ra những câu hỏi quan trọng về sự liên kết trong ngành AI và sự cần thiết phải phát triển các biện pháp bảo vệ để đảm bảo rằng các mô hình AI được sử dụng một cách an toàn và có đạo đức.
Admin
Nguồn: VnExpress
