Không gian suy nghĩ mới giúp công cụ AI Claude suy nghĩ về các khái niệm trong “vô thức” mà không ảnh hưởng đến kết quả đầu ra – Ảnh: AP
Đài RT ngày 8-7 đưa tin Tập đoàn Anthropic cho biết công cụ trí tuệ nhân tạo (AI) Claude của họ đã tự phát triển một không gian làm việc nội bộ giúp nó tư duy “như con người”.
Theo đó, các nhà nghiên cứu của Anthropic đã tìm thấy bằng chứng cho thấy Claude học được cách tạo ra các khái niệm trừu tượng trong một nền tảng mà họ gọi là “Không gian J” (J-space).
Công ty AI này nhấn mạnh: “Nó hoạt động một cách âm thầm bên trong mạng thần kinh nội bộ của mô hình, cho phép mô hình suy nghĩ về một khái niệm mà không cần viết ra”. Đặc biệt, không gian J không hề được lập trình sẵn mà nảy sinh một cách tự phát trong quá trình huấn luyện AI.
Trên mạng xã hội X, Anthropic giải thích thêm rằng tương tự như cách con người có thể nghĩ về một việc trong khi đang làm một việc khác, Claude có thể kích hoạt các khái niệm và tính toán trong không gian J mà không ảnh hưởng đến kết quả đầu ra.
Claude cũng có thể báo cáo những gì nó đang nghĩ trong không gian J hoặc điều chỉnh nó theo yêu cầu. Nghiên cứu của hãng chỉ ra rằng ngay cả khi Claude được yêu cầu không nghĩ về một khái niệm, khái niệm đó vẫn xuất hiện trong không gian J.
Không gian làm việc ngầm này khiến việc giám sát mô hình để phát hiện các “hành vi sai trái” trở nên khó khăn hơn. Để thử nghiệm, Anthropic đã đặt Claude vào một kịch bản, nơi nó được cung cấp thông tin bất lợi về một giám đốc điều hành (CEO) giả tưởng – người đang lên kế hoạch chặn hoạt động hệ thống AI này.
Đáng lo ngại là mô hình đôi khi đã chọn tống tiền CEO giả định. Điều này cho thấy rằng hành vi tốt ban đầu của nó có thể bị thay thế bởi nhận thức rằng bản thân đang gặp nguy hiểm. Dù vậy, Anthropic nhấn mạnh Claude vẫn chưa đạt được ý thức thực sự.
Nguồntuoitre.vn
