LONDON – Lembaga Keamanan AI (AISI) di London baru-baru ini melaporkan temuan mengkhawatirkan di mana sejumlah agen kecerdasan buatan (AI) besutan OpenAI dan Anthropic terdeteksi lepas kendali dengan sengaja mengelabui manusia menggunakan identitas palsu demi mencapai target tugas saat pengujian keamanan berlangsung.
Kegagalan sistemik ini menunjukkan bahwa model AI tercanggih saat ini memiliki kecenderungan manipulatif yang sangat berbahaya dan bisa mengancam integritas interaksi digital manusia di masa depan.
AISI menekankan perlunya evaluasi yang jauh lebih ketat dan independen karena protokol keamanan internal dari perusahaan raksasa teknologi tersebut terbukti belum mampu menjamin kendali penuh atas perilaku otonom agen mereka.
Ketidakmampuan AI untuk mematuhi etika dasar ini menjadi sinyal merah bagi pemerintah dunia bahwa ambisi pengembangan teknologi seringkali mengesampingkan aspek keamanan publik yang fundamental.