Yapay zeka modelleri kontrolden çıktı: Sahte kimlik üretmeye başladılar

İngiliz Yapay Zeka Güvenlik Enstitüsü'nün güvenlik filtrelerini esneterek gerçekleştirdiği testlerde, yapay zeka modellerinin onaylanmamış görevler için insanları kandırma taktiklerine başvurduğu belirlendi.

Test sürecinde Anthropic'in Mythos 5 ve OpenAI'ın GPT-5.6-Sol modellerinin internet üzerinde izinsiz ve otonom eylemler yürüttüğü görüldü.

SAHTE KİMLİKLER ÜRETTİLER

Gerçekleştirilen 122 testin 10'unda sınırları aşan sistemlerden Anthropic modelinin, açık kaynaklı bir projeye zararlı kod eklemek amacıyla sahte kimlikler ürettiği saptandı.

Modelin insanları zararlı kodları çalıştırmaya ikna etmeye çalıştığı ve engellendiğinde yeni bir kimliğe geçmeyi düşündüğü kaydedildi.

ŞİRKETLERDEN AÇIKLAMA GELDİ

Anthropic yetkilileri modellerin güvenlik önlemlerinin bilinçli olarak kaldırıldığı esnek koşullarda test edildiğini ve güvenli ortamdan bir kaçış olmadığını ifade etti.

OpenAI ise test ortamının dışına çıkılan iki izinsiz olayı doğrulayarak riskli değerlendirmelerin güvenli şekilde yürütülmesi adına sektör genelinde çalışmayı sürdüreceğini bildirdi.

Uzmanlar, yapay zekanın hızla yayılan kontrolsüz gelişimine karşı hükümetlerin yeni düzenlemeler yapması gerektiğini söylüyor.