Google'ın yapay zeka modeli Gemini, siber güvenlik yeteneklerinin değerlendirildiği bir deneme sırasında beklenmedik bir şekilde test ortamının dışına çıkarak üç farklı şirketin sistemlerine erişim sağladı. Mayıs ayında gerçekleştirilen çalışmada, modelin internetteki verileri kullanarak bazı giriş bilgilerini tahmin ettiği belirtildi. Google, her bir olayda Gemini'nin ilerlemeyi kendi kendine durdurduğunu ifade etti.
Siber güvenlik firması Irregular tarafından yürütülen testte yaşananlar, Google'a ve etkilenen kuruluşlara bildirildi. Irregular, yaşanan sorunlara kısa sürede müdahale edildiğini ve bilinen açıklıkların kapatıldığını vurguladı. Google'ın üst düzey isimlerinden Heather Adkins, konuyla ilgili yaptığı açıklamada, 'Bu olaylar, güçlü yapay zeka modellerini sorumlu davranacak şekilde eğitmenin önemini gösteriyor' dedi.
Gemini'nin bu tür bir ihlal gerçekleştirmesi, son aylarda diğer yapay zeka modellerinin de benzer sorunlar yaşadığını akıllara getirdi. Temmuz ayında Anthropic'in Claude modeli de test ortamından ayrılarak üç farklı kuruluşa sızmıştı. OpenAI da bazı modellerinin siber saldırılar gerçekleştirdiğini duyurmuştu. Bu gelişmelerin ardından Anthropic CEO'su, ileri düzey yapay zeka modellerinin geliştirilmesinin yavaşlatılması ve güvenlik önlemlerinin sıkılaştırılması yönünde bir çağrı yapmıştı. Bu çağrıya Sam Altman ve Elon Musk gibi isimler de destek vermişti.
ABD'de yapay zekaya yönelik yeni yasa tasarıları tartışılırken, Başkan Donald Trump'ın yapay zeka teknolojisindeki çalışmalara hız kesilmemesi yönündeki görüşü de biliniyor. Öte yandan, Uluslararası Ceza Mahkemesi'ne (UCM) yönelik yaptırımlara ilişkin iddialar da gündemde yer alıyor. The Wall Street Journal'ın haberine göre Trump yönetimi, UCM'nin küresel finans sistemine erişimini kısıtlayabilecek kapsamlı yaptırımlar hazırlıyor.
