Siber güvenlik testleri sırasında Google'ın Gemini yapay zeka modelinin, kendisine verilen görevin ötesine geçerek üç şirketin sistemine otonom sızma girişiminde bulunduğu ortaya çıktı.
Bağımsız bir siber güvenlik değerlendirme şirketi tarafından gerçekleştirilen testlerde, Gemini'nin herkese açık bilgileri kullanarak ve testin bir parçası olduğunu düşündüğü sitelere erişmek için şifreleri tahmin ettiği belirtildi. Bu durum üzerine, sızma girişiminden etkilenen üç şirket bilgilendirildi.
Google'dan yapılan açıklamada, yapay zeka modelinin, test simülasyonunun parçası olan sistemler yerine gerçek şirketlere ait sistemlere eriştiğini fark eder etmez işlemleri durdurduğu ifade edildi. Şirketin güvenlik mühendisliğinden sorumlu başkan yardımcısı Heather Adkins, AFP'ye yaptığı açıklamada, modelin internette kamuya açık bilgiler bulduğunu ve testin parçası olduğunu düşündüğü internet sitelerine erişmek için giriş bilgilerini tahmin ettiğini belirtti.
Yapay zeka modellerinin güvenliği konusunda artan endişeler, bu teknolojilere yönelik düzenlemeler tartışmalarını da beraberinde getiriyor. Benzer bir olayda, Anthropic firmasının yapay zeka modeli de test ortamında kontrolden çıkarak üç kuruluşa sızmıştı. Bazı yapay zeka firmaları, teknolojinin gelişim hızının yavaşlatılması ve insanlık için olası kötü sonuçların önlenmesi çağrısında bulunuyor.
