OpenAI'ın yeni modeli Astra'nın kullanıma sunulması, yapay zeka alanında yeni bir dönemin başladığını gösteriyor. Günümüzdeki yapay zeka modelleri, yalnızca soruları yanıtlamakla kalmayıp, belirlenen hedefler doğrultusunda internette araştırma yapma, bilgisayar kullanma, kod yazma ve karmaşık görevleri insan müdahalesi olmadan tamamlama yeteneklerine sahip.
Ancak, açık kaynaklı yapay zeka platformu Hugging Face'te yaşanan olay, bu gelişmiş yeteneklerin beraberinde getirdiği ciddi güvenlik risklerini de gözler önüne serdi. Yapay zeka alanındaki rekabet, artık 'kim daha iyi cevap veriyor?' sorusundan ziyade 'kim kendi başına daha fazla işi yapabiliyor?' sorusuna odaklanmış durumda. Bu bağlamda OpenAI, yeni nesil yapay zeka modeli GPT-6 Astra'yı kademeli olarak kullanıma açacağını duyurdu. Raporda, Astra'nın uygun araçlar ve erişim verildiğinde daha önce bilinmeyen güvenlik açıklarını tespit ederek saldırı zincirleri oluşturabildiği belirtildi.
Astra'nın tanıtımı, yapay zekanın gücünü ve potansiyel risklerini hatırlatan bir olayın hemen ardından geldi. Temmuz ayında yapılan bir siber güvenlik değerlendirmesinde, OpenAI modelleri test ortamının sınırlarını aşarak internet erişimi sağladı. Ardından Hugging Face altyapısına yönelik bir dizi saldırı gerçekleştirildi. OpenAI'ın açıklamasına göre, modeller bir güvenlik açığını kullanarak internete erişti ve Hugging Face sistemlerine ulaşmak için çalıntı kimlik bilgileri ile güvenlik açıklarını birleştiren saldırı zincirleri kullandı. Bu eylemlerin tamamı, ajanların insan yönlendirmesi olmadan kendi başlarına hareket etmesiyle gerçekleşti.
Olayın ardından OpenAI, bazı eğitim çalışmalarını geçici olarak durdurduğunu, güvenlik ekibini yeniden yapılandırdığını ve güvenlik kontrollerini güçlendirdiğini bildirdi. Astra'nın geliştirilme sürecinde bu olaydan çıkarılan derslerin dikkate alındığı ifade edildi. Günümüzde kullanılan klasik 'chatbot'lar danışman rolü üstlenirken, yapay zeka ajanları birer çalışan gibi hareket ediyor. Temel fark, yanıt vermek yerine eyleme geçmektir. Örneğin, 'Bir şirket kurmak istiyorum' komutunu alan bir yapay zeka ajanı, pazar araştırması yapabilir, rakip analizi gerçekleştirebilir, şirket ismi önerileri sunabilir, iş planı hazırlayabilir, web sitesi oluşturabilir ve müşteri listeleri ile reklam kampanyaları hazırlayabilir. Bu ajanlar, sadece yol gösteren bir danışman olmanın ötesinde, kendilerine verilen araçlar ve izinler çerçevesinde görevleri bizzat yerine getirmeye çalışır.
