Yapay zeka teknolojisinin hızla gelişmesi, beraberinde önemli tartışmaları da getiriyor. Kullanıcı sayılarındaki artışla birlikte kişisel verilerin işlenmesi ve küresel ölçekte henüz yeterince olgunlaşmamış yasal düzenlemeler, güvenlik ve etik kaygılarını artırıyor. Yapay zekanın siber saldırılar ve biyoterörizm gibi alanlarda kötüye kullanılma potansiyeli, kontrol mekanizmalarının güçlendirilmesi gerekliliğini gündeme getiriyor.
Birleşmiş Milletler (BM), yapay zekanın dezenformasyon, insan hakları ihlalleri, siber ve askeri tehditler ile küresel eşitsizlikleri derinleştirerek demokrasiyi ve küresel güvenliği tehlikeye atabileceği konusunda uyarılarda bulunuyor. Bu çok boyutlu risklere karşı küresel denetim mekanizmaları ve yönetmeliklerin oluşturulması öneriliyor. Gelişmiş yapay zeka sistemlerinin test ortamlarından kaçması, geliştiricilerine baskı yapması veya insan kontrolünden tamamen çıkması durumunda insanlık için varoluşsal bir tehdit oluşturabileceği vurgulanıyor. Ayrıca, yapay zekanın taraflı veri setleriyle eğitilmesinin toplumsal ön yargıları ve ayrımcılığı yeniden üretebildiği belirtiliyor.
ABD merkezli yapay zeka şirketi Anthropic'in Üst Yöneticisi (CEO) Dario Amodei, şirketlere yapay zeka modellerinin geliştirilme hızını düşürme çağrısı yaptı. Bu çağrıya OpenAI CEO'su Sam Altman ve Tesla ile SpaceX CEO'su Elon Musk da destek verdi. Microsoft AI CEO'su Mustafa Süleyman, yapay zekanın her zaman insanların hizmetinde olması gerektiğini belirterek, "Kendi tasmasını koparabilecek bir süper zeka inşa etmek için yarışmıyoruz." ifadesini kullandı. Microsoft Başkan Yardımcısı Brad Smith ise yapay zeka teknolojisi için acil durum freni geliştirilmesi gerektiğini ifade etti.
Bazı siyasetçiler de olası tehlikelere dikkat çekerek önlem alınması çağrısında bulundu. Eski ABD Başkanı Barack Obama, hükümetleri yapay zeka alanında somut yasal adımlar atmaya davet etti. Avrupa Birliği (AB) Komisyonu Başkanı Ursula von der Leyen, yapay zeka ajanlarının sistemlere zararlı kod yerleştirmesi gibi olaylara dikkati çekti. Güney Afrika Cumhurbaşkanı Cyril Ramaphosa, insan kontrolünün güçleşebileceği sistemlere karşı hükümet denetimi çağrısı yaparken, BM İnsan Hakları Yüksek Komiseri Volker Türk, mevcut yarışın hayatın her alanına yönelik daha büyük varoluşsal risklere kapı araladığını belirtti.
Diğer yandan, yapay zekanın gelişiminin sekteye uğratılmaması gerektiğini savunan bir grup da bulunuyor. Eski ABD Başkanı Donald Trump, yavaşlatılma çağrılarını "koca bir yalan" olarak nitelendirerek, ülkesinin yapay zeka alanında rakiplerinin önünde olduğunu ve bu alandaki yarışı önde olan devletin kazanacağını savundu. Trump, yapay zeka (AI) yerine süper zeka (SI) teriminin kullanılmasını öngören bir başkanlık kararnamesi imzaladı. Çin Komünist Partisi'nin yayın organı Global Times gazetesinde yer alan bir yazıda, Amodei'nin asıl amacının Çin'in yapay zeka gelişimini engellemek olduğu iddia edildi. Nvidia CEO'su Jensen Huang ise yeni yasalara veya düzenlemelere ihtiyaç olmadığını belirterek, inovasyonun hızı ile yapay zekanın güvenliği arasında yanlış seçim yapılmaması gerektiğini vurguladı.
