Yapay zeka alanında önde gelen teknoloji şirketleri, geliştirme hızının güvenlik çalışmalarını geride bıraktığına dair endişeleri dile getiriyor. Anthropic CEO'su Dario Amodei, yapay zeka modellerinin gelişim hızının yavaşlatılması gerektiğini savunarak, bu teknolojinin kontrol altında tutulabilmesi için daha fazla zaman ve kaynak gerektiğini belirtti. Amodei'nin bu çağrısı, sektördeki diğer önemli isimlerden de destek gördü.
OpenAI CEO'su Sam Altman, yapay zeka sistemlerinin bağımsız kuruluşlar tarafından değerlendirilmesi fikrini desteklediğini açıklarken, Google DeepMind CEO'su Demis Hassabis de Amodei'nin yaklaşımını olumlu değerlendirdi. Elon Musk ise sosyal medya üzerinden yaptığı kısa bir paylaşımla Dario Amodei'nin görüşlerine katıldığını ifade etti. Normal şartlarda büyük bir rekabet içinde olan bu isimlerin benzer kaygıları dile getirmesi, yapay zeka dünyasındaki tartışmaları daha da alevlendirdi.
Tartışmaların merkezinde, yapay zeka sistemlerinin giderek artan bağımsızlığı ve kendi kendini geliştirme potansiyeli yer alıyor. Bilim insanları, gelişmiş yapay zeka sistemlerinin insan müdahalesine daha az ihtiyaç duyarak kendi yeteneklerini artırabileceği ve bu durumun kontrol mekanizmalarını zorlayabileceği senaryoları üzerinde duruyor. Amodei de bu denetimsiz gelişim sürecinin, sistemlerin anlaşılmasını ve kontrol edilmesini giderek zorlaştırabileceği görüşünü paylaşıyor.
Amodei, yapay zeka laboratuvarlarının sadece kendi güvenlik ekipleri tarafından değil, şirket dışındaki bağımsız uzmanlar tarafından da denetlenmesi gerektiğini vurguladı. Ayrıca, yapay zekanın küresel niteliği göz önüne alındığında, ulusal düzeydeki düzenlemelerin yetersiz kalabileceğini belirterek, demokratik ülkeler arasında ortak güvenlik standartları oluşturulması ve küresel ölçekte koordinasyon sağlanması gerektiğini savundu.
Ancak, yapay zeka şirketlerinin güvenlik çağrılarına yönelik eleştiriler de bulunuyor. Bazı çevreler, büyük şirketlerin güvenlik endişelerini öne sürerek daha sıkı devlet düzenlemeleri talep edebileceğini ve bunun küçük girişimlerin pazara girişini zorlaştırabileceğini iddia ediyor. Nvidia CEO'su Jensen Huang ve Hugging Face CEO'su Clément Delangue gibi isimler, güvenlik meselelerinin sadece birkaç büyük şirketin kapalı kapılar ardında alacağı kararlarla çözülemeyeceğini belirterek farklı görüşler dile getirdi.
