Anthropic CEO'su D.A., açık kaynaklı yapay zeka modellerine yönelik genel bir yasak çağrısı yapmadıklarını belirtti. Tecrübeli yönetici, tehlikeli yetenekler içermeyen açık kaynak modellerin kamu yararına hizmet ettiğini vurguladı. Amodei'ye göre bu sistemler, yalnızca çalıştırma maliyeti karşılığında işletmelere, geliştiricilere ve araştırmacılara önemli değer sunarken, aynı zamanda yenilikleri de destekliyor.
Nvidia CEO'su J.H. ve Meta, Microsoft, Hugging Face, Mistral gibi şirketlerin yayınladığı açık çağrı, açık kaynak modellere yönelik kısıtlamalara karşı çıkmıştı. Amodei ise gerçek endişesinin Çin menşeli yapay zeka araçlarının günlük kullanımı olmadığını ifade etti. Anthropic CEO'su, asıl riskin yönetimlerin güçlü yapay zeka sistemleriyle kalıcı askeri üstünlük kurması ve toplumsal baskıyı artırmasında yattığını dile getirdi.
Amodei, biyolojik saldırılar ve siber güvenlik tehditleri konusunda açık kaynak araçların denetiminin daha zor olabileceğini savundu. Çözüm önerileri arasında Çin'in gelişmiş çiplere erişiminin sınırlandırılması, model damıtma yöntemlerine karşı daha sert adımlar atılması ve küresel güvenlik testlerinin uygulanması yer aldı. Ancak bu sistemin etkinliği için Çin dahil tüm ülkelerin aynı denetim mekanizmasına katılması gerektiğini de kabul etti.
Model damıtma tekniği, güçlü bir yapay zeka modelinin verdiği cevapların başka bir modeli eğitmek için kullanılması esasına dayanıyor. Bu sayede yeni model, kaynak koda erişim sağlamadan öğretmen modelin davranışlarını ve bazı yeteneklerini taklit edebiliyor.
