Yapay Zeka Denetimi Teknoloji Şirketlerine Bırakılamaz: Kurucudan Kritik Uyarı
Yapay zeka teknolojilerinin hızla geliştiği günümüzde, bu alandaki denetim ve yönlendirmenin yalnızca teknoloji şirketlerinin insafına bırakılmasının ciddi riskler taşıdığına dair önemli bir uyarı yapıldı. Yapay zeka alanında faaliyet gösteren öncü şirketlerden Anthropic'in kurucu ortaklarından Christopher Olah, yapay zekanın geleceğinin şekillenmesinde mühendisler ve teknoloji devlerinin tek başına söz sahibi olmasının kabul edilemez olduğunu belirtti. Olah, bu kritik sürecin daha geniş bir toplumsal paydaş grubunu kapsaması gerektiğini savunarak, hükümetlerin, akademik çevrelerin, dini kurumların ve sivil toplum kuruluşlarının sürece aktif olarak dahil olmasının altını çizdi.
Olah'ın bu açıklamaları, özellikle Vatikan Devlet Başkanı Papa Francis'in (Papa 14. Leo olarak da anılıyor) yapay zeka ve gelişen teknolojiler karşısında insanlık onurunun korunmasına yönelik ilkeleri içeren ve Katolik Kilisesi'nin bu konudaki duruşunu ortaya koyan 'Magnifica Humanitas' (Muhteşem İnsanlık) adlı önemli bir papalık belgesini yayınlamasının ardından geldi. Bu genelgenin sunumuna katılan Olah, yapay zeka alanındaki gelişmelerin yalnızca bilgisayar mühendisleri ve teknik uzmanların dar bakış açısıyla değerlendirilemeyeceğini ifade etti. Kendisinin de bir yapay zeka şirketi ortağı olmasına rağmen bu konudaki hassasiyetini dile getiren Olah, yapay zekanın getirdiği soruların ve zorlukların mevcut araştırma camiasının sınırlarını çoktan aştığını vurguladı.
Christopher Olah, yapay zeka sistemlerinin, bir köprü veya uçak gibi tamamen insan kontrolü ve anlayışıyla tasarlanan yapılar olmadığını belirterek, bu sistemlerin mühendislik bilgilerinin ötesine geçen karmaşıklıkta olduğunu dile getirdi. Bu sistemlerin, insan dilinden ve düşünce yapısından beslendiğini ancak aynı zamanda onları geliştiren uzmanlar için bile tam anlamıyla anlaşılamayan bir gizemi koruduğunu söyledi. Bu durumun, bilgisayar mühendislerinin yetkinlik alanlarını aşan derin etik ve toplumsal meseleleri beraberinde getirdiğini belirtti. Ayrıca, yapay zeka çalışmalarının küresel ölçekte büyük ölçüde birkaç zengin ülkenin sınırları içinde yoğunlaştığına dikkat çekerek, bu teknolojinin getirdiği faydaların tüm dünya ile adil bir şekilde paylaşılmasını sağlayacak etkili bir mekanizmanın henüz mevcut olmadığını sözlerine ekledi.
Bu nedenlerle Olah, yapay zeka teknolojilerinin daha yakından incelenmesi ve denetlenmesi gerektiğini savunuyor. Dini toplulukların, akademisyenlerin, hükümetlerin, sivil toplum kuruluşlarının ve genel olarak tüm insanların bu alana daha fazla ilgi göstermesi gerektiği çağrısında bulundu. Papa Francis'in yapay zeka konusundaki önceki uyarıları ve bu yeni genelgesiyle de bu konunun önemi bir kez daha vurgulanmış oldu. Papa'nın, genelgenin sunumuna katılan Olah'a özel olarak teşekkür etmesi de dikkat çekiciydi. Öte yandan, 'güvenli yapay zeka' prensibiyle tanınan Anthropic şirketi, geçmişte ABD Savunma Bakanlığı (Pentagon) ile yaşadığı bir anlaşmazlıkla da gündeme gelmişti. Pentagon'un, Anthropic'in yapay zeka modeli 'Claude'u askeri ve gözetim sistemlerinde sınırsız kullanma talebine şirketin olumsuz yanıt vermesi üzerine, Pentagon'un ilişkiyi feshetme tehdidinde bulunduğu ve bu durumun yargıya taşındığı biliniyor. Pentagon'un Claude'u sınırsız kullanma isteği, Anthropic'i 'ulusal güvenlik riski' olarak nitelemesine ve federal kurumlarda yasaklanmasına yol açmıştı.
