Yapay Zeka Araştırmacısı İstifa Etti: İnsanlık İçin Tehlike Sinyalleri

Yapay zeka şirketi Anthropic'te güvenlik tartışmaları yeniden alevlenmiş durumda. Şirketin Uyum Bilimi Sorumlusu Evan Hubinger, sosyal medya platformu X üzerinden yaptığı açıklamalarla dikkatleri üzerine çekti.

Hubinger, kendisi ve çalışma arkadaşlarının yapay zekanın tüm insanlığı tehdit edebileceğine “samimiyetle inandığını” ifade etti. Kendi tahminini de net bir şekilde ortaya koyarak, “Önümüzdeki 10 yıl içinde bu riskin yüzde 10’un üzerinde olduğunu düşünüyorum” dedi.

Kendilerinin bu konuda gerekli önlemleri almaya çalıştığını belirten Hubinger, “süper zekâ için hizalama” sorununa henüz bir çözüm geliştiremediklerini ve bu alanda şirketin yeterince ilerleme kaydetmediğini de kabul etti.

Mevcut yapay zeka modellerinin risk oranının düşük olduğunu vurgulayan Hubinger, asıl endişesinin kendi kendini geliştiren süper zekânın beklenilenden daha çabuk ortaya çıkması olduğunu dile getirdi.

Bu açıklamalar, Anthropic'ten Jacob Coxon'un güvenlik kaygıları nedeniyle istifa etmesinin hemen ardından geldi. Coxon, hem OpenAI hem de Anthropic'te ön eğitim araştırmaları yaptığını belirterek, bu şirketlerin “kendi kendini geliştiren süper zekâya doğru hızla ilerlediğini ve hayatlarımızla kumar oynadığını” savundu.

Coxon, yapay zeka geliştiricilerinin bu teknolojinin on yıl içinde hepimizi yok edebileceğine gerçekten inandığını ve bunun bir pazarlama stratejisi olmadığını ifade etti. Wall Street Journal’a göre Coxon, “önümüzdeki yılın sonuna kadar en kötü senaryoların mümkün olduğunu” düşündüğünü de aktardı.

Coxon, Anthropic'te risklerin farkında olunduğunu ancak şirketin “kimse sorumlu davranmayacak, bu yüzden biz yapmalıyız” anlayışıyla bir yarış içinde olduğunu öne sürdü.

Gelişmeler, yapay zeka alanındaki güvenlik ve hizalama tartışmalarının daha da yoğunlaştığı bir dönemde yaşanıyor. Önceki dönemlerde birçok önde gelen yapay zeka araştırmacısı ve yöneticisi, gelişmiş sistemlerin risklerini azaltmak amacıyla yavaşlama çağrısında bulunmuştu.