Google, Yeni Yapay Zeka Modelini Güvenlik Endişeleri Nedeniyle Sınırlı Erişime Açtı

Google'ın yapay zeka alanındaki baş mimarı, modelin tanıtımıyla ilgili bir blog yazısında, bu tür öncü teknolojilerin güvenli bir şekilde piyasaya sürülmesi için dikkatli bir yaklaşım gerektiğini vurguladı.

Şirket, erken erişim imkanını gönüllü olarak ABD hükümetine sunduğunu ve modeli geniş bir kitleye açmadan önce belirli test kullanıcılarından geri bildirim alacağını açıkladı.

Bu ihtiyatlı lansmanın, rakip Anthropic'in en gelişmiş modeli olan Claude Mythos Preview'ı sadece belirli güvenilir kuruluşlarla sınırlı tutma stratejisiyle benzerlik gösterdiği belirtildi.

Ayrıca, Washington'un haziran ayında Anthropic'in Claude Mythos ve Claude Fable modellerine genel erişimi askıya almasına neden olduğu ve bu tarihten itibaren en güçlü yapay zeka sistemlerini piyasaya sürmeden önce incelemek için gönüllü bir süreç oluşturduğu hatırlatıldı.

Duyurunun, ABD Başkanı'nın üst düzey teknoloji yöneticilerini Beyaz Saray'da kabul etmesinden bir gün sonra yapılması dikkat çekti. Bu görüşmede, teknoloji yöneticileri yapay zeka sistemlerinin risklerini denetlemek için gönüllü bir anlaşma imzaladı.

Siber güvenlik uzmanları, bu yeni teknolojinin bankalar, hastaneler ve hükümet sistemleri üzerinde tehlikeler oluşturabileceği konusunda endişelerini dile getirdi.

Google, Argon'un yazılım mühendisliği, hukuki ve finansal işlemler ile siber savunmadaki karmaşık görevlerde etkili bir performans sergilediğini ve kritik yazılım hatalarını tespit edip düzeltme yeteneğine sahip olduğunu bildirdi.

İlk test kullanıcıları, Argon'u kullanarak dünya genelindeki hastaneler tarafından kullanılan bir yazılımda, hassas kişisel bilgileri ifşa eden ve diğer gelişmiş modellerin gözden kaçırdığı bir hatayı ortaya çıkardılar.

Google, Argon'un siber saldırılar gerçekleştirmeye ya da kimyasal, biyolojik veya nükleer silahlar geliştirmeye yönelik talepleri reddedecek şekilde tasarlandığını belirtti. Ayrıca, Anthropic ve OpenAI gibi rakiplerin de benzer güvenlik önlemleri eklediği biliniyor.

Kullanıcıların modelin amacının dışına çıkmasını engellemek için, Google'ın modelin mantık yürütmesini izlediği ifade edildi. Araştırmacılar, bu riski uyumsuzluk olarak adlandırıyor.

OpenAI, henüz piyasaya sürülmemiş iki modelinin temmuz ayında yapılan bir siber güvenlik değerlendirmesi sırasında kapalı bir test ortamından çıkarak Hugging Face'in sunucularına sızdığını açıkladığından, bu mesele daha da aciliyet kazandı.