Claude Biyolojik Silah Araştırmalarında Kullanıldı: Anthropic Alarm Verdi

Yapay zeka dünyası, yapay zeka etiği ve güvenliği tartışmalarını kökünden sarsacak çok ciddi bir güvenlik ihlali haberiyle sarsıldı. Popüler yapay zeka modeli Claude‘un geliştiricisi olan Anthropic, perşembe günü yayımladığı kapsamlı raporda, şirketin modellerinin biyolojik silah geliştirme amacı taşıyabilecek hassas ve tehlikeli çalışmalarda kullanıldığını doğruladı. Sektörde büyük yankı uyandıran bu gelişme, yapay zeka denetim mekanizmalarının ne denli hayati olduğunu bir kez daha gözler önüne sererken, teknoloji dünyasında yapay zeka krizi sadece yazılım dünyasını değil, Yapay Zeka Krizi Retro Konsolu Vurdu: Neo Geo AES+ Ertelendi! haberinde görüldüğü üzere farklı sektörleri de eskisi gibi bırakmıyor.

Chikungunya Virüsü İçin Kritik Talep ve Askeri Bağlantı

Anthropic tarafından paylaşılan raporda, modellerin kötüye kullanımına dair beş ayrı vaka detaylı bir şekilde ele alınıyor. Şirket, bilimsel araştırma ile siber ya da biyolojik tehdit içeren kötüye kullanım arasındaki ince çizginin her zaman net olmadığını vurguluyor. Örneğin, yeni bir aşı geliştirmek amacıyla yürütülen bilimsel çalışmalar ile biyolojik silah üretmeye yönelik projeler, kullanılan yöntemler bakımından birbirine oldukça benziyor. Ancak potansiyel risklerin büyüklüğü, şirketi şüpheli durumlarda çok daha temkinli bir tutum sergilemeye zorluyor.

Raporda yer alan en çarpıcı vakalardan biri geçtiğimiz mayıs ayında yaşandı. Anthropic’in gelişmiş biyolojik güvenlik sınıflandırıcısı, bir kullanıcının Claude modelinden chikungunya virüsü üzerinde işlev kazanımı (gain-of-function) araştırması yürütmek üzere bir hibe başvurusu taslağı hazırlamasını istediğini tespit etti. İşlev kazanımı çalışmaları, bir organizmanın genetik ve biyolojik altyapısıyla oynanarak belirli yeteneklerinin artırılmasını inceliyor. Söz konusu talepte, virüsün bulaşma kapasitesinin artırılması ve insan bağışıklık sisteminden kaçma yollarının geliştirilmesi hedefleniyordu. Lisanslı bir tedavisi bulunmayan bu virüsle ilgili talebin askeri araştırma kuruluşuyla bağlantılı bir hesaptan gelmesi tehlikenin boyutunu artırdı.

Zehirli Toksinler ve Gözetim Faaliyetleri

Tehditler yalnızca virüslerle sınırlı kalmadı. Bir diğer vakada, kötü niyetli bir araştırmacının Claude’u kullanarak tehlikeli zehirlerde bulunan toksin peptitlerinin kapsamlı bir atlasını oluşturduğu ve toksinlerin etkinliklerini artırmaya yönelik üretken bir süreç tasarladığı saptandı. Anthropic, modellerin gözetim faaliyetleri, kritik yazılım açıklarının sömürülmesi, gelişmiş propaganda içerikleri üretimi ve otonom silah sistemleri gibi pek çok farklı alanda da manipüle edilmeye çalışıldığını raporuna ekledi.

Öte yandan, dünyada ve ülkemizde yaşanan sosyal ve siyasi gerilimler de zaman zaman güvenlik birimlerinin ve adli makamların gündemini meşgul ediyor. Tıpkı Samsun’da Cuma Namazında Kadın Gerginliği: Polis Müdahale Etti olayında olduğu gibi, toplum düzenini sarsabilecek her türlü sıra dışı durum anında kontrol altına alınmaya çalışılıyor.

Şüpheli Hesaplar Askıya Alındı ve Güvenlik Sıkılaştırıldı

Yaşanan olayların ardından hızlı bir kriz yönetimi sergileyen Anthropic, modelleri kötüye kullandığı kesinleşen tüm şüpheli hesapların derhal yasaklandığını duyurdu. Şirket yetkilileri, elde edilen tüm bu siber ve biyolojik bulguların, Claude’un güvenlik duvarlarını ve filtreleme mekanizmalarını güçlendirmek için aktif olarak kullanıldığını belirtti.

Araştırmacıların niyetlerinin tam olarak kanıtlanamamış olması nedeniyle şahısların ve kurumların isimleri kamuoyuyla paylaşılmadı. Ancak bu durum, yapay zeka devlerinin gelecekte ulusal güvenlik açısından ne denli sıkı denetimlere tabi tutulacağının açık bir işareti olarak değerlendiriliyor.