Yapay Zekayı Yapay Zekayla Vurdular: Claude OpenAI’ı Hackledi!

Teknoloji dünyasının iki dev ismi arasındaki rekabet ve iş birliği dinamikleri, siber güvenlik dünyasını sarsan olağanüstü bir olayla yeniden gündeme geldi. Amerika Birleşik Devletleri’nin San Francisco kentinde yaşanan olayda, yapay zeka şirketi OpenAI altyapısında tespit edilen kritik bir güvenlik açığı, rakip yapay zeka modeli kullanılarak ortaya çıkarıldı. Uzmanlar, yapay zeka destekli siber saldırıların gelecekte ne kadar sofistike olabileceğine dair önemli uyarılarda bulundu.

Hacktron AI Ekibinden Yapay Zekayla Sızma Operasyonu

Büyük şirketlerin dijital altyapılarını denetleyen Hacktron AI siber güvenlik ekibi, OpenAI’ın kullandığı bir tartışma forumunda yazılım hatası fark etti. Sadece üç kişiden oluşan ekip, Anthropic’in gelişmiş Claude yazılımını kullanarak forumdaki güvenlik duvarını aşmayı başardı. Gelişmiş dil modellerinin siber güvenlik testlerinde nasıl birer silaha dönüşebileceğini gösteren bu olay, teknoloji çevrelerinde şok etkisi yarattı.

Sürecin nasıl işlediğini aktaran Hacktron AI Teknoloji Direktörü Mohan Pedhapati, Çinli devlet destekli siber aktörler kadar büyük bir ekibe sahip olmadıklarını, sadece Claude ve Codex abonelikleriyle bu başarıyı elde ettiklerini vurguladı. Benzer şekilde dijital dünyada yaşanan büyük çaplı diğer krizler gibi bu olay da siber savunma mekanizmalarının güncellenmesi gerekliliğini bir kez daha kanıtladı. Örneğin, dijital altyapılardaki risklerin yanı sıra farklı sektörlerdeki kriz yönetimi için petrol devinden korkutan karar: sevkiyat durduruldu! haberinde olduğu gibi ani ve stratejik kararların önemi her geçen gün artıyor.

Claude Opus Sürümü Saldırı Kodunu Yazdı

Araştırmacılar ilk olarak OpenAI forumunun görsel dosyalarını işleme biçimindeki bir açığı fark ettiler. Nitelikli uzmanların kullanımına sunulan özel bir Claude Opus sürümünden, bu açığı istismar edecek bir kod yazması istendi. İlk denemelerde başarısız olunsa da, Anthropic’in yeni sürümü piyasaya sürmesinin ardından Claude, açığı sömürmenin yolunu buldu.

Oluşturulan saldırı kodu sayesinde sunucuya erişen araştırmacılar, kullanıcıların çevrim içi hizmetlere bağlanmasını sağlayan kimlik doğrulama sistemlerine ulaştı. Bu sistemlerin ChatGPT’de de geçerli olduğu ve bazı verilerin OpenAI çalışanlarına ait olduğu belirlendi. Günümüzde yapay zeka entegrasyonları sadece siber güvenlikte değil, ev yaşamından üretime kadar her alanda karşımıza çıkıyor; nitekim Miele’den çamaşır bakımında yapay zekâ devri: okul dönemi kolaylaşıyor gelişmeleri de teknolojinin hayatımızı nasıl çevrelediğini açıkça gösteriyor.

Zararsız Değişiklik Talebiyle Kanıt Sundular

Şirket içi hassas verilere erişebileceklerini fark eden ekip, siber etik kurallarına bağlı kalarak hiçbir koda zarar vermedi. Sadece bir çalışanın hesabını kullanarak OpenAI’ın iç kod deposu GitHub’a “zararsız bir değişiklik” talebi gönderdiler. Bu hamleyi sistemlere başarılı bir şekilde sızdıklarının kanıtı olarak sunan araştırmacılar, açığı hem OpenAI’a hem de forum yazılımını üreten Discourse şirketine rapor etti. OpenAI, güvenlik açığını kapatarak araştırmacılara hata ödül programı kapsamında para ödülü verdi.