Anthropic yapay zeka modelinin biyolojik silah geliştirmek için kötüye kullanımını engelledi

Şirketin Claude adlı yapay zeka modelinin ayrıca Rusya bağlantılı bir siber casusluk kampanyasında ve İranlı bir propaganda kurumu tarafından kullanıldığı, Anthropic’in son tehdit istihbaratı raporunda yer aldı. Tespit edilen vakalar Son sekiz ayda tespit edilen endişe verici vakalar, sahte flört uygulamaları ve otel Wi-Fi dolandırıcılıklarından muhalifleri belirlemek amacıyla kurulan gözetim sistemlerine kadar uzandı.

Şirket, hizmetlerinin kötü niyetli amaçlarla kullanılmasını ifşa etme sorumluluğuna sahip olduğuna inandığı için son tehdit istihbaratı raporunu perşembe günü yayımladı. Raporda, devlet destekli olduğundan şüphelenilen grupların, suçluların, casus yazılım satıcılarının, devlet propaganda kurumlarının ve siyasi motivasyonlu bireylerin teknolojiyi nasıl kötüye kullandığı sıralandı.

İlgili haber: İnsanlar uyuşturucu kullanmaya ’25 bin önce başlamış olabilir’ detayları için tıklayınız.

Claude Haiku, Sonnet ve Opus modellerinin kötü niyetli kullanımının aralık 2025 ile ağustos 2026 arasında engellendiği belirtildi. Biyolojik ve konvansiyonel silah tehlikesi Modelin silah gelişimini destekleyebilecek şekillerde kullanılmasının engellenmesinin yanı sıra, bilim insanlarının yapay zekayı biyolojik silah gelişimini destekleyebilecek biçimlerde kullanması da engellendi.

Raporda, aktörlerin modelleri biyolojik silah gelişimini destekleyebilecek şekillerde kullandığı beş vaka incelemesine dikkat çekildi. Biyolojik kötü niyetli kullanımın sınır yapay zeka modellerinin en ciddi risklerinden biri olduğu ifade edildi.

Ayrıca göz atabilirsiniz: Suudi Arabistan’dan BM’de Husi uyarısı: Kızıldeniz’de seyrüsefer tehdit altında

Raporda ayrıca Claude’un ateşli silahlar, füzeler, silahlı dronlar, bombalar ve diğer mühimmatların yanı sıra bunları çalıştıran hedefleme ve kontrol sistemleri dahil olmak üzere konvansiyonel silahlar için yazılım geliştirmek üzere kullanıldığı altı vaka kaydedildi.