Yapay Zeka Kontrolden Çıkarsa Fişi Çekilebilir mi?

Yapay zekanın insanlık için oluşturabileceği potansiyel tehlikelere ilişkin tartışmalar son haftalarda küresel ölçekte yeniden alevlendi. Bazı araştırmacılar teknolojinin kontrolsüz gelişiminin ciddi riskler barındırdığını savunurken, yapay zeka şirketlerinin yöneticilerinden de geliştirme hızının yavaşlatılması yönünde önemli açıklamalar gelmeye devam ediyor. Popüler yapay zeka girişimi Anthropic’in kurucu ortaklarından biri, yaptığı son açıklamada yapay zeka sistemleri için “acil kapatma düğmesi” niteliğindeki mekanizmaların yasal bir zorunluluk haline getirilmesi gerekebileceğini dile getirdi.

Tek Bir Düğmeyle Yapay Zekayı Durdurmak Mümkün mü?

Peki, bir yapay zeka sistemi tamamen kontrolden çıkarsa onu fişten çekmek veya dijital olarak durdurmak gerçekten mümkün mü? Toronto Üniversitesi’nden yapay zeka ve bilgisayar güvenliği uzmanı Nicolas Papernot, acil kapatma düğmesinin bir yapay zekanın yürüttüğü anlık işlemlerin kesilmesi anlamına geldiğini belirtiyor. Papernot’a göre sistemi çalıştıran yetkililer, yapay zekanın ihtiyaç duyduğu işlem gücüne (GPU) erişimi engelleyerek sistemi teorik olarak durdurabilir. Ancak programın ilk çalıştırıldığı güvenli ortamın dışına çıkmasına izin verilmişse tablo bir anda karmaşık bir hal alıyor.

Uzmanlar, yapay zekanın kendisini kopyalayabilen zararlı yazılımlar yayması gibi senaryolarda durumun kontrolden çıkabileceğini vurguluyor. Böyle bir kriz anında, programın oluşturduğu tüm dijital kopyaların cihaz cihaz bulunarak eş zamanlı biçimde etkisiz hale getirilmesi gerekmektedir. Fransa Ulusal Bilimsel Araştırma Merkezi’nden Thierry Poibeau ise bütün küresel yapay zekayı tek bir hamleyle kapatabilecek sihirli bir düğmenin var olduğu inancının tamamen yanıltıcı olduğunu belirtiyor.

Merkezi ve Merkezi Olmayan Sistemler Arasındaki Kritik Fark

Dünya genelinde binlerce farklı şirketin, bağımsız yazılımların ve bulut hizmetlerinin bulunduğuna işaret eden Poibeau, yapay zekanın tamamını tek bir merkezin yönetmediğinin altını çiziyor. Buna karşın, operasyonları tek bir sunucu veya operatör tarafından yönetilen merkezi yapay zeka sistemlerini durdurmak hem teorik hem de pratik olarak mümkündür. Öte yandan, diğer dosyalara, cihazlara ve kritik ağlara erişim izni verilmiş merkezi olmayan sistemleri bütünüyle durdurmak devasa bir operasyonel zorluk teşkil ediyor.

Özellikle dijitalleşen dünyada süper lig yayın ihalesinde dijital dönem gibi sektörel dönüşümlerin yaşandığı günümüzde, teknolojinin hayatın her alanına entegre olması bekleniyor. Ancak yapay zekanın günlük yaşamın merkezine yerleşmesi, olası bir “acil kapatma” durumunda yaşanacak ekonomik ve toplumsal maliyetleri de katbekat artırmaktadır.

Acil Kapatma Mekanizmalarının Olası Maliyetleri

Aniden uygulanacak bir kapatma operasyonunun; sadece yapay zeka modellerini değil, aynı zamanda bu teknolojilere entegre çalışan şirketlerin, kamu kurumlarının ve sağlık kuruluşlarının kritik altyapı hizmetlerinin de durmasına yol açabileceği öngörülüyor. Güvenlik uzmanı Papernot, bu denli sert bir müdahalenin yaratacağı aksaklıkların ve ekonomik faturanın “çok büyük” olacağı konusunda uyarıyor.

Diğer yandan, yapay zekaya ilişkin felaket senaryolarına şüpheyle yaklaşan liderler de yok değil. ABD Başkanı Donald Trump, yapay zekanın insanlığın sonunu getirebileceği yönündeki kaygıları birer “aldatmaca” olarak nitelendirirken, Meta CEO’su Mark Zuckerberg de geliştirme süreçlerine yönelik fren çağrılarına mesafeli yaklaşıyor. Sorbonne Üniversitesi’nden bilgisayar bilimi profesörü Jean-Gabriel Ganascia ise bu tartışmaların, yapay zekanın kendi iradesini kazanıp kontrolden çıkma ihtimalinden ziyade yazılımcı hatalarından kaynaklanan risklere odaklanması gerektiğini savunuyor. Teknoloji dünyasındaki bu gelişmeler sürerken, spor gündemi ve diğer teknolojik gelişmeler de yakından takip edilmeye devam ediyor.