Yapay Zeka Ajanlarının Siber Güvenlikteki Rolü ve Riskleri İncelendi

Yapay zeka teknolojilerinin siber güvenlik dünyasındaki dönüştürücü etkisi, düzenlenen özel bir eğitim programıyla mercek altına alındı. Kamu Siber Güvenlik Derneği tarafından organize edilen etkinlikte, yapay zeka ajanlarının (AI Agents) siber savunma ve saldırı süreçlerindeki kritik rolleri, uzman isimlerin katılımıyla tartışıldı. Eğitimde, geleneksel yapay zeka modellerinden farklılaşan “Agentic AI” sistemlerinin beraberinde getirdiği fırsatlar ve yeni nesil siber riskler detaylandırıldı.

Agentic AI ve Siber Güvenlikteki Yeni Riskler

Eğitim kapsamında eğitmen Caner Filibelioğlu, katılımcılara yapay zeka ajanlarının siber güvenlik alanındaki pratik uygulamalarını aktardı. Katılımcılar, bir güvenlik ajanı oluşturarak prompt injection (komut enjeksiyonu) saldırılarının, yapay zeka ajanlarının karar alma mekanizmaları üzerindeki manipülatif etkilerini uygulamalı olarak gözlemleme şansı buldu. Bu tür saldırıların, yapay zekanın talimatları yanlış yorumlamasına ve beklenmedik davranışlar sergilemesine yol açabileceği gösterildi.

Dijital dünyadaki bu yeni nesil tehditler, tıpkı İstanbul’da yaşanan olumsuz hava şartları gibi, kurumların ve bireylerin hazırlıklı olması gereken süreçleri temsil ediyor. Siber güvenlik uzmanları, fiziksel dünyadaki doğal afetlerin yanı sıra dijital altyapıyı hedef alan bu karmaşık saldırılara karşı da güçlü savunma mekanizmaları geliştirilmesi gerektiğini belirtiyor. Benzer şekilde, Sapanca’da meydana gelen sel felaketi gibi yerel olayların yarattığı kaos anlarında siber saldırı riskinin arttığı unutulmamalıdır.

Yetki Sınırlandırması ve İnsan Onayının Önemi

Etkinlikte konuşma yapan Kamu Siber Güvenlik Derneği Başkanı Dr. Nurullah Celal Uslu, yapay zeka teknolojilerinin hızla evrildiğine dikkat çekti. Geleneksel üretken yapay zeka sistemlerinin aksine, yapay zeka ajanlarının belirli hedefler doğrultusunda plan yapabildiğini, araçları kullanabildiğini ve bağımsız kararlar alabildiğini ifade eden Uslu, bu yeteneklerin ciddi riskler barındırdığını dile getirdi.

Uslu, “Yapay zekaya ne kadar yetenek kazandırdığımız kadar, ona ne kadar yetki verdiğimiz de önemlidir,” diyerek, Agentic AI sistemlerinde hatalı kararların gerçek sistemler üzerinde doğrudan ve geri dönülemez sonuçlar doğurabileceğine vurgu yaptı. Güvenli bir yapı için yetki sınırlandırması, kritik işlemlerde mutlaka insan onayı ve bağımsız güvenlik kontrollerinin uygulanması gerektiğini belirtti.

Akademik ve Sektörel Katılım

Eğitim programı, Ankara Yıldırım Beyazıt Üniversitesi Mühendislik ve Doğa Bilimleri Fakültesi Dekanı Prof. Dr. Ergün Eraslan, Türkiye Siber Güvenlik Kümelenmesi Genel Koordinatörü Alpaslan Kesici ve Netsys Ankara Bölge Müdürü Mustafa Gençer gibi sektörün önde gelen isimlerinin konuşmalarıyla zenginleşti. Program, katılımcılara yönelik düzenlenen ve dereceye girenlere akademik yayınlar ile siber güvenlik eğitim platformu erişimi sağlanan ödüllü bir yarışmayla sona erdi.