ChatGPT Metinlerine Görünmez Filigran Geliyor!

Teknoloji dünyasının öncü isimlerinden OpenAI, Avrupa Birliği’nin (AB) katı regülasyonlarına uyum sağlamak adına köklü bir adım atmaya hazırlanıyor. Daha önce benzer bir hamle yapan Anthropic’i takip eden yapay zeka devi, kullanıcıların ürettiği metinlere görünmez birer imza atmaya başlıyor. Küresel çapta dijital etiği ve yapay zeka denetimini yakından ilgilendiren bu gelişme, özellikle akademik ve kurumsal çevrelerde geniş yankı uyandırdı. Uzmanlar bu adımı gelecekteki yapay zeka ve işsizlik uyarısı gibi sosyo-ekonomik tartışmaların merkezine yerleştirirken, küresel piyasalar da teknolojinin olası etkilerini yakından takip ediyor.

AB Yasaları Doğrultusunda “textGrain” Dönemi Başlıyor

Şirket tarafından yapılan resmi açıklamaya göre, önümüzdeki haftalardan itibaren AB sınırları içindeki ChatGPT ve Codex kullanıcılarının metin çıktılarına “textGrain” adı verilen görünmez istatistiksel işaretler eklenecek. Küresel ölçekteki API müşterileri ise belirli modeller için bu sistemi bugünden itibaren isteğe bağlı olarak etkinleştirebilecek. Bununla birlikte, söz konusu özellik API üzerinde varsayılan olarak kapalı tutulacak. OpenAI ayrıca, bulut ortakları üzerinden erişilen model çıktılarına da bu özelliğin entegre edilmesi için yoğun bir çalışma yürütüyor.

Kelime Değişiklikleri Tespit Oranını Düşüyor

Açıklanan teknik verilere göre textGrain teknolojisi, modelin kelime seçimlerine insan gözüyle fark edilemeyen özel sinyaller yerleştiriyor. Ancak sistem, metin üzerinde sonradan yapılan müdahaleler karşısında belirgin zayıflıklar gösteriyor. Şirketin paylaştığı test sonuçları, yüzde 1 hedeflenen yanlış pozitiflik oranında çarpıcı istatistikler ortaya koyuyor. Psikoloji gibi esnek kelime seçimine uygun 400 tokenlik metinlerde yüzde 95 seviyesinde olan tespit oranı, 200 tokenlik metinlerde yaklaşık yüzde 80’e geriliyor.

Matematik gibi kelime seçeneklerinin sınırlı olduğu alanlarda ise tespit oranları çok daha düşük kalıyor. Metin üzerindeki ufak düzenlemeler bile sinyalin gücünü hızla aşağı çekiyor. Örneğin; 400 tokenlik bir metindeki kelimelerin yalnızca yüzde 10’u eşanlamlılarıyla değiştirildiğinde tespit oranı yüzde 92’den yüzde 66’ya iniyor. Kelimelerin yüzde 25’i değiştirildiğinde ise bu oran yüzde 17 seviyesine kadar geriliyor.

Kamuoyuna Doğrudan Açılmayacak

Tüm bu teknolojik kısıtlar ve hem yanlış pozitif hem de yanlış negatif sonuç üretme riskleri göz önünde bulundurularak, OpenAI tespit aracını doğrudan kamuoyunun kullanımına sunmayacağını bildirdi. Doğrulama aracına erişim, sistemi değerlendirmeleri ve geliştirmeleri amacıyla ilk aşamada yalnızca onaylanmış araştırmacılara ve uzman kuruluşlara başvuru yoluyla sağlanacak. Öte yandan şirket, en son öncü modeli Astra üzerinde gerçekleştirdiği testlerde filigran uygulamasının çıktı kalitesinde anlamlı bir performans kaybı yaratmadığını da paylaştı.

Günlük yaşamın diğer alanlarında yaşanan teknolojik gelişmeler ve ekolojik yenilikler de tahlil edilirken, örneğin plastik atık krizine son verecek çevreci projelerin yanı sıra dijital dünyadaki bu şeffaflık hamleleri de geleceğin standartlarını belirliyor. OpenAI, yeni filigran sisteminin neleri gösterip neleri gösteremeyeceği konusunda da kullanıcıları ayrıntılı bir şekilde uyarıyor.