Yapay zekâ ürünü çocuk görselleri istismara davetiye çıkartıyor: Üretilmesi de yayılması da suç

Yapay zekâyla üretilen çocuk görselleri, çocuk istismarına ve pedofiliye alan açıyor. Yapılan bir araştırmaya göre, pedofillerin yapay zekâ teknolojisi kullanarak çocuk istismarı için gerçek gibi görünen görsel malzemeler üretip sattıkları ortaya çıktı. Konu hakkında Cumhuriyet’e değerlendirmelerde bulunan avukat Çağla Gül Bulut, dijital ortamda da çocukları koruyucu önlemlerin alınması gerektiğine dikkat çekti.

Çocukların mahremiyetinin dijital ortamda da korunması gerektiğine dikkat çeken Bulut, “Tüm verilerimizi dijital ortamda paylaşıyoruz, çocukların verilerinin kayıt altına alınmaması, silinmesi gerekmektedir. Dijital ortama takip sistemi gelebilir, örneğin çocuğun cinsel istismarına dair video veya görüntüleri izlemeye yönelik aramalar yapıldığında bu sistem bunu tespit etmeli, bunu engellemeli somut olayın özelliğine göre gerekirse bu sitelere tedbirler, yaptırımlar uygulanmalıdır. Çocuğun yüksek yararının üstün tutularak bu durumun kişilik haklarına aykırı olmayacağı kanaatindeyim” diye konuştu.

(Çağla Gül Bulut)

"UYUMLULUK ŞART"

Yapay zekâ ile çocuk istismarı figürlerinin üretilmesinin ileriki aşamalarının çocuğun cinsel istismarı suçu olduğuna dikkat çeken Bulut şöyle devam etti:

“Sahte ya da gerçek, bu görsellerin üretilmesi de yayılması da suçtur. Bu takip sistemiyle bunları üreten veya yayanlar da tespit edilmelidir. Kaldı ki bu içerikleri paylaşan kişiler bu içerikleri üreten eser sahipleri olduklarından direkt sorumludur. Şu an için çocuk haklarına dair yasal düzenlemeler dijital ortamı konu almamaktadır. Artık dijital çağa uyumlu koruyucu ve önleyici tedbirlerin alınması, yasaların ve yaptırımların dijital çağa uyumlu hale getirilmesi gerekmektedir.”

(Ali Murat Kırık)

SATIŞA ÇIKARTILIYOR

Marmara Üniversitesi İletişim Fakültesi Görsel İletişim Tasarımı Anabilim Dalı Başkanı Doç. Dr. Ali Murat Kırık ise, yapay zekanın çocuk istismarı konusunda ciddi bir tehdit haline geldiği uyarısında bulundu. Kırık, “Pedofili ve istismarcılar yapay zekâ uygulamalarını bu amaçla tercih edebilmekte, kelimelerle sağladıkları komutları uygulamaya girerek bebek ve çocuk görselleri oluşturabilmektedir. Daha sonra bunları gerek çeşitli ağlar üzerinden satışa çıkartabilmekteler” dedi. 

ŞİRKETLER SORUMLULUK ALMALI

Söz konusu sahte görsellerin ‘Stabil difüzyon’ isimli bir yapay zeka aracı ile üretildiğini söyleyen Kırık, “Stabil difüzyon özellikle grafik, metin, sosyal medya ve genetik gibi yapısal verilerin oluşumu ve analizinde oldukça etkili bir yöntemdir. Bazı uygulamalar bu tip görsellerin oluşturulmaması adına birtakım kelimeleri kısıtlayarak önemli tedbirler alabilmektedir. Yapay zekâ teknolojisinin henüz oturmamış olması ve yeniliğe açık yapısı da ortaya çıkacak sorunların önünün alınamaması adına önemli bir etkendir. Yapay zekâ teknoloji şirketlerinin kendi üstüne düşen görev ve sorumlulukları yerine getirmesi ve etik sorumluluk içerisinde hareket etmesi oldukça mühimdir” diye konuştu. 

AYIRT EDILEBILIR

Yapay zeka ile üretilmiş görselleri ayırt etmenin yöntemleri olduğunu söyleyen Kırık, şu ifadeleri kaydetti:

Detaylarda tutarsızlık, gerçekçilik eksikliği, gerçeklik dışı içerik ve düşük görüntü kalitesi gibi hususlar günümüzde görsellerin yapay zekâ ile oluşturulabileceğine işaret etmektedir. Bununla birlikte görüntü analiz uygulamalarının da gelişim göstermesi gelecekte fotoğrafların taranarak yapay zekâ tarafından oluşturulup oluşturulmadığı konusunda bizlere bilgi sunacaktır.