AB'den yeni adım: Yapay zeka üretimi içerikleri suç sayacak

Avrupa Konseyi ve Parlamentosu, siber-şiddet türlerinin suç sayılmasına yönelik yeni bir öneriyi kabul etti. Yapay zeka araçlarını kötü amaçlarla kullanan kişilere yönelik geliştirilen bu kapsama deepfake de giriyor.

Kişinin mühtehcen görüntüleri isteği dışında görüntülerinin paylaşımı suç haline gelecek.

DEEPFAKE İLE PORNOGRAFİK SAHTE GÖRÜNTÜ HAZIRLAMAK SUÇ SAYILACAK

Kararda yapay zeka ile oluşturulan pornografik deepfake görüntülerine ek olarak siber takip, çevrim içi taciz ya da kadın düşmanlığı gibi pek çok şey de suç kapsamına giriyor.

Komisyonun böyle bir yönergeyi hazırlamış olmanın diğer ülkelere de yardımcı olacağını söylüyor.

Söz konusu kararın alınmasında ünlü sanatçı Taylor Swift'in yüzü kullanılarak oluşturulan deepfake görüntüsü etkili oldu.

Ne olmuştu?

Sahte pornografik görüntülerin oluşturulmasında sıklıkla kullanılan deepfake, kısa bir süre önce Taylor Swift'in bu yolla oluşturulmuş görüntüleriyle gündeme gelmişti. Swift'in konu hakkında yasal yollara başvuracağını öğrenmiştik. Bu görüntülerin oluşturulup yayılması ise bir Microsoft açığından kaynaklanıyordu.

Söz konusu sorunun kaynağı da bu kapsamda ortaya çıktı. Microsoft, Azure Face API’sine gerekli yamaları uyguladı. Güvenlik açığının giderilmesi, paylaşımın Microsoft Designer ile yapay zeka tarafından oluşturulan müstehcen kadın görüntülerinin paylaşıldığı bir gruptan çıkmasının tahmin edilmesinin ardından geldi. Kötü niyetli kişilerin Azure Face API'sini kullanarak Taylor Swift dahil başka ünlülerin de çıplak fotoğraflarını ve videolarını oluşturduğu düşünülüyor.