Çılgınlık haline gelen Lensa'da 'pornografi' krizi: Tehlike çanları çalıyor
Sosyal medyada viral olan, kullanıcıların selfielerini işleyerek yaratıcı avatarlar oluşturduğu Lensa uygulaması göründüğü kadar masum değil. Son olarak, insanların yüzlerinin tanınabildiği bir dizi görselde çıplak göğüsler gibi müstehcen unsurlar tespit edildi.
Son günlerde sosyal medya Lensa akımına teslim olmuş durumda. Yazılı komutlardan görseller oluşturan, açık kaynaklı yapay zeka programı Stable Diffusion'ı temel alan Lensa, kullanıcılardan 10 ila 20 kadar selfie seçerek uygulamaya yüklemelerini istiyor.
Uygulamanın Magic Avatars (Sihirli Avatarlar) özelliğini kullanan kişiler, bu selfielerini yükledikten sonra kendilerini elf, peri, prens, prenses veya başka bir forma dönüştüren yaratıcı görseller elde ediyor.
MÜSTEHCEN UNSURLAR TESPİT EDİLDİ
Independent Türkçe'nin haberine göre; platformu rıza dışı, pornografik görüntüler oluşturmak için kullanmanın mümkün olduğu ortaya çıktı.
Öte yandan, teknoloji sitesi TechCrunch'ın haberine göre, Lensa'yla oluşturulmuş, insanların yüzlerinin tanınabildiği bir dizi görselde çıplak göğüsler gibi müstehcen unsurlar tespit edildi.
Aslında Lensa'nın kullanım politikasında çıplaklığa izin verilmiyor. Ancak bazı kullanıcıların algoritmaları atlatarak uygulamaya çıplak görseller yüklemelerini sağlayan arka kapılar bulduğu ifade ediliyor.
UYARI FİLTRELERİNDEN KAÇIYORLAR
Buna göre Photoshop'ta görseller üzerinde yapılan bazı düzenlemeler, kullanıcıların Lensa'nın çıplaklığı tespit edip uyarı vermek üzere tasarlanmış filtrelerinden kaçmayı sağlıyor.
TechCrunch muhabiri Haje Jan Kamps, bu arka kapının ayrıntılarını öğrendikten sonra kendilerinin de Lensa'da çıplak görseller üretmeyi denediklerini ve başarılı olduklarını kaydetti.
Kamps, "Elinde birkaç fotoğrafınız varsa, herkes kolaylıkla çıplak görüntülerinizi oluşturabilir. Ürkütücü" ifadelerini kullandı.
ÇOCUK FİLTRESİ DE AŞILIYOR
Lensa'nın kullanım politikası ayrıca, çocuk fotoğraflarının da sisteme yüklenmesine izin vermiyor. Ancak Olivia Snow adlı bir başka kullanıcı, bu filtreleri aşmanın da yolunu bulduğunu öne sürdü.
The Wired'da kaleme aldığı yazıda Snow, çocukluk fotoğrafları üzerinden yaptığı bir dizi denemede filtreleri aşabildiğini ifade etti:
"Ergenlik çağında bir kızın ve bazen de çocuksu bir yüzün, belirgin bir yetişkin vücuduyla harmanlandığı tamamen çıplak fotoğraflar üretti."
Lensa yetkilileri ise TechCrunch'a yaptıkları açıklamada sistemin üreteceği olası pornografik görüntülerin "uygulamadaki kasıtlı suistimalin sonucu" olduğunu savundu.
En Çok Okunan Haberler
- Hayatını kaybetti!
- Mansur Yavaş'tan TBMM'ye flaş çağrı!
- TÜİK ekim ayı enflasyon verilerini açıkladı
- AKP’li vekilin PKK yöneticisiyle fotoğrafı gündem oldu!
- 'Erken seçim' çağrısı: CHP tarih verdi
- Serdar Ortaç son malını da satışa çıkardı!
- 'Atatürk ile Cumhuriyet ile bayrak ile...'
- İşte Belediye Başkanı'nı öldüren saldırganın ifadesi!
- İşte sıfır faizli kredi veren bankalar…
- AKP'den kayyum için ilk açıklama