Yapay zeka, insanların zihnine sahte hatıralar yerleştirebiliyor

Son yıllarda gittikçe yaygınlaşan yapay zeka araçlarının zaman zaman yanıltıcı bilgiler verdiği veya "halüsinasyon" ürettiği biliniyor. 

Yakın zamanda yapılan bazı çalışmalarda insanların da halüsinasyon görmesine yol açabildikleri kaydedildi.

Massachusetts Teknoloji Enstitüsü (MIT) ve Kaliforniya Üniversitesi Irvine kampüsünden araştırmacılar, yapay zeka tarafından değiştirilen görsellerin, insanların hafızasını etkileyip etkilemediğini test etti.

KESİN DEĞİL ANCAK ARAŞTIRMA BU SONUCU İŞARET EDİYOR

Independent Türkçe'nin aktardığı ve henüz hakem denetiminden geçmeyen ve ön baskı sunucusu arXiv'de geçen hafta yayınlanan çalışmada 200 katılımcıya birtakım resimler gösterildi. Daha sonra 4 gruba ayrılan katılımcılara aynı resimler, resimlerin yapay zeka tarafından düzenlenmiş hali, yapay zekanın ürettiği videolar veya yapay zekanın düzenlediği resimleri içeren videolar sunuldu. 

Ardından katılımcılardan asıl resimdeki bazı detayları anlatması istendi. 

Araştırmacılar, yapay zeka tarafından düzenlenmiş görsellerin, katılımcıların sahte anılarını kayda değer derece artırdığını gözlemledi. 

Ayrıca yapay zekanın düzenlediği resimleri içeren videoların sahte anı oluşturmakta en büyük etkiyi yarattığı kaydedildi. Bu gruptaki katılımcılarda sahte hatıra oluşma oranı, kontrol grubunun 2,05 katıydı.

Bu gruptaki katılımcıların, görüntüleri doğru hatırladığına inancı da diğerlerine kıyasla en yüksek seviyedeydi. 

Aynı araştırma ekibi geçen ay, yapay zeka sohbet botlarının sahte anılar oluşturabileceğini bulmuştu.

Yine arXiv'de yayımlanan araştırmada, yapay zeka sohbet botlarının yanıltıcı soru sormasının bile insanların videosunu izledikleri bir olayı yanlış hatırlamasına yol açtığı gözlemlenmişti.

Bulguların başka çalışmalarla desteklenmeye ihtiyacı var. Ancak yine de bu iki çalışma, yapay zekanın yarattığı potansiyel tehditlerden birine dikkat çekiyor.

Sahte hatıralar oluşturulması örneğin mahkemede yanlış ifade verilmesine yol açabilir. 

Araştırmacılar, yapay zeka etkileşimlerinin insan belleği üzerinde önemli bir etki yaratabileceğini ve bu tür teknolojik araçların hassas bağlamlarda dikkatli bir şekilde kullanılması gerektiğini savunuyor.