Pope kirpi ceketi: Bir AI resminin viral olmasından endişelenmeli misiniz?

Katolik kilisesinin lideri Papa Francis’in büyük, beyaz bir şişme ceket giydiği fotoğrafı geçtiğimiz günlerde sosyal medyada gündem oldu. 86 yaşındaki başrahip şık görünüyor, birçok kişi onun modaya uygun kıyafetleri hakkında yorum yapıyor. Tek bir sorun var: görüntü gerçek değil.

Yukarıdaki resimler, metin istemlerine dayalı olarak resimler üreten yapay zeka Midjourney tarafından oluşturuldu ve u/trippy_art_special adlı bir sanatçı tarafından 24 Mart’ta Reddit’te paylaşıldı. Kullanıcının hesabı o zamandan beri askıya alındı, ancak bir resim (soldaki) o zamandan beri Twitter’da yayıldı ve birçok kişiyi kandırdı.

Endişelenmeli miyiz? Web kültürü uzmanı Ryan Broderick aradı Pope imajı “ilk gerçek kitle düzeyinde yapay zeka yanlış bilgilendirme vakası”. Ancak, Midjourney’de çıktı standardını önemli ölçüde iyileştiren bir güncellemenin ardından, sorun aslında birkaç haftadır ortaya çıkıyor. Mart ayının başlarında, Midjourney eski ABD başkanının resimlerini oluşturdu. Donald Trump tutuklanıyor benzer şekilde viral oldu. Bu görüntüler, bir araştırmacı gazetecilik grubu olan Bellingcat’in kurucusu Eliot Higgins tarafından sağlanan istemlerden oluşturuldu.

“Bence bu, herhangi bir gözetim, düzenleme veya standart olmadan toplumlarımıza itilen daha geniş bir teknoloji sorununun bir örneği” diyor. Elinor Karmi City, Londra Üniversitesi’nde.

Yapay zeka sahtekarlığına ilişkin korkular yeni değil. Birkaç yıl boyunca, daha küçük hacimli bilgilerle eğitilmiş önceki yapay zeka nesilleri tarafından üretilen, insanların yüzlerinin derin sahte görüntüleri tehdidiyle karşı karşıya kaldık, ancak bunlarda sık sık, yanıp sönmeyen gözler veya bulanık kulaklar gibi sahtecilik belirtileri görüldü. Midjourney hala ellerle mücadele ediyor, genellikle ek parmaklar ekliyor, ancak AI Pope gibi ellerin odak noktası olmadığı bir görüntüyle karşılaşıldığında insanlar kandırılabilir.

Bir de ölçek sorunu var diyor Agnes Venema Malta Üniversitesi’nde. Pope görüntülerinin yayınlandığı r/midjourney altdizisinde, 143.000 üyesi tarafından üretilmiş, eşit derecede ikna edici yapay zeka tarafından üretilmiş diğer görüntülere örnekler var. Onlar içerir kurgusal bir depremi belgeleyen bir dizi fotoğraf 2001’de ABD ve Kanada’yı vuran ve kendi bilgisine ilham veren. Gönderiye en çok oy alan yorum şu şekilde: “2025’te insanlar yanlış bilgilendirme nedeniyle gerçekten zor zamanlar geçirecekler. 2100’deki insanlar tarihin hangi bölümlerinin gerçek olduğunu bilemeyecekler…”

Venema, “Bence artık bu kadar çok insanın erişebilmesi – bir bakıma daha demokratik olması – bir bakıma baraj kapaklarının açıldığı anlamına geliyor” diyor. “Ne kadar gerçekçi olursa ve ne kadar çok insan erişim kazanırsa, o kadar dikkatli olmalıyız ve birinin bu tür bir aldatmacaya göre hareket etme riski o kadar fazla olur.”

Nihayetinde, AI’nın hızlı yükselişi, bir miktar kesintinin kaçınılmaz olduğu anlamına gelir. Carmi, yapay zeka devrimine etkisini tam olarak kavramadan atlamamızın beklendiğini söylüyor; bu, sahte görüntüler oluşturmanın ve yaymanın ne kadar kolay olduğu konusunda daha iyi medya okuryazarlığına ihtiyacımız olduğu anlamına geliyor. “Toplumumuzun çoğu, bu teknolojilerin nasıl çalıştığını, hangi amaçlarla ve bunun sonuçlarının ne olduğunu anlamadan geride kaldı” diyor.