Yapay zekanın yarattığı 8,1 milyar wonluk illüzyon: 'Sahte uzmanların' ardındaki dijital aldatma ve sosyal karanlık > haberler

Yakın zamanda Gıda ve İlaç Güvenliği Bakanlığı tarafından yakalanan bir distribütörün vakası, üretken yapay zeka teknolojisinin kötüye kullanılması durumunda ne kadar yıkıcı sonuçlara yol açabileceğini açıkça gösteriyor. Şirket, 9 ay gibi kısa bir süre içinde sıradan gıdaları mükemmel yaşlanma karşıtı ve hücre iyileştirme etkileri olan ürünlere dönüştürmek için yapay zeka tarafından oluşturulan sanal plastik cerrahları kullandı. 650.000'den fazla ürün sıcak kek gibi satıldı ve 8,1 milyar wonluk satış kaydedildi, ancak en büyük sorun tüketicilerin bu kurgusal videonun gerçek bir doktor tarafından tavsiye edilen tıbbi bilgiler olduğuna kesin olarak inanmalarıydı. Mevcut yasaya göre tıp uzmanlarının gıda reklamlarında doğrudan yer alması yasa dışı olsa da şirket, yasayı akıllıca atlatmak için var olmayan bir sanal karakter yarattı.

Bu olay, basit bir abartının ötesine geçmesi ve dijital okuryazarlık becerileri zayıf olan yaşlıları hedef alan kötü niyetli bir plan olması nedeniyle toplumsal öfkeye neden oluyor. Kore Sağlığı Geliştirme Enstitüsü tarafından yapılan bir analize göre, yaşlı sağlığıyla ilgili videoların en çok izlenen videolarının çoğu, yapay zeka ile oluşturulan sahte bilgilerdi ve bu, halk ilaçlarının tıbbi gerçekler gibi paketlenerek çok az bilimsel temeli olan bir şekilde dağıtılması anlamına geliyor. Yaşlıların bilgi edinme yolunun YouTube gibi video platformlarında yoğunlaşması gerçeğinden yararlanılarak, onların sağlıklarıyla ilgili kaygıları kâr amacıyla istismar ediliyor. Özellikle 'diyabet tedavisi' veya 'hastalık tedavisi' gibi kışkırtıcı anahtar kelimeler, dijital ortama aşina olmayanlar için ölümcül bir cazibedir ve sonuçta uygun sağlık sistemine olan güvenin bozulmasına neden olur.

Medya ortamı yapay zekayla birlikte hızla değişirken, yanlış ve manipüle edilmiş bilgilere yanıt vermek için yasal ve kurumsal önlemler oluşturmak da acil bir görev olarak ortaya çıkıyor. Hükümet, sahte uzmanların yer aldığı reklamları açıkça yasaklayan bir yasa tasarısını halihazırda kabul etti ve Gıda ve İlaç Güvenliği Bakanlığı da platform şirketleriyle işbirliği içinde zararlı videoların derhal engellenmesi de dahil olmak üzere üçlü bir gözetim sistemi işletiyor. Ancak teknolojik gelişmenin hızı her zaman yasa çıkarma hızını geride bırakıyor ve halihazırda silinmiş videoların yerine sürekli olarak yeni içerik biçimlerinin oluşturulduğu dijitalin doğası gereği, olay gerçekleştikten sonra yanıt vermenin açık sınırları var. Ulusal Meclis aynı zamanda Bilgi ve İletişim Ağı Yasası'nda yapılan revizyonlar yoluyla yanlış ve manipüle edilmiş bilgilerin dağıtımından da sorumlu tutuyor ancak platform operatörünün otonom arındırma çabaları ve teknik doğrulama sistemi desteklenmiyorsa etkililiğe ulaşmak zor.

Bu arada sanat dünyasındaki 'sahte' söylemi, gerçeği nasıl algıladığımıza dair başka bir ima ortaya çıkarıyor. Damien Hirst gibi modern sanatçılar, eserin özünden ziyade izleyicinin düşünce ve algılarının eser aracılığıyla değişmesinin önemli olduğunu vurguluyor. Bir sanat müzesindeki 'sahte inek kafası' sanatsal sembolizm kazanıyor ve felsefi tartışmalara yol açıyor, ancak ticari bir reklamdaki 'sahte doktor', halkın sağlığını ve mülkiyetini ihlal eden bir suç aracına indirgeniyor. Sonuçta karşılaştığımız bilginin 'sanatsal metafor' mu, yoksa 'kötü niyetli bir aldatmaca' mı olduğunu belirlemenin standardı, bilginin kaynağını sorgulama, gerçekleri kontrol etme ve rasyonel eleştiri yapma yurttaşlık bilincine bağlıdır. Teknolojinin sağladığı kolaylık ve ihtişamın arkasında daima birilerinin niyetinin saklı olduğunu unutmamalıyız.