ภาพลวงตามูลค่า 8.1 พันล้านวอนที่สร้างขึ้นโดย AI: การหลอกลวงทางดิจิทัลและความมืดมนทางสังคมที่อยู่เบื้องหลัง 'ผู้เชี่ยวชาญปลอม' > ข่าว

กรณีของผู้จัดจำหน่ายที่ถูกกระทรวงความปลอดภัยอาหารและยาจับได้เมื่อเร็วๆ นี้ แสดงให้เห็นอย่างชัดเจนว่าผลการทำลายล้างจะส่งผลอย่างไรเมื่อเทคโนโลยี generative AI ถูกนำไปใช้ในทางที่ผิด ในระยะเวลาสั้นๆ 9 เดือน บริษัทใช้ศัลยแพทย์พลาสติกเสมือนจริงที่สร้างโดย AI เพื่อเปลี่ยนอาหารธรรมดาให้เป็นผลิตภัณฑ์ที่มีการต่อต้านวัยและฟื้นฟูเซลล์ได้อย่างดีเยี่ยม มีการขายผลิตภัณฑ์มากกว่า 650,000 รายการ เช่น ฮอตเค้ก โดยบันทึกยอดขายได้ 8.1 พันล้านวอน แต่ปัญหาที่ใหญ่ที่สุดคือผู้บริโภคเชื่อมั่นอย่างแน่วแน่ว่าวิดีโอสมมตินี้เป็นข้อมูลทางการแพทย์ที่แนะนำโดยแพทย์จริง ๆ แม้ว่าผู้เชี่ยวชาญทางการแพทย์จะปรากฏในโฆษณาอาหารโดยตรงภายใต้กฎหมายปัจจุบันถือเป็นสิ่งผิดกฎหมาย แต่บริษัทได้สร้างตัวละครเสมือนที่ไม่มีอยู่จริงเพื่อหลีกเลี่ยงกฎหมายอย่างชาญฉลาด

เหตุการณ์นี้ก่อให้เกิดความโกรธเคืองในสังคม เนื่องจากเป็นมากกว่าการโฆษณาเกินจริง และเป็นแผนการมุ่งร้ายที่มุ่งเป้าไปที่ผู้สูงอายุที่มีทักษะด้านดิจิทัลต่ำ จากการวิเคราะห์ของสถาบันส่งเสริมสุขภาพแห่งเกาหลี ยอดดูวิดีโอที่เกี่ยวข้องกับสุขภาพผู้สูงอายุจำนวนมากเป็นข้อมูลปลอมที่สร้างด้วย AI และนี่คือการเผยแพร่การเยียวยาพื้นบ้านที่มีพื้นฐานทางวิทยาศาสตร์เพียงเล็กน้อยโดยบรรจุเป็นข้อเท็จจริงทางการแพทย์ ด้วยการใช้ประโยชน์จากข้อเท็จจริงที่ว่าเส้นทางการรับข้อมูลของผู้สูงอายุมุ่งเน้นไปที่แพลตฟอร์มวิดีโอ เช่น YouTube ความวิตกกังวลเกี่ยวกับสุขภาพของพวกเขาจึงถูกนำไปใช้เพื่อผลกำไร โดยเฉพาะอย่างยิ่ง คำหลักที่ยั่วยุ เช่น 'การรักษาโรคเบาหวาน' หรือ 'การรักษาโรค' เป็นสิ่งล่อใจร้ายแรงสำหรับผู้ที่ไม่คุ้นเคยกับสภาพแวดล้อมทางดิจิทัล ซึ่งท้ายที่สุดส่งผลให้ความไว้วางใจในระบบการดูแลสุขภาพที่เหมาะสมพังทลายในที่สุด

เนื่องจากสภาพแวดล้อมของสื่อมีการเปลี่ยนแปลงอย่างรวดเร็วเมื่อรวมกับ AI การสร้างมาตรการทางกฎหมายและสถาบันเพื่อตอบสนองต่อข้อมูลที่เป็นเท็จและถูกบิดเบือนก็กลายเป็นงานเร่งด่วนเช่นกัน รัฐบาลได้ผ่านร่างกฎหมายอย่างชัดเจนแล้วในการห้ามโฆษณาที่มีผู้เชี่ยวชาญปลอม และกระทรวงความปลอดภัยด้านอาหารและยาก็กำลังใช้ระบบเฝ้าระวังสามระบบ รวมถึงการบล็อกวิดีโอที่เป็นอันตรายทันทีโดยร่วมมือกับบริษัทแพลตฟอร์ม อย่างไรก็ตาม ความเร็วของการพัฒนาทางเทคโนโลยีนั้นเร็วกว่าความเร็วของการตรากฎหมายเสมอ และเนื่องจากธรรมชาติของดิจิทัลที่เนื้อหารูปแบบใหม่ถูกสร้างขึ้นอย่างต่อเนื่องแทนที่วิดีโอที่ถูกลบไปแล้ว จึงมีข้อจำกัดที่ชัดเจนในการตอบสนองที่ลดลงหลังจากข้อเท็จจริงดังกล่าว รัฐสภายังรับผิดชอบต่อการเผยแพร่ข้อมูลที่เป็นเท็จและข้อมูลที่ถูกดัดแปลงผ่านการแก้ไขพระราชบัญญัติเครือข่ายสารสนเทศและการสื่อสาร แต่เป็นการยากที่จะบรรลุประสิทธิผลหากไม่สนับสนุนความพยายามในการทำให้บริสุทธิ์โดยอัตโนมัติของผู้ให้บริการแพลตฟอร์มและระบบการตรวจสอบทางเทคนิค

ในขณะเดียวกัน วาทกรรมเกี่ยวกับ 'ของปลอม' ในโลกศิลปะก็ทำให้เกิดนัยอีกประการหนึ่งเกี่ยวกับวิธีที่เรารับรู้ความจริง ศิลปินสมัยใหม่เช่น Damien Hirst เน้นย้ำว่าการเปลี่ยนแปลงความคิดและการรับรู้ของผู้ชมผ่านผลงานมีความสำคัญมากกว่าเนื้อหาของงาน 'หัววัวปลอม' ในพิพิธภัณฑ์ศิลปะได้รับสัญลักษณ์ทางศิลปะและกระตุ้นให้เกิดการอภิปรายเชิงปรัชญา แต่ 'แพทย์ปลอม' ในโฆษณาเชิงพาณิชย์กลับกลายเป็นอาชญากรรมที่ละเมิดสุขภาพและทรัพย์สินของสาธารณะ ท้ายที่สุดแล้ว มาตรฐานในการตัดสินว่าข้อมูลที่เราพบนั้นเป็น 'อุปมาเชิงศิลปะ' หรือ 'การหลอกลวงที่เป็นอันตราย' ขึ้นอยู่กับจิตสำนึกของพลเมืองในการตั้งคำถามถึงแหล่งที่มาของข้อมูล ตรวจสอบข้อเท็จจริง และวิพากษ์วิจารณ์อย่างมีเหตุผล เราต้องไม่ลืมว่าความตั้งใจของใครบางคนมักจะซ่อนอยู่เบื้องหลังความสะดวกสบายและความงดงามที่ได้รับจากเทคโนโลยีเสมอ