AI가 빚어낸 81억 원의 환상: '가짜 전문가' 뒤에 숨은 디지털 기만과 사회적 명암 > K-wave Trends

Un caso reciente descubierto por el Ministerio de Seguridad de Alimentos y Medicamentos demuestra claramente las consecuencias destructivas cuando se abusa de la tecnología de IA generativa. Durante un corto período de nueve meses, la empresa utilizó un cirujano plástico virtual generado por IA para disfrazar productos alimenticios comunes como artículos con excelentes efectos antienvejecimiento y de recuperación celular. Se vendieron más de 650,000 productos como pan caliente, registrando 8.1 mil millones de wones en ventas. El mayor problema es que los consumidores creyeron firmemente que estos videos ficticios eran información médica recomendada por médicos reales. Aunque es ilegal bajo la ley actual que los profesionales médicos aparezcan en anuncios de alimentos, la empresa mostró meticulosidad al eludir la ley creando personajes virtuales inexistentes.

Este incidente está causando indignación social, no solo como una simple publicidad falsa, sino como un esquema malicioso dirigido a los ancianos que son vulnerables en alfabetización digital. Según un análisis del Instituto de Promoción de la Salud de Corea, una parte significativa de los videos de salud mejor clasificados para personas mayores eran información falsa producida por IA, que empaqueta remedios populares con poca base científica como si fueran hechos médicos. Explotaron el hecho de que las rutas de adquisición de información de los ancianos se concentran en plataformas de video como YouTube, utilizando su ansiedad sobre la salud con fines de lucro. En particular, palabras clave sensacionales como 'cura de la diabetes' o 'tratamiento de enfermedades' se convierten en tentaciones fatales para aquellos que no están familiarizados con el entorno digital, socavando en última instancia la confianza en el sistema de salud adecuado.

A medida que el entorno mediático cambia rápidamente en combinación con la IA, el establecimiento de mecanismos legales e institucionales para responder a la información falsa y manipulada está emergiendo como una tarea urgente. El gobierno ya ha aprobado un proyecto de ley que prohíbe explícitamente los anuncios que presentan falsos expertos, y el Ministerio de Seguridad de Alimentos y Medicamentos opera un sistema de triple vigilancia, como el bloqueo inmediato de videos dañinos en cooperación con las empresas de plataformas. Sin embargo, la velocidad del desarrollo tecnológico siempre supera la velocidad de la legislación, y dada la naturaleza del contenido digital donde se generan constantemente nuevas formas para reemplazar las eliminadas, existen límites claros para las respuestas reactivas. Si bien la Asamblea Nacional también está haciendo responsables a los distribuidores de información falsa a través de enmiendas a la Ley de Redes de Información y Comunicaciones, es difícil lograr efectividad sin los esfuerzos de purificación voluntarios y los sistemas de verificación técnica de los operadores de plataformas.

Mientras tanto, el discurso sobre los 'falsos' en el mundo del arte proporciona otra implicación sobre cómo percibimos la verdad. Artistas contemporáneos como Damien Hirst argumentan que los pensamientos y cambios en la percepción que la audiencia obtiene a través de la obra son más importantes que la realidad de la obra misma. Una 'cabeza de vaca falsa' en un museo de arte adquiere simbolismo artístico y provoca un debate filosófico, pero un 'médico falso' en la publicidad comercial degenera en un medio de crimen que infringe la salud y la propiedad pública. En última instancia, el estándar para determinar si la información que encontramos es una 'metáfora artística' o un 'engaño malicioso' depende de la conciencia cívica que duda de la fuente de información, verifica los hechos y piensa de manera crítica y racional. No debemos olvidar que la intención de alguien siempre está oculta detrás de la conveniencia y el esplendor proporcionados por la tecnología.