AI가 빚어낸 81억 원의 환상: '가짜 전문가' 뒤에 숨은 디지털 기만과 사회적 명암 > K-wave Trends

Дело дистрибьютора, недавно задержанное Министерством безопасности пищевых продуктов и лекарств, ясно показывает, к каким разрушительным последствиям может привести злоупотребление генеративной технологией искусственного интеллекта. За короткий период в 9 месяцев компания использовала виртуальных пластических хирургов, созданных с помощью искусственного интеллекта, чтобы превратить обычные продукты питания в продукты с превосходным антивозрастным действием и эффектом восстановления клеток. Более 650 000 продуктов были проданы как горячие пирожки, объем продаж составил 8,1 миллиарда вон, но самая большая проблема заключалась в том, что потребители твердо верили, что это вымышленное видео представляет собой медицинскую информацию, рекомендованную настоящим врачом. Хотя в соответствии с действующим законодательством медицинским работникам запрещено напрямую появляться в рекламе продуктов питания, компания создала несуществующего виртуального персонажа, чтобы ловко обойти закон.

Этот инцидент вызывает общественное возмущение, поскольку он выходит за рамки простой шумихи и представляет собой злонамеренный план, нацеленный на пожилых людей со слабыми навыками цифровой грамотности. Согласно анализу Корейского института укрепления здоровья, многие из самых популярных просмотров видеороликов, посвященных здоровью пожилых людей, представляли собой фейковую информацию, созданную с помощью искусственного интеллекта, и это является распространением народных средств без особой научной основы, упаковывая их как медицинские факты. Используя тот факт, что пожилые люди получают информацию через видеоплатформы, такие как YouTube, их беспокойство по поводу своего здоровья используется в целях получения прибыли. В частности, провокационные ключевые слова, такие как «лечение диабета» или «лечение болезней», являются фатальным искушением для тех, кто не знаком с цифровой средой, что в конечном итоге приводит к подрыву доверия к надлежащей системе здравоохранения.

Поскольку медиа-среда быстро меняется в сочетании с искусственным интеллектом, создание правовых и институциональных мер для реагирования на ложную и манипулируемую информацию также становится неотложной задачей. Правительство уже приняло закон, прямо запрещающий рекламу с участием фейковых экспертов, а Министерство продовольствия и безопасности лекарств также использует тройную систему наблюдения, включая немедленную блокировку вредоносных видеороликов в сотрудничестве с платформенными компаниями. Однако скорость технологического развития всегда опережает скорость принятия законов, и из-за природы цифровых технологий, когда вместо уже удаленных видео постоянно создаются новые формы контента, существуют явные ограничения на реакцию постфактум. Национальное собрание также несет ответственность за распространение ложной и манипулируемой информации посредством внесения поправок в Закон об информационно-коммуникационных сетях, но трудно добиться эффективности, если не поддерживаются автономные усилия оператора платформы по очистке и система технической проверки.

Между тем, дискуссия о «фальшивке» в мире искусства выдвигает еще один вывод о том, как мы воспринимаем истину. Современные художники, такие как Дэмиен Херст, подчеркивают, что изменение мыслей и восприятий аудитории в результате работы более важно, чем суть работы. «Фальшивая голова коровы» в художественном музее приобретает художественную символику и вызывает философские дебаты, а «фальшивый врач» в коммерческой рекламе сводится к средству преступления, наносящему ущерб здоровью и собственности общества. В конце концов, стандарт определения того, является ли информация, с которой мы сталкиваемся, «художественной метафорой» или «злонамеренным обманом», зависит от гражданского сознания, позволяющего подвергать сомнению источник информации, проверять факты и рационально критиковать. Нельзя забывать, что за удобством и великолепием, предоставляемым технологиями, всегда скрываются чьи-то намерения.