Внедрение компанией Samsung Electronics Open AI «ChatGPT Enterprise» и «Codex» для отечественных и зарубежных сотрудников является очень необычным и стратегическим решением в рамках глобальной экосистемы искусственного интеллекта. Этот контракт выходит за рамки простого заимствования внешних инструментов и рассматривается как сигнал к трансформации ИИ в масштабах всего предприятия (AX), которая внедрит генеративный ИИ в основные бизнес-процессы Samsung, включая производство, маркетинг и разработку программного обеспечения. В частности, с точки зрения открытого искусственного интеллекта, этот контракт является одним из крупнейших проектов корпоративных услуг за всю историю, и, наняв в качестве партнера компанию Samsung Electronics, ведущую мировую производственную компанию, мы явно заняли лидерство на рынке корпоративного искусственного интеллекта в Корее. Обе компании уже тесно сотрудничают в области полупроводниковой памяти для инфраструктуры искусственного интеллекта следующего поколения, и благодаря внедрению этого программного обеспечения они создали прочный альянс с тремя основными направлениями: аппаратное обеспечение, инфраструктура и бизнес-инновации.

Однако, в отличие от праздничной атмосферы технологического скачка, среди обычных потребителей произошел абсурдный инцидент с безопасностью, связанный с сервисом Open AI, вызвавший большие споры. Недавно около 800 отечественных пользователей карт лишились возможности оплатить высокую абонентскую плату ChatGPT в размере 299 000 вон без их ведома. В результате расследования выяснилось, что это преступление «тестирование карт», в ходе которого преступники без разбора вводили данные личной карты, украденные через даркнет и т. д., в платежную систему ChatGPT. В ходе этого процесса была явно выявлена ​​слабая система аутентификации зарубежных дочерних магазинов, а система, в которой платеж подтверждается немедленно, без проверки личности путем простого ввода номера карты, срока действия и CVC-кода, стала чрезвычайно привлекательной добычей для преступников.

Этот инцидент также связан с системными лазейками, которые возникли в процессе прохождения через NICE Information and Communication, внутреннее платежное агентство (PG). Пострадавшим было сложно сразу распознать, что это был мошеннический платеж, связанный с ChatGPT, поскольку в выписке по карте название дочернего магазина было указано только как «Nice Information & Communication». Отсутствие прозрачности в деталях платежа привело к задержкам в сообщении об ущербе, в результате чего система обнаружения аномальных транзакций (FDS) компании, выпускающей карты, не могла блокировать мошеннические платежи в режиме реального времени. Несмотря на внутренние финансовые правила, требующие проверки настоящего имени, основная причина этого противоречия заключается в том, что существует «регуляторное слепое пятно» в случае зарубежных платежных услуг, где эти внутренние стандарты безопасности не применяются.

Когда ситуация возникла, Open AI и Nice Information and Communication начали готовить контрмеры, такие как поспешное аннулирование и возврат платежей, а также изменение названия дочернего магазина, чтобы оно было четко указано. Кроме того, они объявили, что начали технологическую разработку для усиления процесса аутентификации личности в будущем, но многие отмечают, что этого недостаточно для восстановления уже подорванного доверия потребителей. Эксперты по безопасности советуют, чтобы предотвратить повторение подобных инцидентов, пользователям следует принять активные меры для защиты, например, снизить лимиты на зарубежные платежи или использовать простые платежные сервисы, требующие вторичной аутентификации. В конечном счете, теперь, когда огромная волна искусственного интеллекта наводняет нашу повседневную жизнь, мы находимся на перепутье, где мы не должны слепо доверять только удобству технологий, но также должны создавать сильную осведомленность о безопасности и институциональные меры безопасности, соответствующие этому.