Два лица генеративного ИИ: промышленные инновации или риск без системы безопасности? > Новости

В последнее время отечественная и зарубежная промышленность использует генеративный искусственный интеллект в качестве ключевого фактора бизнес-инноваций. После того, как Samsung Electronics внедрила ChatGPT на уровне всей компании, SK Hynix также пересмотрела свою систему безопасности и формализовала использование внешнего искусственного интеллекта. Это не просто следование тенденциям, а стратегический выбор для обеспечения конкурентоспособности на мировом рынке за счет максимизации эффективности процесса исследований и разработок (НИОКР) и ускорения принятия решений. Фактически, Samsung Electronics посредством внутреннего тестирования подтвердила, что ChatGPT имеет высочайшую пригодность для бизнеса и удовлетворенность пользователей, и связывает это с общегрупповой стратегией преобразования искусственного интеллекта (AX). Компании теперь выбирают технологии, выходящие за рамки производительности своих моделей искусственного интеллекта, основываясь на том, насколько хорошо они работают в реальных ситуациях и точно отражают суть задаваемого вопроса.

Однако льется критика в отношении того, что меры безопасности, поддерживающие эту технологию, все еще слабы по сравнению со скоростью, с которой распространяется технология. Генеральные прокуроры 12 штатов США направили OpenAI повестки в суд, обращая внимание на проблемы безопасности ChatGPT. Это предупреждение о том, что мы больше не можем игнорировать социальные побочные эффекты, которые может вызвать ИИ, такие как его связь с преступностью, проблемы с защитой несовершеннолетних и ответы, которые усиливают психологическую тревогу пользователей. Фактически, Открытый ИИ оказался в центре юридической и этической ответственности, поскольку возникли подозрения, что подозреваемый в стрельбе использовал ИИ для планирования преступления или что реакция ИИ повлияла на крайние решения некоторых людей. С точки зрения Open AI, которая готовится к первичному публичному размещению акций (IPO), расследования этих регулирующих органов действуют как огромная переменная, увеличивающая неопределенность в процессе листинга.

Даже для отдельных пользователей ИИ действует как палка о двух концах. В последнее время зафиксирован ряд случаев несанкционированной выплаты крупных сумм денег по причине кражи карточных данных у людей, никогда не пользовавшихся ChatGPT, что выявило дыру в системе безопасности. Это больше, чем просто техническая ошибка, это серьезный инцидент безопасности, который фундаментально угрожает надежности платформы. Кроме того, как и в случае с Японией, по мере того, как число молодых людей, выбирающих ИИ вместо людей в качестве консультационного центра, также всплыли на поверхность ограничения советов ИИ и вопросы ответственности. Хотя ИИ обладает выдающимся интеллектом, позволяющим указывать на детали, которые упускают люди, мы никогда не должны забывать, что он не несет никакой ответственности за результаты своих ответов.

Тем не менее, потенциал генеративного ИИ по-прежнему действует как теплая технология, разрушающая социальные барьеры. Пусанский международный совет по делам инвалидов опубликовал сборник высказываний с иллюстрациями, созданных людьми с ограниченными возможностями с использованием искусственного интеллекта, показывающий пример того, как обездоленный класс, лишенный цифровых прав, становится уверенным творцом, а не просто потребителем технологий. Это доказывает ценность ИИ как технологического благосостояния и указывает правильное направление, в котором нам следует двигаться. Тем временем на корейском рынке продолжается ожесточенная конкуренция между сервисами: «Клод» от Antropic встряхнул двухуровневую систему ChatGPT и Gemini и поднялся на второе место по продажам. Такая динамика рынка предоставляет пользователям лучшие варианты, но в то же время предполагает, что осторожный подход и осведомленность о защите информации пользователей, которые используют различные модели параллельно, становятся все более важными.