‘데이터센터의 천재들’ 시대, AI 개발자 다리오 아모데이가 던지는 생존의 경고 > 뉴스

Главное предупреждение Дарио Амодеи заключается в том, что существующий автономный подход к обеспечению прозрачности достиг своих пределов. Он подчеркивает, что модель Next Frontier создает реальные риски в четырех важнейших областях: кибербезопасность, производство биологического оружия, потеря автономного контроля и ускорение автоматизированных исследований и разработок. Для достижения этой цели, утверждает он, нам следует принять обязательную нормативную базу с государственным вмешательством в отношении моделей ИИ, мощность которых превышает определенную вычислительную мощность, точно так же, как авиационная промышленность проходит строгие предварительные испытания и сертификацию Федерального управления гражданской авиации (ФАУ). Вместо того, чтобы просто ограничивать технологию, эти предложения направлены на создание надежных гарантий, которые позволили бы правительствам превентивно блокировать или прекратить внедрение непроверенных и опасных моделей.

Амодей также представил очень хладнокровный и структурированный анализ влияния ИИ на рынок труда. Он предупреждает, что ИИ выйдет за рамки простого инструмента и станет экономической заменой всех когнитивных способностей человека, что может привести к тому, что крупномасштабная безработица станет укоренившейся социальной проблемой, а не временным явлением. Он говорит, что для решения этой проблемы мы должны активно проводить политику содействия занятости, такую ​​как предоставление налоговых льгот работодателям и усиление страхования заработной платы и поддержки профессиональной подготовки для работников, находящихся под угрозой безработицы. Более того, если возникнет ситуация, когда спрос на рабочую силу сам по себе структурно снижается, радикальная точка зрения заключается в том, что нам следует серьезно рассмотреть возможность даже введения универсального базового дохода, финансируемого за счет повышения налога на прирост капитала или налогообложения компаний, занимающихся искусственным интеллектом.

Между тем, он также демонстрирует стратегическую гибкость, подчеркивая необходимость дерегулирования узких мест, которые блокируют технологические инновации. Хотя ИИ резко увеличивает скорость открытия новых кандидатов на лекарства в области биомедицины и разработки новых лекарств, отмечается, что нынешняя система проверки Управления по контролю за продуктами и лекарствами (FDA) или Европейского агентства по лекарственным средствам (EMA), которая занимает несколько лет, становится препятствием для потока инноваций. Поэтому Armodei предполагает, что необходима сложная система регулирования для активного установления новых нормативных стандартов на основе искусственного интеллекта, таких как использование виртуальных клинических данных или прогнозирование токсичности, чтобы обеспечить безопасность, но увеличить скорость инноваций. Это не безусловный контроль, но он демонстрирует зрелую политическую перспективу, согласно которой сила и направление регулирования должны корректироваться в соответствии с характером технологии.

Наконец, Амодей определяет ИИ как ключевой «стратегический актив», определяющий военную и экономическую мощь страны, и призывает к демократической солидарности с геополитической точки зрения. Разрыв между странами, которые создали сильный ИИ, и странами, у которых его нет, будет огромным, сравнимым с разрывом в военной мощи во время Второй мировой войны, и если он попадет в руки авторитарного режима, существует высокий риск того, что он станет инструментом массовой слежки или манипулирования общественным мнением. Поэтому он утверждает, что демократические страны должны сбалансировать технологическую гегемонию, разделяя цепочки поставок полупроводников и создавая системы защиты искусственного интеллекта. Кроме того, подчеркивается, что инновации в управлении необходимы для того, чтобы компании не могли произвольно решать судьбу ИИ путем распространения сдержек и противовесов внутри компании, таких как «Долгосрочный фонд интересов» Antropic, по всей отрасли.