‘데이터센터의 천재들’ 시대, AI 개발자 다리오 아모데이가 던지는 생존의 경고 > 뉴스

Le principal avertissement de Dario Amodei est que l'approche autonome existante pour garantir la transparence a désormais atteint ses limites. Il souligne que le modèle Next Frontier présente des risques réels dans quatre domaines critiques : la cybersécurité, la production d’armes biologiques, la perte de contrôle autonome et l’accélération de la recherche et du développement automatisés. Pour y parvenir, il soutient que nous devrions adopter un cadre réglementaire contraignant avec une intervention gouvernementale pour les modèles d’IA qui dépassent une certaine puissance de calcul, tout comme l’industrie aéronautique subit des tests préalables et une certification rigoureux par la Federal Aviation Administration (FAA). Plutôt que de simplement restreindre la technologie, ces propositions cherchent à établir des garanties solides qui permettraient aux gouvernements de bloquer ou de retirer de manière préventive le déploiement de modèles dangereux et non éprouvés.

Amodei a également présenté une analyse très sereine et structurée de l'impact de l'IA sur le marché du travail. Il prévient que l’IA ne sera plus qu’un simple outil et deviendra un substitut économique à toutes les capacités cognitives humaines, ce qui pourrait conduire à ce qu’un chômage à grande échelle devienne un problème social profondément enraciné plutôt qu’un phénomène temporaire. Il affirme que pour résoudre ce problème, nous devons activement mettre en œuvre des politiques favorables à l'emploi, telles que l'octroi d'avantages fiscaux aux employeurs et le renforcement de l'assurance salaire et du soutien à la formation professionnelle pour les travailleurs menacés de chômage. En outre, s’il existe une situation dans laquelle la demande de main-d’œuvre elle-même diminue structurellement, l’opinion radicale est que nous devrions sérieusement envisager même d’introduire un revenu de base universel financé par une augmentation de l’impôt sur les plus-values ​​ou par une taxation des entreprises d’IA.

Parallèlement, il fait également preuve de flexibilité stratégique en mettant l'accent sur la nécessité de déréglementer les goulots d'étranglement qui bloquent l'innovation technologique. Bien que l’IA accélère considérablement la découverte de nouveaux médicaments candidats dans le domaine de la biomédecine et du développement de nouveaux médicaments, il est souligné que le système d’examen actuel de la Food and Drug Administration (FDA) ou de l’Agence européenne des médicaments (EMA), qui prend plusieurs années, devient un obstacle au flux de l’innovation. Par conséquent, Armodei suggère qu’une conception réglementaire sophistiquée soit nécessaire pour établir de manière proactive de nouvelles normes réglementaires basées sur l’IA, telles que l’utilisation de données cliniques virtuelles ou la prévision de la toxicité, afin de garantir la sécurité tout en accélérant la vitesse de l’innovation. Il ne s’agit pas d’un contrôle inconditionnel, mais cela témoigne d’une perspective politique mûre selon laquelle la force et l’orientation de la réglementation doivent être ajustées en fonction de la nature de la technologie.

Enfin, Amodei définit l’IA comme un « atout stratégique » clé qui détermine la puissance militaire et économique d’un pays et appelle à la solidarité démocratique d’un point de vue géopolitique. L’écart entre les pays qui disposent d’une IA forte et ceux qui ne l’ont pas encore sera écrasant, comparable à l’écart de puissance militaire pendant la Seconde Guerre mondiale, et si l’IA tombe entre les mains d’un régime autoritaire, il y a un risque élevé qu’elle devienne un outil de surveillance de masse ou de manipulation de l’opinion publique. Par conséquent, il soutient que les démocraties devraient équilibrer l’hégémonie technologique en partageant les chaînes d’approvisionnement en semi-conducteurs et en construisant des systèmes de défense basés sur l’IA. En outre, il est souligné que l’innovation en matière de gouvernance est essentielle pour empêcher les entreprises de décider arbitrairement du sort de l’IA en répartissant les freins et contrepoids au sein de l’entreprise, comme le « Long-Term Interest Trust » d’Antropic, dans l’ensemble du secteur.