‘데이터센터의 천재들’ 시대, AI 개발자 다리오 아모데이가 던지는 생존의 경고 > 뉴스

O principal aviso de Dario Amodei é que a abordagem autónoma existente para garantir a transparência atingiu agora os seus limites. Ele destaca que o modelo da Próxima Fronteira apresenta riscos reais em quatro áreas críticas: segurança cibernética, produção de armas biológicas, perda de controlo autónomo e investigação e desenvolvimento automatizados acelerados. Para o conseguir, defende que devemos adoptar um quadro regulamentar vinculativo com intervenção governamental para modelos de IA que excedam um determinado poder computacional, tal como a indústria aeronáutica passa por rigorosos pré-testes e certificação através da Federal Aviation Administration (FAA). Em vez de simplesmente restringir a tecnologia, estas propostas procuram estabelecer salvaguardas fortes que permitiriam aos governos bloquear ou retirar preventivamente a implantação de modelos perigosos e não comprovados.

Amodei também apresentou uma análise muito fria e estruturada sobre o impacto da IA no mercado de trabalho. Ele alerta que a IA irá além de ser uma mera ferramenta e se tornará um substituto económico para todas as capacidades cognitivas humanas, o que poderá fazer com que o desemprego em grande escala se torne um problema social arraigado, em vez de um fenómeno temporário. Ele afirma que, para resolver este problema, devemos implementar activamente políticas pró-emprego, tais como a concessão de benefícios fiscais aos empregadores e o reforço do seguro salarial e do apoio à formação profissional para trabalhadores em risco de desemprego. Além disso, se houver uma situação em que a própria procura de trabalho esteja a diminuir estruturalmente, a visão radical é que deveríamos considerar seriamente até mesmo a introdução de um rendimento básico universal financiado pelo aumento do imposto sobre ganhos de capital ou pela tributação das empresas de IA.

Entretanto, também mostra flexibilidade estratégica ao enfatizar a necessidade de desregulamentação dos gargalos que bloqueiam a inovação tecnológica. Embora a IA esteja a aumentar dramaticamente a velocidade de descoberta de novos candidatos a medicamentos no domínio da biomedicina e do desenvolvimento de novos medicamentos, salienta-se que o actual sistema de revisão da Food and Drug Administration (FDA) ou da Agência Europeia de Medicamentos (EMA), que leva vários anos, está a tornar-se um obstáculo ao fluxo de inovação. Portanto, Armodei sugere que é necessário um desenho regulatório sofisticado para estabelecer proativamente novos padrões regulatórios baseados em IA, como a utilização de dados clínicos virtuais ou a previsão de toxicidade, para garantir a segurança, mas aumentar a velocidade da inovação. Este não é um controlo incondicional, mas mostra uma perspectiva política madura de que a força e a direcção da regulamentação devem ser ajustadas de acordo com a natureza da tecnologia.

Por último, Amodei define a IA como um “ativo estratégico” chave que determina o poder militar e económico de um país e apela à solidariedade democrática a partir de uma perspetiva geopolítica. A disparidade entre os países que asseguraram uma IA forte e os que não a garantiram será esmagadora, comparável à disparidade no poder militar durante a Segunda Guerra Mundial, e se cair nas mãos de um regime autoritário, existe um elevado risco de se tornar uma ferramenta de vigilância em massa ou de manipulação da opinião pública. Portanto, ele argumenta que as democracias devem equilibrar a hegemonia tecnológica através da partilha de cadeias de fornecimento de semicondutores e da construção de sistemas de defesa de IA. Além disso, sublinha-se que a inovação na governação é essencial para evitar que as empresas decidam arbitrariamente o destino da IA, espalhando freios e contrapesos dentro da empresa, como o “Long-Term Interest Trust” da Antropic, por toda a indústria.