‘데이터센터의 천재들’ 시대, AI 개발자 다리오 아모데이가 던지는 생존의 경고 > 뉴스

De belangrijkste waarschuwing van Dario Amodei is dat de bestaande autonome aanpak om transparantie te garanderen nu zijn grenzen heeft bereikt. Hij benadrukt dat het Next Frontier-model reële risico's met zich meebrengt op vier kritieke gebieden: cyberveiligheid, de productie van biologische wapens, verlies van autonome controle en versneld geautomatiseerd onderzoek en ontwikkeling. Om dit te bereiken stelt hij dat we een bindend regelgevingskader moeten aannemen met overheidsingrijpen voor AI-modellen die een bepaalde rekenkracht overschrijden, net zoals de vliegtuigindustrie rigoureuze pre-tests en certificering door de Federal Aviation Administration (FAA) ondergaat. In plaats van simpelweg de technologie te beperken, proberen deze voorstellen sterke waarborgen in te voeren die regeringen in staat zouden stellen preventief de inzet van onbewezen en gevaarlijke modellen te blokkeren of in te trekken.

Amodei presenteerde ook een zeer nuchtere en gestructureerde analyse van de impact van AI op de arbeidsmarkt. Hij waarschuwt dat AI verder zal gaan dan louter een hulpmiddel en een economisch substituut zal worden voor alle menselijke cognitieve vermogens, wat ertoe zou kunnen leiden dat grootschalige werkloosheid een diepgeworteld sociaal probleem wordt in plaats van een tijdelijk fenomeen. Hij zegt dat we, om dit probleem op te lossen, actief werkgelegenheidsbeleid moeten implementeren, zoals het verstrekken van belastingvoordelen aan werkgevers en het versterken van loonverzekeringen en ondersteuning van beroepsopleidingen voor werknemers die het risico lopen werkloos te worden. Bovendien, als er een situatie bestaat waarin de vraag naar arbeid zelf structureel afneemt, is de radicale opvatting dat we serieus moeten overwegen om zelfs maar een universeel basisinkomen in te voeren, gefinancierd door het verhogen van de vermogenswinstbelasting of het belasten van AI-bedrijven.

Ondertussen getuigt het ook van strategische flexibiliteit door de nadruk te leggen op de noodzaak van deregulering van knelpunten die technologische innovatie blokkeren. Hoewel AI de snelheid van de ontdekking van nieuwe kandidaat-geneesmiddelen op het gebied van de biogeneeskunde en de ontwikkeling van nieuwe geneesmiddelen dramatisch verhoogt, wordt erop gewezen dat het huidige beoordelingssysteem van de Food and Drug Administration (FDA) of het European Medicines Agency (EMA), dat enkele jaren in beslag neemt, een obstakel aan het worden is voor de stroom van innovatie. Daarom suggereert Armodei dat een geavanceerd regelgevingsontwerp nodig is om proactief nieuwe op AI gebaseerde regelgevingsnormen vast te stellen, zoals het gebruik van virtuele klinische gegevens of het voorspellen van toxiciteit, om de veiligheid te garanderen maar de snelheid van innovatie te verhogen. Dit is geen onvoorwaardelijke controle, maar toont een volwassen beleidsperspectief dat de kracht en richting van de regulering moet worden aangepast aan de aard van de technologie.

Ten slotte definieert Amodei AI als een belangrijke ‘strategische asset’ die de militaire en economische macht van een land bepaalt en oproept tot democratische solidariteit vanuit een geopolitiek perspectief. De kloof tussen landen die sterke AI hebben veiliggesteld en landen die dat niet hebben zal overweldigend zijn, vergelijkbaar met de kloof in militaire macht tijdens de Tweede Wereldoorlog. Als het in handen valt van een autoritair regime, is het risico groot dat het een instrument wordt voor massaal toezicht of manipulatie van de publieke opinie. Daarom stelt hij dat democratieën de technologische hegemonie in evenwicht moeten brengen door de toeleveringsketens van halfgeleiders te delen en AI-verdedigingssystemen te bouwen. Daarnaast wordt benadrukt dat governance-innovatie essentieel is om te voorkomen dat bedrijven willekeurig over het lot van AI beslissen door checks and balances binnen het bedrijf, zoals Antropic’s ‘Long-Term Interest Trust’, over de hele sector te verspreiden.