‘데이터센터의 천재들’ 시대, AI 개발자 다리오 아모데이가 던지는 생존의 경고 > 뉴스

Dario Amodeis wichtigste Warnung ist, dass der bestehende autonome Ansatz zur Gewährleistung der Transparenz nun an seine Grenzen stößt. Er betont, dass das Next Frontier-Modell in vier kritischen Bereichen echte Risiken birgt: Cybersicherheit, Produktion biologischer Waffen, Verlust der autonomen Kontrolle und beschleunigte automatisierte Forschung und Entwicklung. Um dies zu erreichen, argumentiert er, dass wir einen verbindlichen Regulierungsrahmen mit staatlichen Eingriffen für KI-Modelle einführen sollten, die eine bestimmte Rechenleistung überschreiten, so wie die Flugzeugindustrie strenge Vortests und Zertifizierungen durch die Federal Aviation Administration (FAA) durchläuft. Anstatt die Technologie einfach einzuschränken, zielen diese Vorschläge darauf ab, starke Schutzmaßnahmen einzuführen, die es Regierungen ermöglichen würden, den Einsatz unbewiesener und gefährlicher Modelle präventiv zu blockieren oder zurückzuziehen.

Amodei präsentierte auch eine sehr besonnene und strukturierte Analyse der Auswirkungen von KI auf den Arbeitsmarkt. Er warnt davor, dass KI über ein bloßes Werkzeug hinausgehen und zu einem wirtschaftlichen Ersatz für alle kognitiven Fähigkeiten des Menschen werden wird, was dazu führen könnte, dass die Massenarbeitslosigkeit zu einem fest verwurzelten gesellschaftlichen Problem und nicht zu einem vorübergehenden Phänomen wird. Er sagt, dass wir zur Lösung dieses Problems aktiv beschäftigungsfördernde Maßnahmen umsetzen müssen, etwa durch die Bereitstellung von Steuervorteilen für Arbeitgeber und die Stärkung der Lohnversicherung und der Unterstützung bei der Berufsausbildung für Arbeitnehmer, die von Arbeitslosigkeit bedroht sind. Darüber hinaus sollten wir in einer Situation, in der die Nachfrage nach Arbeitskräften selbst strukturell sinkt, ernsthaft darüber nachdenken, sogar ein universelles Grundeinkommen einzuführen, das durch eine Erhöhung der Kapitalertragssteuer oder die Besteuerung von KI-Unternehmen finanziert wird.

Mittlerweile zeigt es auch strategische Flexibilität, indem es die Notwendigkeit der Deregulierung von Engpässen betont, die technologische Innovationen blockieren. Obwohl KI die Geschwindigkeit der Entdeckung neuer Medikamentenkandidaten im Bereich der Biomedizin und der Entwicklung neuer Medikamente dramatisch erhöht, wird darauf hingewiesen, dass das derzeitige, mehrere Jahre dauernde Überprüfungssystem der Food and Drug Administration (FDA) oder der Europäischen Arzneimittelagentur (EMA) zu einem Hindernis für den Innovationsfluss wird. Armodei schlägt daher vor, dass ein ausgefeiltes Regulierungsdesign erforderlich ist, um proaktiv neue KI-basierte Regulierungsstandards zu etablieren, beispielsweise die Nutzung virtueller klinischer Daten oder die Vorhersage von Toxizität, um die Sicherheit zu gewährleisten und gleichzeitig die Innovationsgeschwindigkeit zu erhöhen. Dabei handelt es sich nicht um eine bedingungslose Kontrolle, sondern um eine ausgereifte politische Perspektive, wonach Stärke und Richtung der Regulierung an die Art der Technologie angepasst werden sollten.

Schließlich definiert Amodei KI als ein zentrales „strategisches Gut“, das die militärische und wirtschaftliche Macht eines Landes bestimmt und aus geopolitischer Perspektive demokratische Solidarität fordert. Die Kluft zwischen Ländern, die sich eine starke KI gesichert haben, und denen, die dies nicht getan haben, wird überwältigend sein, vergleichbar mit der Kluft in der militärischen Macht während des Zweiten Weltkriegs, und wenn sie in die Hände eines autoritären Regimes gerät, besteht ein hohes Risiko, dass sie zu einem Instrument der Massenüberwachung oder Manipulation der öffentlichen Meinung wird. Daher argumentiert er, dass Demokratien die technologische Hegemonie durch die gemeinsame Nutzung von Halbleiterlieferketten und den Aufbau von KI-Verteidigungssystemen ausgleichen sollten. Darüber hinaus wird betont, dass Governance-Innovationen unerlässlich sind, um zu verhindern, dass Unternehmen willkürlich über das Schicksal der KI entscheiden, indem sie Kontrollen und Gegenmaßnahmen innerhalb des Unternehmens, wie etwa den „Long-Term Interest Trust“ von Antropic, in der gesamten Branche verbreiten.