在“数据中心天才”时代，人工智能开发人员达里奥·阿莫迪 (Dario Amodei) 对生存发出警告。 > 消息

Dario Amodei 的主要警告是，确保透明度的现有自治方法现已达到其极限。他强调，下一个前沿模型在四个关键领域带来了真正的风险：网络安全、生物武器生产、自主控制的丧失以及加速的自动化研发。为了实现这一目标，他认为，我们应该对超过一定计算能力的人工智能模型采取具有约束力的监管框架，并由政府干预，就像飞机工业经过美国联邦航空管理局（FAA）严格的预测试和认证一样。这些提案不是简单地限制技术，而是寻求建立强有力的保障措施，使政府能够先发制人地阻止或撤回未经证实的危险模型的部署。

Amodei 还对人工智能对劳动力市场的影响进行了非常冷静和结构化的分析。他警告说，人工智能将不再是一个简单的工具，而是成为所有人类认知能力的经济替代品，这可能导致大规模失业成为一个根深蒂固的社会问题，而不是暂时的现象。他表示，要解决这个问题，必须积极落实促进就业的政策，比如向雇主提供税收优惠，加强对失业人员的工资保险和职业培训支持。此外，如果出现劳动力需求本身结构性下降的情况，激进的观点是我们应该认真考虑甚至通过提高资本利得税或对人工智能公司征税来引入全民基本收入。

同时，它还通过强调放松对阻碍技术创新的瓶颈的管制的必要性来展示战略灵活性。尽管人工智能正在极大地提高生物医学和新药开发领域新药候选物的发现速度，但有人指出，美国食品药品监督管理局（FDA）或欧洲药品管理局（EMA）目前需要数年时间的审查制度正在成为创新流动的障碍。因此，Armodei建议需要进行复杂的监管设计，主动建立基于人工智能的新监管标准，例如利用虚拟临床数据或预测毒性，以确保安全性并提高创新速度。这并不是无条件的管制，而是显示出一种成熟的政策视角，即监管的力度和方向应根据技术的性质进行调整。

最后，阿莫迪将人工智能定义为决定一个国家军事和经济实力的关键“战略资产”，并从地缘政治角度呼吁民主团结。拥有强大人工智能的国家与未拥有强大人工智能的国家之间的差距将是巨大的，堪比二战期间的军事实力差距，如果落入独裁政权手中，它很可能成为大规模监视或操纵舆论的工具。因此，他认为民主国家应该通过共享半导体供应链和建立人工智能防御系统来平衡技术霸权。此外，还强调治理创新对于防止公司随意决定人工智能的命运至关重要，方法是将公司内部的制衡扩散到整个行业，例如Antropic的“长期利益信托”。