今日，美国政府通过委托 Gladstone AI 公司进行了一项深入调查，并发布了一份关于人工智能（AI）带来的国家安全风险的重要报告，题为《提升先进人工智能安全与保障的行动计划》。这份报告基于与超过 200 名来自不同领域的专家的一年多的访谈，揭示了人工智能快速发展背后潜藏的“灾难性”风险。

报告指出，若不加以严格控制，最先进的人工智能系统可能对人类种族构成“灭绝级”的威胁。为了应对这一巨大挑战，报告建议美国政府采取一系列前所未有的措施，包括限制 AI 模型训练时使用的计算能力，要求处于行业前沿的 AI 公司在训练和部署新模型时需取得政府许可。

此外，报告还建议成立一个全新的联邦 AI 机构，负责设定和管理这些门槛，以及严格限制AI晶片的生产和出口。

这份由美国国务院于 2022 年 11 月委托编撰的报告，目的在于了解是否应将 AI 纳入其监控范围，同时强调所提建议并不反映美国国务院或美国政府的观点。随着 AI 技术的快速发展，以及新工具如 ChatGPT 的推出，全球对 AI 潜在威胁的关注不断升温。

报告中还提到，许多 AI 安全工作人员对其公司高层所追求的错误激励机制表示担忧，认为这可能会加剧 AI 带来的风险。因此，报告建议美国政府考虑立法禁止开源先进 AI 模型的“权重”，以防止其被灾难性地武器化或失去控制。

尽管这些建议可能面临政治上的困难，但鉴于 AI 潜在的风险如此之大，报告的作者，包括前国防部官员，强调慎重行事变得尤为重要。他们希望通过提出这些建议，能够在享受 AI 技术带来的巨大好处的同时，避免可能的灾难性后果。

更多科技资讯，请继续守住 TechNave 中文版！

【资料来源】

AI威胁人类存亡？美国政府最新AI报告出炉：AI将对人类造成“灭绝级”风险！