摩根大通首席执行官杰米·戴蒙对人工智能模型的安全风险发出了严厉警告。在参议员Dave McCormick主办的宾夕法尼亚防务与创新峰会上,戴蒙将矛头指向了Anthropic公司开发的Mythos模型,称其带来的风险是一个“现实问题”,并透露美国政府目前已对此高度关注。
戴蒙的措辞极为尖锐。他警告称,将一个如此先进的系统开放给广大人群使用存在巨大风险。“让个人使用Mythos,基本上相当于把弹道导弹交到他们手里,”他说。这一比喻生动地描绘了他对AI技术被滥用的深切担忧。
此番言论的背景是,近几个月来AI模型的快速发展正促使业界和政府加速评估其潜在威胁。问题的紧迫性因Anthropic自身的表态而加剧。该公司此前承认,其Mythos模型在发现软件漏洞方面能力异常出色,以至于他们认为该模型不宜向公众发布。一个连创造者都认为过于强大而不宜公开的工具,其潜在的破坏力自然引发了决策者和金融界领袖的警觉。
戴蒙的警告并非孤立事件,它反映了美国政商两界对前沿AI安全治理的焦虑正在升温。作为全球最具影响力的银行家之一,他在防务相关场合的公开表态,可能进一步推动立法者和监管机构对高性能AI模型,特别是那些在网络安全领域有强大能力的模型,施加更严格的管控措施。这不仅是技术伦理的讨论,更已上升为关乎国家安全的战略议题。