美国国家安全局利用 Anthropic’s Mythos 进行网络攻击

星***

https://www.ft.com/content/d02d91b3-2636-454e-9442-dc7e69f51815

[!quote]+
Anthropic 正在帮助美国国家安全局部署用于进攻性网络行动的强大 Mythos 人工智能模型，尽管与五角大楼的法律战仍在进行中，但该公司仍在该机构内部安插了工程师。
熟悉这一安排的两位人士说，这家总部位于旧金山的公司已在美国国家安全局内部安插了大约六名员工，作为所谓的前沿部署工程师，指导技术的使用，并为特定应用定制模型。
目前尚不清楚 Anthropic 公司的工程师是否在协助美国国家安全局积极开展行动。不过，一位知情人士表示，"Mythos "对渗透中国或伊朗等国的网络非常有用。
"建立良好防御的最好方法就是建立良好的攻击，"一位接近 Anthropic 的人士说，他认为对手很可能正在建立自己的人工智能驱动的攻击技术。“如果不利用[Mythos]来构建攻击代理，对手就会找到办法。”
Anthropic 和美国国防部均拒绝发表评论。
本周二，美国总统唐纳德-特朗普签署了一项行政命令，概述了一个自愿性框架，在此框架下，人工智能公司可以在公开发布新模型之前将其提交安全审查。
该命令指示联邦机构制定评估人工智能系统网络能力的方法，并建立一个 “人工智能网络安全信息交换中心”，以共享信息和加强防御。