新闻信号 regulation
华盛顿与Anthropic、OpenAI和Google共同制定AI监管法规,并称之为独立监督
本应阻止这一切的基础设施,恰恰由资助它的人建造。
Anthropic声称自己建造了目前最危险的AI系统,但这是真是假还是只是一个好的营销说辞并不重要,因为该公司随后邀请政府坐到谈判桌前,恰好还有一份联邦合同悬而未决所以也可以顺便讨论,现在正在共同起草决定这种事情能否再次发生的法律。一个完全由制造者管理的紧迫性,不是围绕它构建了叙事的紧迫性;它本身就是构建。Anthropic制造了危险,为它命名,并通过四十家精心挑选的公司控制对它的访问。危险是产品,监管是分配控制,政府合同覆盖开发成本。
当Anthropic决定谁能接触Anthropic制造的危险时,AI安全如何运作
Glasswing项目:四十家公司,独家访问Mythos暴露的漏洞情报。Google在名单上,Microsoft在名单上,xAI在名单上;莫桑比克中央银行则不在。最需要这些信息的各方拥有它,Anthropic称之为负责任的管理。FDA框架假设你知道自己在测试什么;Mythos是涌现的,在它做出某事之前没人完全理解它能做什么。一个在结构上无法评估它声称要评估的东西的框架,仍然保护了那家合作、签字并”展示了责任”的公司。EPA多年来使用铅工业帮助制定的标准来监管铅污染。那不是先例。那是操作手册。
AI安全如何成为市场准入壁垒,以及为什么这始终是目的
三个月前副总统称AI安全担忧是恐惧;现在”安全”在白宫的一篇帖子中出现了三次。这不是政策转向,这是词汇替换,由那些知道言辞比监督更便宜的人完成。安全现在意味着Anthropic、OpenAI和Google说它意味着的东西:他们的标准,他们的定义,他们的解决方案。较小的实验室很快将要通过一个基于其竞争对手制定的标准建立的审批流程;安全要求作为市场准入壁垒与制药行业一样古老。用于处理前沿实验室想要发布政府认为危险的东西的那一刻的结构已经存在,它由将造成那一刻的人建造。