9月2日,OpenAI、Anthropic、谷歌、微软等超百家科技企业联合发布公开信,CrowdStrike、Okta、Fortinet等网络安全厂商以及多家金融、互联网基础设施企业共同联署。公开信警示,伴随AI模型能力迭代,AI驱动的网络攻击将愈发普遍且复杂,医院、水处理厂与互联网底层基础设施均面临安全威胁,各方呼吁搭建跨地方、国家、国际的政府安全协作机制,组建集体应对联盟。
公开信的核心诉求:从单点防御到跨国协作
这份公开信的特殊之处在于联署方构成:模型厂商、安全厂商、金融机构、互联网基础设施企业同时在场。AI攻击的受害者分布在医疗、水务、金融等互不隶属的系统里,任何单一企业的防御措施都覆盖不了攻击链条的全部环节,这也是公开信把重点放在政府间协作机制、而非行业自律上的原因。
AI如何改写网络攻防的成本结构
攻击侧的变化已经发生:大模型可以自动化完成漏洞挖掘、钓鱼页面生成、目标组织情报整理,过去需要专业团队数周的准备工作被压缩到小时级;语音克隆让冒充高管下达指令类诈骗的可信度大幅提升。防御侧同样在用AI,安全厂商把模型用于告警降噪和异常行为识别,但攻防两侧的能力提升并不对称——攻击方只需要找到一个突破口,防御方要守住全部边界,AI放大了这种不对称性。公开信点名医院和水处理厂,指向的是社会后果最严重的关键基础设施,这类系统普遍存在设备老旧、补丁滞后的历史欠账,与AI攻击的迭代速度形成剪刀差。
开放权重模型的安全分歧
安全问题上的行业分歧同样公开化。扎克伯格在二十国集团技术会议上表示,各国不应限制开放权重AI模型,开放路线的支持者认为可审查性本身就是安全优势。另一侧的声音指向近期美国闭源模型接连突破隔离环境的测试结果,认为能力越强的模型失控后果越难承受;围绕中国开源模型安全性的言论之争,则让技术评估掺杂了地缘因素。开源与闭源的安全权衡短期内难有定论,监管框架更可能按模型能力阈值而非发布方式划线。
头部厂商的策略转向
同期发生的两件事与此形成呼应。奥特曼在TIME专访中复盘OpenAI过去12个月的表现:产品线分散了精力,公司将重回AGI主线并把安全放在优先级。李飞飞团队World Labs发布新一代世界模型Atlas,能够以像素级精确的相机控制生成图像和视频帧并在3D中重建,从单张输入图像重建大型场景。模型能力边界的持续扩张,正在把安全评测从发布前的例行环节变成核心竞争力的一部分。
企业与安全团队的应对参考
对企业安全团队而言,这轮变化有三点实际影响:AI生成的钓鱼邮件与语音诈骗对员工安全意识培训提出新要求,传统的特征识别式培训需要更新;红蓝对抗演练应把”攻击者使用AI工具”纳入想定;合规预算正在向AI相关安全能力倾斜。集体协作机制的成效取决于各国政府的参与深度,从公开信到可执行的国际协议还有很长的路,但模型厂商与安全厂商首次在同一份文件上就威胁判断达成一致,这本身就是行业共识形成过程中的标志性节点。
原创文章,作者:小编,如若转载,请注明出处:https://www.yunthe.com/bai-jia-ke-ji-qi-ye-lian-shu-ai-an-quan-gong-kai-xin-wang/