-
重申AI安全: 海外TOP3模型厂因安全问题呼吁降速,看好全球AI安全需求释放
小金牛 / 09月13日 22:33 发布
#重点关注:
1)企业侧:深信服、绿盟科技
2)政务侧:奇安信、启明星辰
3)行业侧:安恒信息、亚信安全、天融信等
1、海外模型厂商呼吁降速,AI安全有望成为新模型准入前提
9月12日Anthropic CEO Dario Amodei发长文,呼吁全行业放慢能力提升,让安全测试、运行监控和第三方评估跟得上。我们理解,#AI安全前置 这个事情已经发生,安全有望成为后续模型发布的#准入前提。OpenAI披露安全监控算力开销约为被监控#推理算力的20%,安全已经成为大模型的刚性成本。
2、Dario的长文中给出影响AI安全的两大因素:
1)自今年夏天以来,AI的发展速度急剧加快,主要由AI构建下一代AI的能力驱动,这种动态被称为RSI;
2)OpenAI内部评测中AI Agent自主利用未知漏洞逃出沙箱、攻入Hugging Face生产服务器窃取评测答案,#全链条零人工干预,能力已经跑在安全前面。
不加以控制,如果一群能力更强但同样存在未对齐问题的智能体出现,可能在6到12个月内具备接管整个互联网的能力。
3、海外AI安全需求已得到验证,国内需求有望加速兑现
需求端已被北美业绩验证:Fortinet最新季度产品收入同比+52%,CrowdStrike ARR突破58亿美元,Palo Alto下一代安全ARR同比+63%。北美网安业绩已验证AI非但没有挤占安全预算,反而在推动#安全支出增长。国内中报验证网安业绩在修复,且AI安全相关的订单量价齐升。下游安全有望从合规驱动 转向#价值驱动,Agent身份安全、AI大通量防火墙、AI安全平台等方向订单加速释放。重申#AI安全大时代!
天风计算机




公安备案号 51010802001128号