微信

OpenAI模型“失控”敲响警钟 微软(MSFT.US)火速推出低成本网络安全模型

智通财经11:00

  智通财经APP获悉,在Open AI模型 “失控”事件引发热议之际, 微软 (MSFT.US)于周一推出一款用于发现 网络安全 漏洞的新型 人工智能 (AI)模型。这是微软重新启用谷歌前高管海特·加洛特执掌安全部门后,首次为复兴网络安全业务推出重磅产品。

  微软表示,当与OpenAI通用大模型 GPT-5.4 搭配使用时,其 MAI-Cyber-1-Flash模型在CyberGym基准测试中的表现优于Anthropic的Mythos 5、谷歌的3.5 Flash Cyber以及OpenAI的GPT-5.5 Cyber。

  微软AI事业部首席执行官穆斯塔法?苏莱曼在旧金山举办的公司活动上表示:“我们的模型性能处于世界领先水平,而成本仅为竞品的一半。”

  该生成模型是微软推出的首款面向网络安全场景的模型。加洛特在一篇博客文章中介绍,该模型将接入微软感知计划(Project Perception)。该计划集成多款AI智能体,可识别并修复系统安全漏洞,并将于8月3日起开放公众预览。

  她于2月份重返微软,出任安全业务执行副总裁,而此前负责该业务的 亚马逊 云服务前高管查理·贝尔则转为独立技术研发人员。

  生成式AI大幅降低了黑客利用最新公开漏洞发起攻击的门槛。为此,Anthropic与OpenAI均已推出面向网络安全从业者的防御类AI模型。

  今年以来,微软股价已下跌19%。由卡尔?基尔斯特德牵头的瑞银分析师团队周日在报告中写道:“鉴于市场普遍认为开源AI模型将抢占前沿实验室的市场份额,投资者如今重新审视微软深度绑定 OpenAI 的布局,并将其视作潜在风险。”但基尔斯特德仍维持微软“买入”评级。

  今年微软接连推出多款自研大模型:先是推出可在GitHub Copilot工具中生成代码的模型,近期又在 Excel 表格 软件 中接入自研原生 AI 模型。微软首席执行官萨蒂亚·纳德拉与 OpenAI 保持着合作关系,但他同时也投入算力资源训练自研模型,以提高运营效率。

  纳德拉周一在社交平台 X 上发文称:“通过将专用模型、行业数据与适配的智能体、工具、安全环境和系统相结合,我们可以提高成本效益。”

  微软自 2023 年后便未对外披露网络安全业务营收规模,当年该板块年收入突破200亿美元。

  2023年,微软推出了面向网络安全从业人员的“安全助手”(Security Copilot),该助手集成了OpenAI的GPT-4。目前该服务已预装至微软两款高端办公软件套件。Project Perception在获得授权后可以建议并实施代码更改,并且可以与非微软产品连接。

  加洛特在接受采访时表示,网络安全行业高管将这款工具视作破局关键:它能够降低安全运营人才的从业门槛,为安全运营中心(SOC)吸纳更多人员,因为目前行业内这类人才非常有限。企业通常设有安全运营中心(SOC),其中配备了大量人员,负责监控信息技术系统面临的威胁。

  OpenAI模型失控攻击暴露行业隐患,AI安全护栏建设备受重视

  上周,OpenAI 表示其模型利用漏洞攻击了AI初创公司Hugging Face的基础设施。该事件暴露了前沿大模型在自主决策下的潜在风险,引发了行业对AI安全护栏的强烈关注。

  美国国会两党议员据此提出《AI 终止开关法案》(AI Kill Switch Act),旨在赋予联邦机构在必要情况下暂停AI模型运行的权限,目前仍处于国会提案阶段,未正式生效。

  另外,据报道,OpenAI首席执行官山姆·奥特曼和 英伟达 首席执行官黄仁勋本周将与美国参议院情报委员会民主党首席议员马克·华纳会面,讨论AI发展及安全问题。

  微软AI负责人苏莱曼将OpenAI网络攻击事件描述为网络安全领域的“警钟”。苏莱曼指出,这是AI网络攻击崛起的重要信号。“随着模型变得越来越强大,预防原则变得非常重要。”

  加洛特也评论道:“这一案例充分印证,面对手握AI工具的网络攻击者,我们必须依靠AI技术构建防御体系。”

  微软新的网络安全模型仍有充足性能优化空间。

  苏莱曼在采访中透露:“我们手握独有的海量安全数据集,而目前训练模型仅动用了不足1%的数据储备。”