米兰体育

网易米兰体育 > > 正文

AI硬件闲置严重,企业GPU利用率不足

0
分享至

昂贵硬件闲置:86%的GPU运营者报告利用率低于50%大多数部署的”智能体”仅执行单提示工作:71%表示四分之一或更少能独立完成多步骤任务66%的企业仅依靠自动评估就让智能体投入生产——或正在朝这个方向努力。仅5%完全信任这些评估69%的企业在智能体舰队中某处运行凭证共享——这些公司遭受攻击的频率高得多



众多企业在部署AI智能体时,往往缺乏必要的管控措施——而且他们是有意这样部署的。这是VentureBeat Research对573家拥有100名以上员工公司的技术领导者进行6月调查得出的核心发现,该调查通过五项平行调查收集了关于智能体堆栈的数据。

如今,企业正在努力追赶并建立自己的标准,同时为此进行预算规划:研究显示,约六成企业计划在未来12个月内,在五个控制层面中的每一个层面都更换或增加供应商,其中约三分之一(取决于具体层面)计划在季度内完成迁移。

企业主要构建在五个关键层面:智能体身份管理(哪些智能体被允许执行什么操作,使用谁的凭证);智能体输出评估(工作质量如何);成本遥测(每个智能体的运行成本);上下文层(智能体用于回答问题的业务数据和定义);以及编排控制平面(协调多步骤智能体工作的软件)。

由于在部署智能体前缺乏充分的控制功能,企业已经付出了代价。54%的公司在过去12个月内经历了智能体安全事件或未造成伤害的险情。27%的企业对智能体支出仅采取被动控制——他们只在收到账单时才知道智能体的成本,而没有为每个智能体设置预算或上限。

86%运行自有GPU的企业报告称其利用率在50%或更低。华尔街本季度一直在争论AI建设是否过度。这是从采购方企业的测量结果来看,研究显示这些企业中最昂贵的硬件运行能力不超过其一半容量。

测量差距加剧了这一问题:只有少数44%的企业严格追踪其AI计算的实际成本和回报。其他人只是在估算。然而,企业的采购流程仍在继续:45%的企业表示,他们在未来12个月最可能评估的新兴计算选项是AI专业云(CoreWeave、Lambda、Crusoe、Nebius)。然而,目前使用这些新兴云服务的企业不到2%。

此外,约三分之一的公司似乎正在考虑对Nvidia的对冲策略:当被问及在未来12个月最可能评估哪种新兴计算选项时,32%的企业选择了非Nvidia加速器(AWS Trainium、Google TPUs、AMD),而28%选择了下一代Nvidia GPU。数据表明,企业在为新计算能力(无论是AI专业云合同、新加速器还是更多GPU)承诺预算之前,应测量现有GPU的利用率和每个工作负载的成本。

71%的企业表示,他们部署的”智能体”中只有四分之一或更少能够独立完成多步骤工作;其余的都是单提示聊天机器人。只有10%的企业表示真正的智能体是他们运行的主要部分。可以肯定的是,受访者表示他们能够了解这些情况:81%的人表示他们在公司中推荐或决定AI采购。

这一发现——大多数智能体实际上只是穿了风衣的聊天机器人——出现在行业采用率远超企业实际运行情况的背景下。Gartner预测到2026年底,40%的企业应用程序将集成任务特定的AI智能体,而2025年这一比例不到5%。该公司还警告称,最常见的误解是将这些AI助手称为智能体,这种误解被称为”智能体漂白”。

与此同时,Zapier的企业调查显示72%报告已部署或测试自主智能体;Writer的2026年调查显示97%的高管表示他们的公司在过去一年中部署了AI智能体。这些调查只是询问公司是否部署了所谓的AI智能体,而公司回答是。我们的调查向那些负责部署的人提出了一个更难的问题:在你们生产环境中运行的智能体中,有多少能够在没有人工引导每一步的情况下完成多步骤任务?这一差距对两个实际原因很重要。首先,夸大的采用率是董事会和供应商用来向技术领导者施压、要求他们更快行动的基准——而这些数据表明,真正的标准远低于标题所暗示的。其次,标签决定了账单:单提示聊天机器人需要人类阅读每个答案,不需要本报告涵盖的身份、评估和成本控制,而真正的多步骤智能体则需要所有这些控制。

三分之二的企业属于两个阵营之一:34%已经允许AI智能体仅基于自动评估结果就将代码或系统变更投入生产,无需人工审查,另有33%正在积极构建其管道,以在未来12个月内实现这一目标。只有5%完全信任做出这一决策的自动评估。

这种不信任是有道理的。一半的企业在过去一年中部署了通过内部评估但随后导致面向客户失败的智能体;四分之一的企业目睹这种情况发生不止一次。当被问及当前评估的最大弱点时,更多企业选择了”与实际结果对齐不佳”——29%的受访者选择了这一答案。

而且大多数检查发生在智能体部署前,然后停止。一旦智能体与真实用户一起运行,只有23%的企业对智能体产生的答案进行实时质量检查。另外51%只监控系统健康状况——正常运行时间、请求跟踪和网关日志——这告诉他们智能体正在运行,但无法判断其答案是否正确。第一步:在从任何工作流程中移除人工审查之前,针对生产结果而非内部基准测试您的评估,并测量答案质量,而不仅仅是正常运行时间。

69%的企业在智能体舰队运行时某处允许凭证共享——这意味着多个智能体使用一个API密钥或服务账户运行。这些公司遭受攻击的可能性要高得多:在任何地方存在凭证共享的组织经历了安全事件或险情,比例为63.5%(74家中的47家)。

相比之下,禁止所有智能体运行时凭证共享的企业遭受安全事件或险情的比例仅为35.8%。这一差距表明,凭证共享可能是导致智能体安全漏洞的关键因素。随着企业继续扩展其智能体部署,建立严格的凭证管理实践变得至关重要。

此外,大多数企业在智能体安全方面的投入不足:只有41%的企业为每个智能体分配了专门的预算,而近三分之一的企业甚至没有跟踪智能体相关的安全支出。这种资源分配不足可能导致企业在面对日益复杂的智能体安全挑战时处于不利地位。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
卡点赶高铁,网约车接单后临时取消,乘客:赔我3000块钱

卡点赶高铁,网约车接单后临时取消,乘客:赔我3000块钱

用车指南
2026-10-31 10:03:33
奥巴马火力全开,支持率跌到31%,特朗普正陷入巨大政治危机

奥巴马火力全开,支持率跌到31%,特朗普正陷入巨大政治危机

华山穹剑
2026-10-31 19:45:16
武汉 56岁天才股神直言:如果散户长期捂股不斩仓,庄家会怎么办

武汉 56岁天才股神直言:如果散户长期捂股不斩仓,庄家会怎么办

再战五百回合
2026-10-28 21:21:58
毫无预告!领克放出新车预告,11月5日正式亮相

毫无预告!领克放出新车预告,11月5日正式亮相

沙雕小琳琳
2026-10-31 00:52:39
《小城良方》大结局:不让刘铮亮当院长,是龙冬冬智慧的体现

《小城良方》大结局:不让刘铮亮当院长,是龙冬冬智慧的体现

天玑影视说
2026-10-31 07:35:23
理想汽车致歉,最新进展

理想汽车致歉,最新进展

沙雕小琳琳
2026-10-31 09:41:08
85年我提亲女干事,她却嫁给参谋,20年后我授衔少将她却求我见一面

85年我提亲女干事,她却嫁给参谋,20年后我授衔少将她却求我见一面

萧竹轻语
2025-10-29 11:58:30
WTT冠军赛爆大冷!韩乒一哥"杀疯"了,雨果造惨案,梁靖崑输惨了

WTT冠军赛爆大冷!韩乒一哥"杀疯"了,雨果造惨案,梁靖崑输惨了

烈史
2026-11-01 04:02:51
看汪小菲回家吃饭,才发现有钱人下厨,连做饭的水都讲究用瓶装水

看汪小菲回家吃饭,才发现有钱人下厨,连做饭的水都讲究用瓶装水

西楼知趣杂谈
2026-10-31 20:22:58
111:116!随着火箭5连胜遭终结,证明了三大现实,申京真核心,阿门打不了高端局

111:116!随着火箭5连胜遭终结,证明了三大现实,申京真核心,阿门打不了高端局

篮球圈里的那些事
2026-10-31 13:53:43
广东输山东9分!谁注意班顿的落寞,赛后邱彪说的很实在,王岚嵚24分5板7助太强

广东输山东9分!谁注意班顿的落寞,赛后邱彪说的很实在,王岚嵚24分5板7助太强

老吴说体育
2026-10-31 21:24:07
美使馆称美国务院已要求非紧急岗位人员离开沙特

美使馆称美国务院已要求非紧急岗位人员离开沙特

澎湃米兰体育-米兰(中国)官网
2026-10-31 02:59:07
胡塞或许已经意识到:接下来可能即将进入的,是一个很艰难的阶段

胡塞或许已经意识到:接下来可能即将进入的,是一个很艰难的阶段

阿沫讲史
2026-10-30 20:55:39
比亚迪新车官宣:10月30日继续开售,17.98万起

比亚迪新车官宣:10月30日继续开售,17.98万起

科技阿维
2026-10-30 23:09:55
WTT冠军赛:女单4强决出3人!张本美和2-4败北,国乒22岁名将复仇

WTT冠军赛:女单4强决出3人!张本美和2-4败北,国乒22岁名将复仇

春日筆記
2026-11-01 02:27:49
金价暴跌 金条卖断货 济南大哥直接扫走600克 大克重手镯成抢手货

金价暴跌 金条卖断货 济南大哥直接扫走600克 大克重手镯成抢手货

闪电米兰体育-米兰(中国)官网
2026-10-31 17:55:29
陪老丈人吃面时撞见媳妇挽着生人逛街,我手都在抖,岳父按住我冷笑:别慌,我当年给她的陪嫁全都要收回

陪老丈人吃面时撞见媳妇挽着生人逛街,我手都在抖,岳父按住我冷笑:别慌,我当年给她的陪嫁全都要收回

晓艾故事汇
2026-10-04 10:16:20
第一次有人把“MACD”运用得出神入化,我整整读了10遍,大彻大悟

第一次有人把“MACD”运用得出神入化,我整整读了10遍,大彻大悟

一方聊市
2026-10-12 12:40:16
苏州一对情侣,谈了7年,女子提了18次分手,分手后在街头痛哭!

苏州一对情侣,谈了7年,女子提了18次分手,分手后在街头痛哭!

川渝视觉
2026-04-17 22:13:14
超市集体下架姆巴佩形象代言商品,供应商进入退货流程

超市集体下架姆巴佩形象代言商品,供应商进入退货流程

上观米兰体育-米兰(中国)官网
2026-10-31 06:55:09
2026-11-01 06:55:00
智享开源
智享开源
开源、人工智能爱好者
42文章数 0关注度
往期回顾 全部

苦等两年!国行苹果AI下周开测,12月推出

媒体:美防长宣布启动"子午线计划" 马斯克"接管"军队

媒体:美防长宣布启动"子午线计划" 马斯克"接管"军队

决胜时刻三连击!勒布朗绝命补篮价值千金

41岁吾恩胃癌七年去世,伴侣也确诊癌

Meta、谷歌、英特尔增发认购者集体浮亏

好开更好坐 马自达EZ-60激光版补齐最后短板

态度原创

魏紫熙罕见狠评吴冠中:笔没压下去,只会用笔尖戳戳?一句话引爆画坛争议!

I feel like Nicole的第一步是?

单月杀进全省前十!崖州卖最火的盘,产品真能打

画完这张框架,你的传播学直接上考场。

美国批准向乌克兰出售500枚爱国者导弹

无障碍浏览 进入关怀版