一台55美元的杂牌安卓电视盒子,能干什么?Anthropic的前沿红队给出的答案是:把15台这样的设备拼起来,可以共同托管一个能力不俗的模型。
他们选中的模型是Gemma4-26B-A4B,每台盒子只装得下它的2层,15台凑齐整个模型,推理速度是每秒0.39个token。这些设备内存只有4GB,安全防护薄弱,价格便宜到几乎没人会认真对待。
![]()
这个实验想说明的事很直接:不需要数据中心,一堆廉价、防护糟糕的物联网设备,就能联合承载一个像样的模型。
真正难的不是跑起来,是自己扩散
更硬核的测试在后面。研究者要求模型自己扫描网络,把权重和一套agent运行框架推到新机器上,并让每台新机器都能跑起推理。
在一组带防火墙的模拟安卓节点上,一共8个节点,只有GLM-5.2完成了完整循环。5次试验里有4次触达全部8个节点,第5次触达了7个。
GLM-5.2本身太大,塞不进电视盒子。但研究给出了另一条线索:参数低于300亿的开源模型,在Epoch能力指数上每年涨13.7分,按这个速度,它们会在2026年底达到GLM-5.2的水平。
扩散本身还会带来增益。当每个Qwen3.5-9B实例继承前一个实例留下的笔记时,部署成功率从45%升到了61%到84%之间。
速度是短板,也是暴露点
这套玩法的弱点在速度。研究者算了一笔账:一个规模200万台电视盒子的僵尸网络,大约能托管13.3万份模型副本,合计每秒产出8万token,算力大致相当于40块H100。
代价是时间。每一份新的90亿参数副本,需要大约28到51小时的部署时间。这种缓慢、吃带宽的扩散方式,在运营商的流量监控里会相当扎眼。
于是问题落到了一个时间点上:在运营商和设备厂商建立起联合隔离机制之前,会不会有某个300亿参数以下的模型,先一步跨过GLM-5.2那条线。这种隔离,靠任何单一网络都做不到。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.