↓ 跳过正文
  1. 运维分享/

老至强也能自动调 vLLM 了:英特尔这步棋,让 CPU 服务器重新摸到了推理的牌桌

2 分钟· loading · ·
作者
清幽
分享自托管、副业、被动收入的实战经验

这两天的基础设施圈不太平静:芯片厂商想把 AI 推理从 GPU 手里拉回 CPU 阵营,Epic 为 Linux 重写反作弊内核,IBM 在 3D 晶体管量产上再进一步。对运维和 DevOps 从业者来说,这些底层变化比消费级新品更值得盯紧。

1. 英特尔面向四至六代至强推出推理微服务,自动检测硬件并配置 vLLM 参数——这可能是今天对运维最有价值的一条。无需人工调优量化精度、上下文长度等参数,在存量 CPU 服务器池上就能跑起 LLM 推理,没有 GPU 预算的中小团队也能快速把 PoC 搭起来。原文链接

2. 《堡垒之夜》确认将登陆 Linux,EAC 反作弊系统正在重构——反作弊一直是 Linux 桌面生态最大的短板,Epic 重构 EAC 意味着内核级兼容性在松动。对平台工程的启示是:内核模块、eBPF、LSM 这些底层的演进,会直接影响你们容器安全方案的选型。原文链接

3. IBM 与西门子合作推进纳米堆叠架构,加速 3D 晶体管量产进程——3D 堆叠量产意味着同等机房占地面积能塞进更高的算力密度,但供电和散热压力也会同步放大。还躺在风冷舒适区里的团队,是时候认真评估液冷改造的时间表了。原文链接

4. Netflix 宣布 2022 年以来最大一轮裁员,全球约 6%、约 1000 个岗位——流媒体巨头在内容成本与 AI 基建投入之间做取舍,而降本压力往往最先传导到基础设施团队。这也再次提醒我们:FinOps、资源右-sizing、成本可视化正在从加分项变成运维的生存技能。原文链接

5. PS5 越狱商店 Overdrive 被索尼勒令关停后,克隆版本数小时内重新上线——一场教科书式的"单点打击 vs 分布式韧性"对抗。企业安全团队值得借鉴:面对去中心化的对手,封禁一个域名毫无意义,持续监控加快速响应才是正解。原文链接

6. 英特尔酷睿 5 205H 首次现身 PassMark,多核 19390 分较 i5-13420H 提升 15.7%——中端移动平台性能稳步上探,8 核 12 线程已经足够跑轻量 CI Runner 和边缘节点。下次采购开发机和自建 Runner 时,预算还可以再压一压。原文链接

7. 消息称 Steam Frame OLED 头显正在开发,单眼原生分辨率 3552×3840——XR 设备分辨率狂飙的背后,是对串流带宽、边缘渲染算力和低延迟网络的巨大需求。做 CDN 和网络优化的团队,不妨提前研究这波流量会从哪里冒出来。原文链接

当推理负载开始回流 CPU、反作弊开始拥抱 Linux、晶体管开始向上盖楼,运维人的技能清单上,“跨栈调优"正在从加分项变成必选项。

相关文章