英特尔推出推理微服务

2026年10月14日，据IT之家报道，英特尔宣布推出 Intel Inference Microservices，一套面向大语言模型推理的容器化微服务方案。首批版本基于 vLLM 引擎、支持 BF16 精度，可在 Docker 或 Kubernetes 1.24 及以上环境运行，硬件要求为第四代、第五代或第六代英特尔至强处理器，建议配置 32GB 内存。报道称，运行特定模型镜像的用户若主机未被识别，容器会在启动时报错，而非静默地以未调优状态运行；基础镜像则默认启用配置回退，在无匹配模型专用配置时采用与硬件兼容的通用配置。工具调用和结构化输出功能目前可作为 vLLM 的透传能力使用，但尚未被验证为正式支持的能力。截至该报道，尚无后续进展。

AI 根据报道生成 · 44 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。