“GPU泡沫”争论：推理优化、算力瓶颈与AI基础设施的真实成本
从GPU利用率、CUDA优化到推理延迟分析，探讨AI系统性能优化是否正在掩盖真正的算力结构性问题。
标签: Inference
5 篇文章
DeepSeek DSpark：推理加速的“投机解码”到底把LLM榨干了多少性能？
围绕DSpark论文与投机解码技术，解析大模型推理加速的新一轮工程优化思路与开源实现进展。
本地 AI 正在逼近拐点：从苹果 M7 到 LLM 成本危机
结合苹果 AI 芯片路线、内存成本上涨与大模型推理成本，探讨本地运行 LLM 是否将成为未来几年的关键趋势。
OpenAI自研AI芯片曝光：推理算力战争进入硬件时代？
OpenAI联合Broadcom推出自研AI芯片，标志着大模型公司开始向底层硬件延伸，加速推理算力的垂直整合。
GLM-5.2引发的效率争议：更强但更“慢”的前沿大模型
围绕GLM-5.2在接近前沿能力的同时出现推理耗时与token成本过高的问题，讨论大模型性能与效率之间的新矛盾。