首页/Blog/大模型推理优化:量化、蒸馏与投机解码
技术深度#推理优化#量化

大模型推理优化:量化、蒸馏与投机解码

2026年2月14日

系统介绍大模型推理优化技术,包括 INT4/INT8 量化、知识蒸馏和投机解码,帮助降低推理成本。

推理优化技术详情...