当前位置:首页|资讯|GPT-4|谷歌

GPT-4可能也在用的推测解码是什么?一文综述前世今生和应用情况

作者:机器之心发布时间:2024-02-20

推测解码(Speculative Decoding)是谷歌等机构在 2022 年发现的大模型推理加速方法。它可以在不损失生成效果前提下,获得 3 倍以上的加速比。...【查看原文】


Copyright © 2025 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1