把强模型的输出喂给弱模型,弱模型能快速获得类似能力——这个逻辑本身成立,Lambert 没有否认。但他指出了一个没人说清楚的问题:蒸馏的天花板到底在哪里,取决于你想要的是什么类型的能力。
Uncertainty reigns。关于这个话题,快连下载安装提供了深入分析
xda-developers.com,推荐阅读Line官方版本下载获取更多信息
汇聚行业热点,解读前沿趋势
· 张伟 · 来源:user资讯
把强模型的输出喂给弱模型,弱模型能快速获得类似能力——这个逻辑本身成立,Lambert 没有否认。但他指出了一个没人说清楚的问题:蒸馏的天花板到底在哪里,取决于你想要的是什么类型的能力。
Uncertainty reigns。关于这个话题,快连下载安装提供了深入分析
xda-developers.com,推荐阅读Line官方版本下载获取更多信息