
  <rss version="2.0" xmlns:atom="http://www.w3.org/2005/Atom">
    <channel>
      <title>HANS</title>
      <link>https://www.hansking.cn/blog</link>
      <description>A posts created with Next.js and Tailwind.css</description>
      <language>en-us</language>
      <managingEditor>admin@hansking.cn (HANS)</managingEditor>
      <webMaster>admin@hansking.cn (HANS)</webMaster>
      <lastBuildDate>Sat, 04 Apr 2026 10:00:00 GMT</lastBuildDate>
      <atom:link href="https://www.hansking.cn/tags/小模型/feed.xml" rel="self" type="application/rss+xml"/>
      
  <item>
    <guid>https://www.hansking.cn/blog/2026xiao-mo-xing-lu-xian-zheng-liu-jian-zhi-yu-ren-wu-zhuan-yong-mo-xing</guid>
    <title>小模型路线：蒸馏、剪枝与任务专用模型</title>
    <link>https://www.hansking.cn/blog/2026xiao-mo-xing-lu-xian-zheng-liu-jian-zhi-yu-ren-wu-zhuan-yong-mo-xing</link>
    <description>[{&quot;value&quot;:&quot;小模型路线：蒸馏、剪枝与任务专用模型&quot;,&quot;url&quot;:&quot;#小模型路线蒸馏剪枝与任务专用模型&quot;,&quot;depth&quot;:1},{&quot;value&quot;:&quot;一、先判断：你到底需要一个什么模型&quot;,&quot;url&quot;:&quot;#一先判断你到底需要一个什么模型&quot;,&quot;depth&quot;:2},{&quot;value&quot;:&quot;二、四条常见的小模型路线&quot;,&quot;url&quot;:&quot;#二四条常见的小模型路线&quot;,&quot;depth&quot;:2},{&quot;value&quot;:&quot;1. 量化：先减少每个参数占多少空间&quot;,&quot;url&quot;:&quot;#1-量化先减少每个参数占多少空间&quot;,&quot;depth&quot;:3},{&quot;value&quot;:&quot;2. 剪枝：删除不重要的结构&quot;,&quot;url&quot;:&quot;#2-剪枝删除不重要的结构&quot;,&quot;depth&quot;:3},{&quot;value&quot;:&quot;3. 知识蒸馏：让学生学习老师的行为&quot;,&quot;url&quot;:&quot;#3-知识蒸馏让学生学习老师的行为&quot;,&quot;depth&quot;:3},{&quot;value&quot;:&quot;4. 任务专用微调：只学真正需要的能力&quot;,&quot;url&quot;:&quot;#4-任务专用微调只学真正需要的能力&quot;,&quot;depth&quot;:3},{&quot;value&quot;:&quot;三、蒸馏数据怎么做才不把错误放大&quot;,&quot;url&quot;:&quot;#三蒸馏数据怎么做才不把错误放大&quot;,&quot;depth&quot;:2},{&quot;value&quot;:&quot;四、评测不能只看平均准确率&quot;,&quot;url&quot;:&quot;#四评测不能只看平均准确率&quot;,&quot;depth&quot;:2},{&quot;value&quot;:&quot;五、路由比二选一更现实&quot;,&quot;url&quot;:&quot;#五路由比二选一更现实&quot;,&quot;depth&quot;:2},{&quot;value&quot;:&quot;六、部署时别忘了真实硬件&quot;,&quot;url&quot;:&quot;#六部署时别忘了真实硬件&quot;,&quot;depth&quot;:2},{&quot;value&quot;:&quot;总结：小模型不是妥协，而是边界清楚&quot;,&quot;url&quot;:&quot;#总结小模型不是妥协而是边界清楚&quot;,&quot;depth&quot;:2}]</description>
    <pubDate>Sat, 04 Apr 2026 10:00:00 GMT</pubDate>
    <author>admin@hansking.cn (HANS)</author>
    <category>AI</category><category>LLM</category><category>小模型</category><category>模型压缩</category><category>部署优化</category>
  </item>

    </channel>
  </rss>
