#陈丹琦团队新作# Less is more.造大模型的成本,又被打下来了!
这次是数据量狂砍95%的那种。
陈丹琦团队最新提出大模型降本大法——
数据选择算法LESS, 只筛选出与任务最相关5%数据来进行指令微调,效果比用整个数据集还要好。
指令微调正是让基础模型成为类ChatGPT助手模型的关键一步。
这样一来,让大模型术业有专攻,也就更便宜高效了。
更关键的是,所选的训练数据还具备可迁移性,只要针对特定任务,在其他大模型以及各种类型的模型上同样适用。
快来瞅瞅这篇新鲜出炉的论文到底说了什么?https://t.cn/A6YtEgu3
这次是数据量狂砍95%的那种。
陈丹琦团队最新提出大模型降本大法——
数据选择算法LESS, 只筛选出与任务最相关5%数据来进行指令微调,效果比用整个数据集还要好。
指令微调正是让基础模型成为类ChatGPT助手模型的关键一步。
这样一来,让大模型术业有专攻,也就更便宜高效了。
更关键的是,所选的训练数据还具备可迁移性,只要针对特定任务,在其他大模型以及各种类型的模型上同样适用。
快来瞅瞅这篇新鲜出炉的论文到底说了什么?https://t.cn/A6YtEgu3
如果,你正在给自己挖坑;就不要挖得太快....
- Elon Musk 解释五步工作法(The 5 Step Process)
If you’re digging your grave, don’t dig it faster, stop digging your grave.
1. 验证需求(Make requirements less dumb):确认需求真实存在,并且可行。
2. 删减(Delete unnecessary steps and processes):删减流程,只保留最重要的部分。
3. 简化和优化(Simplify and Optimize):不断改进和优化流程,提高效率。
4. 加速迭代(Accelerate Cycle Time):快速尝试和调整,以便更快地获得结果。
5. 自动化(Automate):用机器或软件替代人工,提高生产效率。
- Elon Musk 解释五步工作法(The 5 Step Process)
If you’re digging your grave, don’t dig it faster, stop digging your grave.
1. 验证需求(Make requirements less dumb):确认需求真实存在,并且可行。
2. 删减(Delete unnecessary steps and processes):删减流程,只保留最重要的部分。
3. 简化和优化(Simplify and Optimize):不断改进和优化流程,提高效率。
4. 加速迭代(Accelerate Cycle Time):快速尝试和调整,以便更快地获得结果。
5. 自动化(Automate):用机器或软件替代人工,提高生产效率。
人间的饭,吃一碗少一碗,身边的人见一面少面,脚下的路走少一天,其实人生就是一道减法,来日并不方长。趁现在你我都在努力的活着的时候,能好好珍惜眼前的人,下辈子不一定遇见
Human food, eat a bowl less than a bowl, people around to see a less face, the foot of the road less than a day, in fact, life is a subtraction, the future is not long. While you and I are trying to live now, you can cherish the people in front of you, and you may not meet in the next life
Human food, eat a bowl less than a bowl, people around to see a less face, the foot of the road less than a day, in fact, life is a subtraction, the future is not long. While you and I are trying to live now, you can cherish the people in front of you, and you may not meet in the next life
✋热门推荐