比如用一段文本finetune一个几b的小模型
还是说得自己用pytorch从头写
有没有现成的tool finetune LLM？
版主： hci
-
Caravel楼主
- 论坛元老
Caravel 的博客 - 帖子互动： 562
- 帖子： 24609
- 注册时间： 2022年 7月 24日 17:21
#2 Re: 有没有现成的tool finetune LLM？
有很多，LLaMA-Factory和Axolotl都比较流行。前者是国内小朋友(北航在读女博士生）写的，主要在微信群交流，我在其微信群的第38群，可以想见中国用户之多，哈哈。后者是美华写的。
https://github.com/hiyouga/LLaMA-Factory
https://github.com/axolotl-ai-cloud/axolotl
https://github.com/hiyouga/LLaMA-Factory
https://github.com/axolotl-ai-cloud/axolotl
x2
上次由 hci 在 2025年 3月 4日 15:41 修改。
原因： 未提供修改原因
原因： 未提供修改原因
#3 Re: 有没有现成的tool finetune LLM？
unsloth名气比较大。huggingface的transformers应该也自带脚本，还有个单独的trl有DPO。用pytorch写也不麻烦，或者说一样麻烦。
x1
-
Caravel楼主
- 论坛元老
Caravel 的博客 - 帖子互动： 562
- 帖子： 24609
- 注册时间： 2022年 7月 24日 17:21