AGI Hunt· CatAstro_Piyush·· 3 小时前AI 评分61
在 16GB GPU 上微调 Qwen3-1.7B,让模型写不出字母 e
在 16GB GPU 上微调 Qwen3-1.7B,让模型写不出字母 e
AI 导读
Kevin Wu 在 16GB GPU 上对 Qwen3-1.7B 做强化学习微调,让模型回答日常问题时全程不使用字母 e。他指出难点在于模型以 token 而非字符读取文本,直接把 e 对应的 token mask 掉会让输出变成乱码,而 RL 训练能让模型连贯地绕开这个字母。作者公开了完整 writeup 和代码,微调后的模型写诗、答冷笑话都能保持语义连贯且全篇无 e。
来源:AGI Hunt · agihunt.info