AGI Hunt· bneyshabur·· 2 小时前AI 评分40
Mirendil 发布首个自研模型 Fern,上下文窗口达 1000 万 token
AI 导读
Mirendil 发布首个完全从头预训练的模型 Fern(0.1 版),上下文窗口最高达 1000 万 token。该模型由前 Google 研究员 Behnam Neyshabur 团队打造,可一次性完整容纳约 23MB、50 万行代码(Megatron-LM 量级)。Fern 定位服务 AI 从业者的高强度 agent 工作,包括审计训练数据、从日志中调试训练过程等。
来源:AGI Hunt · agihunt.info