AGI Hunt· patpat_mit·· 4 小时前AI 评分37
MIT 团队推出透明化界面,设计聊天机器人人格时暴露模型内部状态
MIT 团队推出透明化界面,设计聊天机器人人格时暴露模型内部状态
AI 导读
MIT 网络心理研究团队(cyborgpsych)发布「神经透明化」接口,在用户设计聊天机器人人格时直接暴露语言模型内部状态,让人看到人格设定如何映射到模型内部表征与行为。该团队认为给 bot 定制人格通常是黑盒操作,这一界面把模型内部机制可视化,帮助研究者和设计者理解并审查人格设计对模型输出的影响。
来源:AGI Hunt · agihunt.info