AGI Hunt· burkov·· 2 小时前AI 评分35
Burkov:处理无人做过的新任务时,LLM 欺骗你的概率有多高
Burkov:处理无人做过的新任务,LLM 欺骗你的概率有多高
AI 导读
机器学习畅销书作者 Andriy Burkov 提出推断式观点:对 LLM 输出做错误率测算,再外推到"没有任何人类已有信息可依据"的任务场景,得到的百分比就是做前人未曾涉足的工作时被 LLM 误导的时间比例。他提醒,LLM 在有大量人类资料支撑的领域表现尚可,但在真正新颖的问题上,幻觉率意味着其输出必须高度存疑。
来源:AGI Hunt · agihunt.info