其他2026年6月13日 05:27
Google研究人员提出“忠实不确定性”，让大语言模型提供最佳猜测而非幻觉
摘要
Google研究人员在一篇新论文中提出“忠实不确定性”概念，这是一种元认知技术，使模型能够根据内部置信度调整回答，例如说“我的最佳猜测是”，而非默认“回答或放弃”的二元选择。该方法帮助AI系统在自主应用中准确判断何时内部知识足够，何时需要触发外部工具或搜索API来弥补不足。当前缓解幻觉的策略通常通过扩大模型知识边界，但这并不自动提升边界意识，即区分已知与未知的能力。
为什么值得关注
该研究直接针对大语言模型幻觉这一关键问题，提出了一种提升模型可靠性的新方法，对AI在真实企业应用中的部署具有重要意义。
来源链接
⚠ 本站内容来自官方与权威媒体等公开来源，经 AI 辅助整理后自动发布，仅供信息参考，不构成任何投资建议。