直击WAIC | 中国工程院院士郑南宁：幻觉成为制约大模型可靠性与实用性的关键问题之一

有鱼爱电影 2025-07-26 15:50 2 浏览 0 评论

专题：2025世界人工智能大会

　　新浪科技讯 7月26日下午消息，2025世界人工智能大会（WAIC 2025）于7月26-28日在上海举办，大会以“智能时代同球共济”为主题，汇聚全球专家、政企代表等，共话AI发展新机会。

　　中国工程院院士、人机混合增强智能全国重点实验室主任郑南宁表示，“模型驱动智能的基本技术形态，一是深度学习-端到端训练机制，二是大参数与大模型的规模增长；三是基础模型作为平台生态。”

　　他提到，大模型目前仍在着困境，在模型能力不断扩展同时，其“幻觉”现象已成为制约其可靠性与实用性的关键问题之一。所谓幻觉，即在缺乏事实支撑或逻辑校验的情况下，生成出语义连贯但事实错误或虚构的信息。幻觉不仅体现在细节性误报，更可能在多轮对话、复杂任务规划中造成系统性误导。

　　至于幻觉的成因，他具体解释，“在于当前大模型仍以统计相关性驱动语言生成，缺乏对世界知识的结构化表征与因果推理能力，无法对生成内容进行验证、纠错或自我否定，难以实现真正的认知跃迁。”（闫妍）

　　新浪声明：所有会议实录均为现场速记整理，未经演讲者审阅，新浪网登载此文出于传递更多信息之目的，并不意味着赞同其观点或证实其描述。

相关推荐