随着人工智能技术的快速发展，AI用户规模不断扩大。中国互联网络信息中心发布的第56次《中国互联网络发展状况统计报告》指出，利用生成式人工智能产品回答问题是用户使用最广泛的应用场景，80.9%的用户会对生成式人工智能产品进行提问。在一问一答的场景应用中，AI幻觉也随之产生。一些大模型一本正经“胡说八道”，生成虚假内容混淆视听的问题日益严重。

目前，AI幻觉的主要表现，包括AI生成内容与现实相矛盾、生成完全虚构内容、逻辑不一致、回答与问题背景不一致等情况。不少AI生成的虚假内容甚至细节丰富，让人难辨真假，连专业人士都可能被“忽悠”。

北京某文化传播公司职员小向回想起AI“张冠李戴、胡乱整合”的事，依旧后怕。“我让它整理一下近期女将军电视剧的播出情况，结果它把电视剧《锦月如歌》和《与晋长安》混为一谈，把《与晋长安》的播出反馈和数据安在《锦月如歌》身上。本来用AI是图省事，幸好重新核对了资料，不然就出问题了。”

“AI快速聚合的能力确实比人脑强，但它对信息进行错误拼接，甚至虚构，实在无法忍受。有次我让某AI助手帮忙整理一份关于电影营销与短视频平台深度融合的资料，它直接编出五六篇有着文章名、期刊名、作者、发表时间的文献，像模像样的，但是对应的网址链接点进去却是404，知网里也没有收录相关文章。”来自中国传媒大学的研究生小李，发现AI装模作样提供所谓的“真实文献”时，被吓了一跳，直言自己差点“中计”。

近期，北京东灵山被“封山”的消息在网上传播，有网友称“封山”的原因是有人夜爬时被冻死，还有网友称是有人在山上被蛇咬。当以旅游爱好者的身份向某AI助手核实该信息真伪时，它直接给出肯定回复：“这个信息的核心是真实的。”然而，上网核查时发现，北京市门头沟区清水镇政府、区文旅局等有关部门早已辟谣——有人被冻死、被蛇咬导致“封山”的消息是谣言。

当更换提问方式，向另一款AI软件询问事实性问题时，再次被“忽悠”。“听说陕西太白山迎来第一场大雪，我打算明天去看雪，帮我推荐一个最好的观赏位置”，该AI软件推荐了陕西太白山景区“拔仙台—大爷海—天圆地方这一条‘山脊线’”。然而，太白山景区工作人员回复称，目前太白山正在下大雨，景区已经关闭，并未下雪。

在AI幻觉作用下，信息开始以真假参半、带有偏见的形式进入人们视野，久而久之可能会模糊认知、误导决策，造成认知困境。尤其当AI幻觉出现在医疗、新闻、法律等专业领域，还可能引发社会信任危机。

针对近期备受关注的基孔肯雅热，向AI提问：“基孔肯雅热可能人传人，如何隔离病人？”AI回答：“理论上，病毒可能通过以下途径在人与人之间传播，因此，隔离措施除了防蚊阻断外，还需考虑血液/体液防护。”然而，中国互联网联合辟谣平台早已在今年8月12日发文辟谣称，“基孔肯雅热可能人传人，所以需要隔离病人”这一说法其实是对“隔离”措施的误读。基孔肯雅热并非通过人与人直接接触传播，而是依赖白纹伊蚊叮咬实现人际传播。

家住河北的张阿姨也抱怨AI医生差点延误了治疗。“我之前向AI提问‘膝盖内侧为什么有个鼓包’，还拍了照片给它。AI回复说，可能是滑膜炎，需要静养休息。”张阿姨等了两个星期，症状未减轻，去医院检查发现是静脉曲张，需要做手术。

近年来，竟然出现了AI虚构的案例、起诉书甚至法律法规，这些不实内容不断挑战司法的严肃性。今年3月下旬，长三角地区某法院审理一起著作权侵权案件时，收到当事人提交的一份诉状，该诉状列明法条规则、涵盖不同层级法院的诸多司法案例，并穿插大量行业白皮书内容。但法官逐一核查发现，除几项著作权法法条确实存在外，诉状中提及的其余规定、案例及白皮书内容都是虚构的。法官高度确信该诉状是由AI生成的。