全国人大代表刘庆峰：大模型生成“AI幻觉数据”，应定期清理
0次浏览
发布时间：2025-03-04 22:27:00
十四届全国人大三次会议将于3月5日在北京召开。3月4日，记者从全国人大代表、科大讯飞董事长刘庆峰处获悉，他拟提交一份《预防大模型生成“幻觉数据”充斥互联网带来的危害，从技术研发和管理机制上构建可信的信息环境》的建议。
全国人大代表、科大讯飞董事长刘庆峰
刘庆峰提到，中国互联网络信息中心（CNNIC）发布的《生成式人工智能应用发展报告（2024）》显示，我国生成式人工智能产品的用户规模已达2.49亿人。生成式人工智能存在幻觉，特别是深度推理模型的逻辑自洽性提升，使得AI生成内容真假难辨。带有算法偏差的虚假信息会被新一代AI系统循环学习，形成恶性循环，影响公众信任和社会稳定。
刘庆峰建议，应构建安全可信数据标签体系，提升内容可靠性。通过建立安全可信、动态更新的信源和数据知识库，对不同类型数据的可信度和危害程度建立标签体系，降低人工智能幻觉出现概率，提升生成内容可靠性。另一方面，要研发AIGC幻觉治理技术和平台，定期清理幻觉数据。通过研究幻觉自动分析的技术和软件平台，开展幻觉自动分析、AIGC深度鉴伪、虚假信息检测、有害内容识别以及互联网传播溯源，由相关部门定期清理幻觉数据，为公众提供AIGC幻觉信息检测工具与服务。
据悉，AI幻觉是指人工智能系统（自然语言处理模型）生成的内容与真实数据不符，或偏离用户指令的现象。
全国政协委员、360集团创始人周鸿祎近日接受媒体采访时也曾谈过对该问题的看法，周鸿祎同样提到，企业应用相关技术时，要连接企业专有的知识库，去进行校正。
红星新闻记者 付垚 刘亚洲
编辑 杨珒 责编 魏孔明
-
多家互联网银行上线大额存单“排队”
21世纪经济报道记者 黄子潇 深圳报道多轮降息后，国有大行、股份制银行的大额存单年利率已进入“1”字头。多家银行下架了三年期以上大额存单，且定存利率出现长短期“倒挂”。目前，2%以上的大额存单仅在地区性银行、互联网银行中偶尔见到。近日，21世纪经济报道记者注意到，虽然一些互联网银行发售利率高于传统银2025-09-12 21:40:00 -
人工智能拓展服务消费新场景
日前，国务院印发了《关于深入实施“人工智能+”行动的意见》，将“人工智能+”消费提质作为一项重点行动进行部署，明确多项举措拓展服务消费新场景。近年来，服务消费作用愈加凸显。根据国家统计局发布的数据，2024年我国服务业增加值占国内生产总值比重为56.7%，对国民经济增长的贡献率达56.2%。然而，服2025-09-12 07:19:00 -
携手深耕 共绘未来——2025全球工业互联网大会成果扫描
上线启动、落笔签约、重磅发布……一个个激动人心的时刻，在2025全球工业互联网大会上不断涌现。4天的会期里，成果交流活动、创新发展大会、高质量发展论坛等活动亮点纷呈，工业高质量数据集、东北亚具身智能创新中心、三省一区工业软件创新联盟、辽宁省钢铁供应链平台等一系列应用启动或发布。“东北亚具身智能创新中2025-09-10 07:09:00 -
协同发展谱新篇丨雄安新区中关村科技园：当好京津冀产业协同“纽带”，激活区域发展新势能
冀时客户端报道 9月8日至9月10日，由中共河北省委网信办、中共北京市委网信办、中共天津市委网信办联合主办的“协同发展谱新篇”网络主题宣传活动正式启动。9月8日，记者走进雄安新区中关村科技园。园区位于雄安新区容东片区华望城南部地块，一期二期合计总面积约14万平方米。以人工智能、数字科技、生物技术、低2025-09-09 17:46:00 -
山东推出中小学人工智能教育“十大行动”，力求未来3-5年实现五大突破
日前，山东省教育厅等6部门印发《中小学人工智能教育“十大行动”的实施意见》，聚焦基础教育阶段，对高质量推进人工智能教育作出系统部署。省教育厅有关负责人进行了解读。为何要专门推出中小学人工智能教育“十大行动”？省教育厅有关负责人表示，山东省推出中小学人工智能教育“十大行动”是应对人工智能时代教育变革的2025-09-04 12:06:00 -
北疆文化巾帼行｜8月31日，心若晴，人生无雨天
设计：刘海林编辑：王娇审核：闫丽芳声明：原创内容特别说明外，推送稿件文字及图片和音视频均来源于网络及各大主流媒体。版权归原作者所有，如认为内容侵权，请在文章下方留言联系我们删除或支付稿费。2025-08-31 08:41:00 -
【百家民企说】软通动力夏杰：未来企业或成为能自我进化的生命体
中新经纬8月29日电 (谢婧雯 常涛)“不再仅靠人的经验运营决策，而是一个能够自主感知、决策、执行并实现自我进化的生命体。”2025数博会期间，软通动力高级副总裁夏杰在接受中新经纬专访时，描绘了他对未来智慧企业形态的畅想。软通动力夏杰 受访者供图“数聚”是“智启”的基础公开资料显示，软通动力20052025-08-29 11:49:00 -
国家发展改革委：深入实施“人工智能+” 坚决避免无序竞争和一拥而上
北京商报讯（记者 金朝力 程靓）8月29日，国家发展改革委高技术司副司长张铠麟在新闻发布会上表示，围绕《关于深入实施“人工智能+”行动的意见》，国家发展改革委将进一步加大统筹，与各方一起共同努力，形成合力。在实施行动过程中，将推动各地立足区位特点、资源禀赋和产业基础，科学确定发展重点，形成各具特色、2025-08-29 11:32:00
