全国人大代表刘庆峰：大模型生成“AI幻觉数据”，应定期清理
0次浏览
发布时间：2025-03-04 22:27:00
十四届全国人大三次会议将于3月5日在北京召开。3月4日，记者从全国人大代表、科大讯飞董事长刘庆峰处获悉，他拟提交一份《预防大模型生成“幻觉数据”充斥互联网带来的危害，从技术研发和管理机制上构建可信的信息环境》的建议。
全国人大代表、科大讯飞董事长刘庆峰
刘庆峰提到，中国互联网络信息中心（CNNIC）发布的《生成式人工智能应用发展报告（2024）》显示，我国生成式人工智能产品的用户规模已达2.49亿人。生成式人工智能存在幻觉，特别是深度推理模型的逻辑自洽性提升，使得AI生成内容真假难辨。带有算法偏差的虚假信息会被新一代AI系统循环学习，形成恶性循环，影响公众信任和社会稳定。
刘庆峰建议，应构建安全可信数据标签体系，提升内容可靠性。通过建立安全可信、动态更新的信源和数据知识库，对不同类型数据的可信度和危害程度建立标签体系，降低人工智能幻觉出现概率，提升生成内容可靠性。另一方面，要研发AIGC幻觉治理技术和平台，定期清理幻觉数据。通过研究幻觉自动分析的技术和软件平台，开展幻觉自动分析、AIGC深度鉴伪、虚假信息检测、有害内容识别以及互联网传播溯源，由相关部门定期清理幻觉数据，为公众提供AIGC幻觉信息检测工具与服务。
据悉，AI幻觉是指人工智能系统（自然语言处理模型）生成的内容与真实数据不符，或偏离用户指令的现象。
全国政协委员、360集团创始人周鸿祎近日接受媒体采访时也曾谈过对该问题的看法，周鸿祎同样提到，企业应用相关技术时，要连接企业专有的知识库，去进行校正。
红星新闻记者 付垚 刘亚洲
编辑 杨珒 责编 魏孔明
-
西电连续三次入选教育部“人工智能+高等教育”应用场景典型案例
阳光讯（记者 郑亚雷 通讯员 王文涛 杨帆）近日，教育部公布第三批30个“人工智能+高等教育”应用场景典型案例遴选结果。西安电子科技大学《“西电智评”——数智赋能学生评价的探索与实践》案例成功入选，并在国家高等教育智慧教育平台面向全国宣传推广，成为推动人工智能与教育深度融合的示范性成果。案例围绕近年2025-10-12 17:13:00 -
假期“租”出新花样，共享消费升温
“今年的中秋、国庆假期，我们全家要去内蒙古自驾游。为了记录秋色，我已经提前租好了无人机和运动相机。8天假期只需花几百元，就能尝试这些产品的拍摄效果，还可以让孩子们体验新科技，很划算。”在北京工作的陈女士向中国证券报记者表示。从自驾线路上的越野车，到旅行期间的录像设备，以“租”为核心的共享消费在中秋、2025-10-03 11:55:00 -
特朗普决定出席美军全球高级将领集会；泽连斯基称乌多地遭大规模空袭
编辑 | 格蕾丝本周外盘看点上周国际市场风云变幻，美联储主席鲍威尔重申通胀就业双向风险，但警告股市估值问题。市场方面，美股小幅下跌，道指周跌0.15%，纳指周跌0.51%，标普500指数周跌0.31%。欧洲三大股指走高，英国富时100指数周涨0.74%，德国DAX30指数周涨0.42%，法国CAC42025-09-29 10:43:00 -
多家互联网银行上线大额存单“排队”
21世纪经济报道记者 黄子潇 深圳报道多轮降息后，国有大行、股份制银行的大额存单年利率已进入“1”字头。多家银行下架了三年期以上大额存单，且定存利率出现长短期“倒挂”。目前，2%以上的大额存单仅在地区性银行、互联网银行中偶尔见到。近日，21世纪经济报道记者注意到，虽然一些互联网银行发售利率高于传统银2025-09-12 21:40:00 -
人工智能拓展服务消费新场景
日前，国务院印发了《关于深入实施“人工智能+”行动的意见》，将“人工智能+”消费提质作为一项重点行动进行部署，明确多项举措拓展服务消费新场景。近年来，服务消费作用愈加凸显。根据国家统计局发布的数据，2024年我国服务业增加值占国内生产总值比重为56.7%，对国民经济增长的贡献率达56.2%。然而，服2025-09-12 07:19:00 -
携手深耕 共绘未来——2025全球工业互联网大会成果扫描
上线启动、落笔签约、重磅发布……一个个激动人心的时刻，在2025全球工业互联网大会上不断涌现。4天的会期里，成果交流活动、创新发展大会、高质量发展论坛等活动亮点纷呈，工业高质量数据集、东北亚具身智能创新中心、三省一区工业软件创新联盟、辽宁省钢铁供应链平台等一系列应用启动或发布。“东北亚具身智能创新中2025-09-10 07:09:00 -
协同发展谱新篇丨雄安新区中关村科技园：当好京津冀产业协同“纽带”，激活区域发展新势能
冀时客户端报道 9月8日至9月10日，由中共河北省委网信办、中共北京市委网信办、中共天津市委网信办联合主办的“协同发展谱新篇”网络主题宣传活动正式启动。9月8日，记者走进雄安新区中关村科技园。园区位于雄安新区容东片区华望城南部地块，一期二期合计总面积约14万平方米。以人工智能、数字科技、生物技术、低2025-09-09 17:46:00 -
山东推出中小学人工智能教育“十大行动”，力求未来3-5年实现五大突破
日前，山东省教育厅等6部门印发《中小学人工智能教育“十大行动”的实施意见》，聚焦基础教育阶段，对高质量推进人工智能教育作出系统部署。省教育厅有关负责人进行了解读。为何要专门推出中小学人工智能教育“十大行动”？省教育厅有关负责人表示，山东省推出中小学人工智能教育“十大行动”是应对人工智能时代教育变革的2025-09-04 12:06:00
