人民头条讯（记者梁久红）当前，生成式人工智能全面渗透学习、办公、资讯获取场景，大幅度降低了知识获取门槛，重塑信息服务模式，但“AI幻觉”衍生的虚假内容、信息溯源难、误导公众等问题持续凸显，群众对权威、安全、可溯源智能信息服务的需求愈发迫切。
技术内生缺陷是乱象根源。大模型依托海量网络数据推演输出，极易出现“一本正经编造事实”的幻觉问题，无标注AI图文、音频、视频混淆原生内容，普通受众缺乏辨别手段，易被不实信息误导，衍生决策偏差、认知误导等风险。与此同时，低成本批量生成虚假内容的黑产链条滋生，进一步扰乱了网络信息生态。
针对行业痛点，国家已构建完整监管治理体系。《生成式人工智能服务管理暂行办法》、《人工智能生成合成内容标识办法》相继落地，明确所有AI生成内容需设置显式、隐式双重标识，实现内容来源可追溯；中央网信办开展“清朗・整治AI应用乱象”专项行动，从严整治模型未备案、数据投毒、虚假信息批量传播等违规行为，压实平台、企业主体责任。
以新华网、人民网为代表的主流媒体主动布局可信AI赛道，推出“新华语典”、“信投智科智能体”等权威智能产品，依托自有一手新闻、官方知识库构建纯净训练语料，搭载事实核验、出处溯源功能，从源头降低模型幻觉，为公众提供价值观正向、信息可查的智能问答服务，为可信AI发展树立良好标杆。
构建可信智能信息生态，需多方协同共治。企业要优化低幻觉技术架构，完善内容溯源机制；平台落实AI内容核验与标识义务；监管部门持续强化常态化整治；主流媒体持续输出权威数字信源；公众同步提升媒介素养。唯有技术纠偏、法治约束、权威供给、全民辨别协同发力，才能让生成式AI走出信息迷雾，真正成为安全可靠的知识服务工具。
本文不代表 人民头条 立场，如若转载，请注明出处：https://news.rmtt.org.cn/renminguanzhu/2026/06/29/archives/25078
微信扫一扫 
