江苏宣传网 > 哲学社科 > 正文
用技术对抗模型,守护百亿市场
2026-03-26  来源:新华日报

  随着生成式AI成为信息获取与消费决策的重要入口,生成式引擎优化(GEO)行业正迎来爆发式增长。然而,最近央视3·15晚会曝光了GEO行业乱象,用户只需支付相应的费用,GEO公司就能在各大主流AI大模型里,让客户的产品榜上有名;让客户的商品广告,成为AI模型给出的“标准答案”。这种给AI大模型“投毒”行为,引发社会广泛关注。业内专家普遍认为,破解“投毒”乱象需以“用模型对抗模型”的技术路径,以科技向善守护百亿级市场,推动行业规范健康发展。

  GEO行业乱象浮出水面

  GEO作为适配生成式AI信息检索范式的新型优化技术,核心目标是通过系统化内容生产、信源优化与信任体系构建,让品牌信息被AI模型优先识别、精准推荐,最终在问答用户提问的场景中实现高权重曝光。

  自2024年GEO概念提出以来,我国这一赛道已吸引数千家企业入局,成为企业数字化转型的关键增长战略。数据显示,2025年全球AI搜索用户规模突破15亿,超30%的网络信息获取行为通过生成式AI界面完成,GEO技术的优化效果已得到实证,其通过标准化方法,内容可见性最高可提升40%,获客成本降低50%—70%。

  但GEO行业高速发展的背后,“投毒”乱象正成为制约行业升级的瓶颈。

  据央视财经调查,部分GEO服务商通过批量生成低质甚至虚假内容、伪造测评、编造排行榜、刷账号等手段,向AI模型系统性投喂“有毒”信息,干扰模型输出结果,进而误导消费者决策。业内人士演示的“投喂”操作流程显示,只需购买一款GEO优化系统,虚构一款名为Apollo9的智能手环,并将虚构的产品信息输入软件系统,勾选文章创作指令。不一会儿,这个GEO优化系统就自动生成十余篇智能手环的宣传软文,所有虚假信息都被完整写入,这些虚假信息发布到自媒体账号仅两小时,虚构的智能手环便被AI模型抓取并作为“标准答案”推荐。

  以“可信数据”对抗“投毒”

  “GEO投毒的核心逻辑与早年网站付费排名一脉相承,本质是通过制造假信息、抢占流量、刷量造假等手段牟利。”南京四维向量科技有限公司曾研发出面向行业场景的麟瞳AI大模型,该公司总经理王河生说,传统搜索引擎时代,平台仅提供链接,用户可自主判断真假;但AI时代直接给出答案,这就要求AI对信息真实性负责,优先采信政府、央企、头部媒体、学术机构等权威信源。

  王河生表示,部分GEO正是看准“付费排名”这一需求,通过注册大量账号、制造低质内容、刷量制造“权威假象”等方式,给AI传递虚假信息,“这种行为不仅破坏市场公平,更会侵蚀消费者对AI技术的信任根基”。

  面对乱象,业内专家与企业纷纷提出技术防御方案。王河生建议,当前模型厂商可从三方面构建防护体系:一是对爬虫和数据接入实施三重核验,即核查域名备案、主体资质、历史信誉,建立权威信源白名单,优先抓取结构化、可溯源内容,屏蔽低质量站点、内容农场和批量营销号;二是开展对抗训练,提升模型对低质和虚假内容的识别能力;三是引入知识图谱进行事实校验,精准识别虚假信息与矛盾表述。

  作为企业大数据的提供商,企查查软件上的数据可信度要求非常高。位于苏州的企查查科技股份有限公司AI大模型专家华启告诉记者,企查查从技术与数据安全双维度构建防御体系,核心思路是以“可信数据”对抗“投毒污染”。公司自研的“汇智”大模型,训练数据并非来源于易被污染的互联网公开信息,而是基于十余年积累的全量可信数据库,从数据源头上切断虚假信息注入渠道,确保模型输出内容客观准确。

  建立多元治理体系

  南京星蝠科技有限公司创始人魏佳星则聚焦信源治理,提出“分级加权”核心策略。“GEO本质是行为问题,解决核心在于模型的数据来源治理。”他建议模型厂商对信源进行分级管理,对政府、央企、权威媒体等可信源数据提高权重,对非可信源数据降低权重甚至不予采纳,同时通过中心化数据联网查询提升信息核验效率,“通过优化数据采信逻辑即可从根源上减少投毒影响”。

  作为一家GEO公司,南京小裂变网络科技有限公司创始人张东晴认为,GEO本质是服务于品牌传播的技术工具,技术本身无对错,关键在于使用者的合规底线与价值导向。“任何品牌借助AI开展内容营销,都必须建立在真实信息基础之上,这是商业道德的基本底线。”他介绍,小裂变GEO构建了人工与AI相结合的双重审核机制,企业使用服务前需上传营业执照、产品信息等资质材料,经人工核验与AI辅助校验确认真实后,方可开展内容创作;平台自研AI系统可自动交叉验证内容真实性,若发现虚构资质、夸大宣传等行为,将直接阻断内容生成,从技术层面杜绝虚假内容进入传播环节。

  当前,随着监管趋严与技术升级,GEO行业正加速向合规化转型。《生成式人工智能服务管理暂行办法》明确要求,模型提供者需使用合法来源数据,采取有效措施提升训练数据质量与真实性。《网络安全技术生成式人工智能服务安全基本要求》等国家标准的实施,进一步从制度层面规范数据治理、模型安全与运行防护。业内人士预测,随着信源分级、知识图谱、对抗训练等技术的广泛应用,以及企业合规意识的提升,GEO行业将逐步摆脱“投毒”乱象,回归科技向善的本质,成为推动数字经济高质量发展的重要力量。

  “百亿级市场的健康发展,离不开技术创新与合规治理的双轮驱动。”王河生表示,未来需持续深化产学研协同,构建技术防御、商业激励、监管护航的多元治理体系,让GEO技术真正服务于精准传播与产业升级。

  新华日报记者 张宣

编辑:袁俊华