跳到正文
第一財經·· 2 小時前AI 評分51

釐清GEO「優化」與「投毒」的法律邊界

厘清GEO“优化”与“投毒”边界

AI 導讀

陳兵、朱家熠分析GEO正常推廣與欺騙性「投毒」的法律界線,指出既有法律可提供規制依據,難點在新型行為定性、規範銜接及責任劃分。文章區分虛假商業宣傳與以技術手段妨礙引擎運行的主張,指出前者按法定構成要件判斷,後者須證明技術幹預及其影響,不能僅憑一次生成結果認定。

正文

随着生成式人工智能日益成为公众获取信息和比较产品、服务的重要入口,企业围绕生成式引擎开展信息优化与商业推广的需求不断增加。所谓生成式引擎优化(GEO),通常旨在提高特定信息被模型检索、引用或者推荐的可能性。合理的信息优化有助于经营者展示真实信息,但编造排名、虚构评分、伪造专家测评,或者通过批量投放误导性内容影响模型回答,也可能扭曲消费者判断和市场竞争秩序。与传统搜索引擎优化相比,生成式引擎的运行机制更加复杂,信息从发布、检索到生成结果之间的链条也更难追踪。如何在鼓励正常推广与防范信息“投毒”之间划定边界,成为生成式人工智能治理中亟待回应的问题。

区分正常信息优化与欺骗性投毒

正常的GEO推广并不当然违法。企业通过发布真实、可核验的商业信息,提高自身被生成式引擎识别和推荐的机会,本质上仍是市场竞争中的信息传播活动。即使某些信息被反复发布,也不能仅凭发布频率或模型推荐结果就推定其构成违法。真正需要审查的是内容是否真实、传播方式是否正当、商业推广属性是否具有可识别性,以及相关行为是否误导消费者、损害公平竞争秩序。

“投毒”的风险不止于凭空捏造事实。有些信息单独来看并非明显虚假,但经营者可能通过选择性呈现、反复强化部分优势等方式,促使生成式引擎形成片面结论。对此,应重点考察有关行为是否构成欺骗性干预或者造成系统性误导,并结合具体行为方式及相关法律规范判断其正当性。

在法律框架下明确行为定性与适用边界

对于编造排名、评分、专家测评等典型虚假宣传行为,现行法律并非没有规制依据。《广告法》主要调整符合商业广告性质的宣传活动,对广告的真实性和虚假广告作出规范;《反不正当竞争法》则对虚假或者引人误解的商业宣传,以及利用技术手段实施的相关网络不正当竞争行为予以规制。对于属于发布虚假广告的行为,应依照《广告法》的有关规定处罚。《网络反不正当竞争暂行规定》也为识别虚假排名、虚构评价等网络竞争行为提供了规范参照。

在具体法律适用中,还需根据行为性质区分不同的违法类型。一方面,对于虚假或者引人误解的商业宣传,重点在于判断经营者所传播的信息是否符合相关法定构成要件;另一方面,若要依据网络不正当竞争规则认定利用数据、算法等技术手段妨碍、破坏其他经营者合法提供的网络产品或服务正常运行,还须证明相关技术行为符合相应要求。生成式引擎引用了错误信息,并不必然意味着平台运行遭到法律意义上的妨碍或者破坏。

当前所谓GEO“监管依据不明”,更准确地说,是既有规则面对新型技术行为时仍存在行为定性、规范衔接和责任划分的困难,而不是完全缺乏法律依据。例如,某企业通过服务商在多个内容平台批量投放单条并非明显虚假,却经过选择性组织和反复强化的商业信息,继而影响生成式引擎推荐。在这一假设情境下,如何评价整体宣传的误导性、如何识别不正当技术干预,以及如何证明投放行为与模型输出的关联,都有待结合具体证据和适用条款作出判断。

适应生成式引擎特征完善证据评价

传统搜索引擎排序与生成式引擎的信息召回、引用和推荐机制具有一定的功能相似性。传统搜索案件中关于虚假数据制造、技术干预手段、主观过错和竞争秩序影响的分析思路,可以为GEO治理提供参照。然而,生成式引擎的模型机制不透明,输出又具有概率性,相关信息从多个平台进入模型回答的路径难以完整观察,因此不能简单照搬传统搜索排序案件的事实认定方式。

证明要求首先取决于违法行为的类型。对于编造排名、评分等虚假商业宣传,只要有关行为已经符合虚假宣传的法定构成条件,并不当然还要证明人工智能已经引用相关内容,或者有消费者实际受骗。即使向模型反复提问时,有时出现相关推荐、有时没有出现,也不当然决定虚假商业宣传行为能否成立;相关输出情况则可能影响对传播效果、危害程度及处罚裁量的判断。

如果进一步主张经营者通过技术手段妨碍、破坏了生成式引擎正常运行,就需要围绕技术干预方式、实施过程及其影响收集证据。在不降低法定证明标准的前提下,证据评价应当适应概率性输出的技术特征,不能仅凭一次生成结果就认定行为效果。可以结合跨时段、多轮次测试形成的统计样本,以及异常引用记录、内容投放日志等材料,综合判断相关行为与AI回答变化之间是否存在可被证明的联系。

沿产业链分层确定各主体责任

在“商家委托—GEO服务商制作—内容平台发布—AI引用推荐”的链条中,违法风险往往涉及多个环节。责任分配可以参考模型层、数据层、行为层的分析框架,并综合考察各主体的实际控制力、获益情况、可预见性和过错。

委托商家若主动指使或者明知并放任服务商编造排名、评分、案例数据,通常应对其主导的违法推广行为承担主要责任。GEO服务商自行虚构数据,或者明知委托方要求造假仍帮助实施相关宣传,也可能独立承担相应法律责任,不能简单以提供技术服务为由免责。至于内容发布平台,则需依据其具体法律地位和实际管理能力,依法履行信息内容管理及违法信息处置义务。

生成式人工智能服务提供者既不是“引用即全责”,也不能凭借技术中立当然免责。对于其可以控制的训练数据治理、违法内容处置等环节,应落实相应法定义务;对于检索源反污染筛查、来源展示、高风险领域信源核验等机制,则可以根据服务性质和具体风险进一步完善。是否承担责任以及责任程度,仍需依据具体法律规范,结合实际控制能力、主观过错和相关损害进行判断。

法律、医疗和金融等专业领域尤应重视虚假信息的风险。以律师事务所虚构业务排名、案件数量或者满意度进行推广为例,此类行为不仅可能引发广告、反不正当竞争及律师行业规范上的责任,也可能误导当事人选择法律服务,导致额外支出或者延误维权。在信息不对称、专业信任程度较高的领域,有必要强化可量化宣传数据的真实性审查、来源核验和风险提示。

以溯源记录和持续整改提升治理效能

GEO投毒的治理不能停留在对原始虚假内容的删除。即便违法企业撤下了原始文章,第三方转载、平台缓存或者生成式引擎后续引用仍可能使错误信息继续传播。对此,应根据各主体实际控制范围分别落实整改责任:受罚企业停止违法投放并主动联系相关平台更正、删除;转载平台在依法负有处置义务时及时处理;生成式人工智能服务提供者发现违法内容后,依法采取必要处置和整改措施。

整改是否有效,也不能只凭一次AI回答或者要求错误信息在所有场景中绝对消失来判断。更合理的方式,是综合信源删除或更正情况、跨时段重复测试结果以及违法信息持续传播的程度,动态评价整改效果。对于同一虚假信息反复进入生成结果的情况,还需要建立持续反馈和后续处理机制。

在诸多治理措施中,宜优先推动必要的日志与记录留存。商家和GEO服务商应当在其实际掌握范围内保存相关内容制作、投放渠道及时间等记录;内容平台和生成式人工智能服务提供者可依据适用规范及技术能力,保留必要的内容来源、违法信息处置等记录。相关记录留存要求应与各主体实际掌握的信息及技术能力相适应。以可核验的记录支撑溯源与归责,并在此基础上逐步探索高风险场景中的算法审计,更有利于将治理要求转化为可执行机制。

从长远看,GEO治理的关键,不是简单限制企业争取AI推荐的正常经营活动,而是让信息真实性、技术行为正当性与责任承担形成相互衔接的规则体系。既有《广告法》《反不正当竞争法》及生成式人工智能治理规范已经提供基本制度基础,未来仍需在新型行为定性、跨平台证据协作、分类分级核验和整改效果评估等方面持续细化。

(陈兵系南开大学竞争法研究中心主任、法学院副院长,中国法学会经济法学研究会常务理事;朱家熠系南开大学竞争法研究中心助理)

來源:第一財經 · yicai.com