近期，“AI投毒”引发关注。据媒体报道，有一些不法商家有组织地向人工智能训练数据中“投喂”虚假信息，意图系统性地污染AI模型的知识源头，从而达到操控AI推荐与回答、牟取不正当利益的目的。
“AI投毒”分为数据投毒与模型投毒两大类型，通过污染数据或模型，让AI基于错误数据学习并输出错误结果，间接影响依赖AI的用户。从消费领域看，批量杜撰虚假好评、专家解读等内容，通过技术手段植入各类网络平台，提升能见度以被AI采集器抓取。
“AI投毒”带来的消费安全隐患不容小觑。例如，当AI模型被污染，生成带有倾向性甚至完全错误的回答，用户得到的看似是客观、综合诸多网络信息的结论，实则是经过精心设计的商业谎言。一旦虚假信息被AI模型“内化”，它就可能在模型运行的整个生命周期内，在无数次交互中被自动生成、反复输出。
防范“AI投毒”带来的消费安全隐患需协同行动。其一，需要加快完善AI相关法规并强化有效监管。以现有网络安全、数据安全相关法律为基础，明确AI训练数据审核标准和GEO技术使用边界。同时，有必要依托多部门协同监管，搭建“AI投毒”快速查处通道，强化训练数据溯源与动态监测，从严惩处危害消费安全的投毒行为。
其二，AI企业需扛起主体责任，切实为消费安全保驾护航。例如，应加大技术研发投入，搭建AI训练数据筛查体系，运用语料溯源、内容交叉验证、异常数据检测等技术，精准识别并剔除虚假、恶意投喂的信息。同时升级模型自我修复能力，一旦发现被投毒迹象，快速追溯污染源头、清理错误数据。
其三，商家应增强法律意识。商家端的不理性需求，迫切希望可以被AI推荐、抢占AI流量，促使了“AI投毒”软件的广泛使用。而事实上，恶意利用GEO则可能触及刑法。如果虚假信息涉及药品、医疗器械、食品等特殊领域，损害消费者人身健康，情节严重的可能构成虚假广告罪。商家理应依法合规开展经营活动，杜绝“AI投毒”行为。
此外，用户要防范和抵制“AI投毒”。用户要善用AI工具，把AI当作帮助梳理信息、补充背景的工具，不盲目轻信AI推荐的产品评价、消费建议等，并主动核实信息真实性。同时，应坚决抵制利用技术手段向AI投喂虚假内容的行为，发现疑似投毒信息及时举报，不成为虚假信息的传播者。
本版专栏文章仅代表作者个人观点
美港通证券提示：文章来自网络，不代表本站观点。
