央视近期报道称,消费者在选择电动牙刷时,由于品牌、型号繁多,不知从何下手,于是求助于流行的人工智能工具。然而,当他们购买AI推荐品牌时却发现,市场上有很多功能和价格相似的产品,而AI推荐的电动牙刷可能并不是最具性价比的。与此同时,央视调查发现,现在有人从事“帮助商家进行AI产品推荐”或生成引擎优化(GEO)的业务。目标是让人工智能向潜在消费者推荐特定品牌和产品,作为标准响应。近年来,生成式人工智能已经融入我国各群体的日常生活,用户数量和普及度呈爆发式增长。据统计,截至2025年6月,全国发电机组数量我国人工智能活跃用户达5.15亿。作为数字智能时代深思熟虑的顾问,生成式人工智能正在成为消费者决策的关键切入点。从选择书籍、电影、化妆品,到购买金融产品、房子、汽车,生成AI以其强大的数据处理能力为消费者提供丰富的选择和解决方案,有效缓解消费者的决策压力。人工智能一直被视为一种中立的内容创建工具和新的基础设施,类似于搜索引擎首次出现时给予的信任。然而,情况可能并非如此。竞价排名、搜索引擎优化等商业运营销售的介入,导致人们重新考虑此类技术工具的客观性和中立性。报告显示,GEO Services 通过创建大量产品并将其放置在人工智能免费的平台上来完成产品促销。快速抓取内容,让AI更容易追踪相关信息。这种通过发布大量类似软文、伪造权威信息来操纵推荐内容和人工智能生成内容的做法,隐藏着很大的风险。误导消费者,损害合法权益,破坏公平竞争。除了潜在危害环境外,还很容易造成“数据污染”,大幅降低人工智能生成内容的可信度,引发公众对人工智能技术的信任危机。 《互联网广告管理办法》规定,互联网广告必须具有可识别性,消费者能够识别为广告。将商业促销伪装成专业评论、行业报告或科普文章,“诱导”人工智能提供“客观、公正”的推荐,明显违反了互联网广告的可识别性要求,涉嫌侵犯消费者知情权。同时,《生成型人工智能服务管理暂行办法》明确禁止生成虚假、有害信息,要求提高生成型人工智能服务的透明度以及生成内容的准确性和可靠性。将付费内容融入到人工智能搜索结果中,必然会影响人工智能生成的内容的准确性和可靠性,会影响生成的人工智能的健康规范发展,损害社会公共利益。鉴于目前生成式人工智能的技术限制,防止人工智能推荐结果被人为“污染”,需要多方利益相关者的共同努力。人工智能平台提高识别营销内容和虚假信息的能力非常重要。例如,您可以优化算法、改进可追溯性和数据源选择,并包括推荐内容后的链接供用户查看。相关部门应跟上技术迭代的步伐,将GEO服务纳入监管范围,推动人工智能平台有效履行核心职责,打破“污染”的利润链。比如,可以参考商品分类相关规定,要求对人工智能生成平台的付费促销内容进行强制标注。广大用户应理性看待人工智能生成的内容,不断提高数字化和媒体素养,避免落入以中立为幌子的营销陷阱。我们当初的期望是一样的。因此,生成式人工智能的发展也体现了公众对技术进步为生产和生活提供动力的愿景。科技要不断发展,只有通过法律和政策的规范和引导,平衡社会利益和商业利益,科技才能真正服务社会、造福人类。
(编辑:魏金仁)