27.当AI答案可以被「操控」：GEO乱象与信息污染的新阶段
今年央视3·15晚会曝光了AI大模型被“投毒”的乱象，GEO（生成式引擎优化），这个很多普通人第一次听说的词被反复提及。一些公司滥用GEO技术，专门批量生产虚假、低质内容，把广告包装成测评、榜单、经验分享，分发在不同平台，只为了让AI在抓取信息时，更容易采信这些内容，达到向消费者推荐、销售产品的目的。 这听起来有点像互联网时代的SEO（搜索引擎优化）。不同的是，AI时代，用户看到的是一个综合答案，省略了过去在海量链接里筛选、判断的过程，而GEO的滥用，让看似客观的AI答案变成了高度伪装的广告植入，进一步误导消费者的判断。 随之而来更大的问题是，当AI成为被竞相争夺的信息入口、企业出于逐利目的滥用GEO，我们所处的信息环境也在发生变化。“一些真正值得被采纳的信息淹没在批量化生产的低质内容里，AI更难找到有价值的信息，通过AI获取信息的人也没有获取真正有价值的信息。”张鸿茹说。 张鸿茹是一家大厂研究院的研究员，她近期的研究主题是虚假信息和AI素养。研究发现，和互联网时代的垃圾信息相比，AI时代的信息污染规模更大、成本更低，普通用户也更难识别AI生成的内容究竟是否现实存在，真相不再是一个点，而是一个面，这迫使每一个信息接收者都必须具备更强的辨别力和判断力，因为“信息污染是不会消失的”。 我们将从 AI 大模型被投毒的乱象出发，聊聊SEO是如何演变成GEO的，GEO是如何影响我们当下的信息环境的？我们该如何理解 AI 信息污染？在这样一个越来越复杂的信息环境里，普通人又该如何判断什么才是值得相信的？ 【聊天的人】 张鸿茹，某大厂研究院研究员，近期研究主题为虚假信息和AI素养 黄依婷，「镜相工作室」作者 【剪辑师】 施亚飞 【时间轴】 02:41 从搜索到社交媒体、短视频，再到AI时代，“每一个信息入口都会长出一套影响它的产业链，但逐利的目的没变” 07:36 “随机鹦鹉”，“投毒”的手段，以及“信息军备竞赛” 21:04 我们正在走向一个“概率真相”时代 34:39 从《叫魂》到AI被投毒，信息污染不会消失，但也不会完全无序 【联系方式】 jingongcankaofro@163.com 公众号「镜相工作室」
今年央视3·15晚会曝光了AI大模型被“投毒”的乱象，GEO（生成式引擎优化），这个很多普通人第一次听说的词被反复提及。一些公司滥用GEO技术，专门批量生产虚假、低质内容，把广告包装成测评、榜单、经验分享，分发在不同平台，只为了让AI在抓取信息时，更容易采信这些内容，达到向消费者推荐、销售产品的目的。 这听起来有点像互联网时代的SEO（搜索引擎优化）。不同的是，AI时代，用户看到的是一个综合答案，省略了过去在海量链接里筛选、判断的过程，而GEO的滥用，让看似客观的AI答案变成了高度伪装的广告植入，进一步误导消费者的判断。 随之而来更大的问题是，当AI成为被竞相争夺的信息入口、企业出于逐利目的滥用GEO，我们所处的信息环境也在发生变化。“一些真正值得被采纳的信息淹没在批量化生产的低质内容里，AI更难找到有价值的信息，通过AI获取信息的人也没有获取真正有价值的信息。”张鸿茹说。 张鸿茹是一家大厂研究院的研究员，她近期的研究主题是虚假信息和AI素养。研究发现，和互联网时代的垃圾信息相比，AI时代的信息污染规模更大、成本更低，普通用户也更难识别AI生成的内容究竟是否现实存在，真相不再是一个点，而是一个面，这迫使每一个信息接收者都必须具备更强的辨别力和判断力，因为“信息污染是不会消失的”。 我们将从 AI 大模型被投毒的乱象出发，聊聊SEO是如何演变成GEO的，GEO是如何影响我们当下的信息环境的？我们该如何理解 AI 信息污染？在这样一个越来越复杂的信息环境里，普通人又该如何判断什么才是值得相信的？ 【聊天的人】 张鸿茹，某大厂研究院研究员，近期研究主题为虚假信息和AI素养 黄依婷，「镜相工作室」作者 【剪辑师】 施亚飞 【时间轴】 02:41 从搜索到社交媒体、短视频，再到AI时代，“每一个信息入口都会长出一套影响它的产业链，但逐利的目的没变” 07:36 “随机鹦鹉”，“投毒”的手段，以及“信息军备竞赛” 21:04 我们正在走向一个“概率真相”时代 34:39 从《叫魂》到AI被投毒，信息污染不会消失，但也不会完全无序 【联系方式】 jingongcankaofro@163.com 公众号「镜相工作室」