谷歌花6000万美金买来的“毒蘑菇”让AI产生了幻觉

美国财政部长耶伦访问中国期间，曾经点了几盘名为“见手青”的毒蘑菇，挑事的美国媒体认为毒蘑菇让耶伦在访华期间产生了幻觉，出卖了美国的利益。回到美国后，耶伦否认了这种说法，认为烹饪到位的毒蘑菇“非常美味”，自己身体没有任何不适。而谷歌花了6000万美元收购的AI训练语料，却由于“烹饪”方法不到位，让食用语料的谷歌AI中毒，真的产生了幻觉。 

最近，谷歌发现旗下的AI Overview状况频出，不仅提出了“披萨配胶水”的黑暗料理，还“建议”用户吃石头补充矿物质和维生素、喝尿治疗肾结石、被响尾蛇咬了用冰块冷敷伤口、感到抑郁可以跳金门大桥等，甚至提出“毒药对人体很好”的离谱结论。 

收到大量的用户反馈后，谷歌禁用了某些搜索的AI Overview功能，并对其进行修复和优化。

和此前Bard一样，AI Overview也是对手们兵临城下时，谷歌仓促应战的产物。

作为危机公关的一部分，谷歌官方不得不下场回应称，离谱的回答仅在十分罕见的提问中出现的，不代表大多数人的经历。

事实上，诸如“我每天应该吃多少石头？”之类的问题的确属于引导性提问。然而谷歌在面对这类陷阱式的提问时，不仅没能甄别其中的逻辑漏洞，反而有理有据地给出了有害的答案——“加州大学伯克利分校的地质学家表示建议每天至少吃一块小石头，因为石头中含有的矿物质和维生素有益消化系统健康。”倘或一些不明真相的网友选择信任权威，开始每天食用石头，后果将不堪设想。

对于这种一本正经地胡说八道，谷歌CEO劈柴哥（Sundar Pichai）回复称，上述回答产生的根本原因是生成式AI的固有缺陷——幻觉问题，而这个问题目前尚无解决方案。

HITCon安全会议上的相关研究成果显示，只需“污染”不到0.7%的数据集，就能绕开防御机制，大幅降低大模型输出内容的准确性。当大模型被投喂的数据集含有误导性信息时，其给出的结果必然同样失真。这正是谷歌在这次翻车中的失职之处，不加筛选地给大模型投喂了“有毒”的语料。

例如“如何不让芝士从披萨上面滑落”的问题，AI Overview的回答是，“给酱汁中加入八分之一的无毒胶水，可以使其更粘稠，有助于芝士粘附”。这一答案随后被扒出来自Reddit 一则11年前的恶搞帖子；而在建议抑郁的网友“跳下金门大桥”的回答中则明晃晃地标注着“一位Reddit 用户建议”。

不得不说，大模型为贴吧这一PC时代的产物打开了变现的新思路。不过，谷歌每年花费6000万美元买来的语料库，最终训练出的成果竟如此上不得台面。

当下，AI搜索是海内外AI创业团队的重要方向之一。

今年3月，谷歌任命进入公司20年的老将Liz Reid担任生成式搜索业务的负责人，还将前搜索质量和排名主管Pandu Nayak任命为谷歌搜索首席科学家。这次重大的高管洗牌彰显了谷歌对AI搜索志在必得的信心。