AI水军来了，网络可信度还剩多少

来源: 蓝鲸TMT 陈剑锋   

金评媒（https://www.jpm.cn） 编者按：人工智能技术的不断发展，本是服务于社会，推动社会的进步。而一些科学家、研究者们总是对一些未知的、不好的创新技术甚是好奇，非得研究的透透彻彻。

互联网发展至今，无数公司、个人依靠互联网创造一个又一个故事，而这些故事中，我们不可忽略的是一些不被大众所接受，利用互联网牟取大量的财富，缔造了一个庞大的帝国的『网络水军』。从论坛时代开始，网络水军就蛰伏于各大论坛之中，随时准备大干一场，而后随着微博时代的来临，又纷纷转自微博的大营，直到微信时代，水军一直处于舆论的风口浪尖。让一些网名、甚至广告商们甚是头疼。

然而，人工智能技术的不断发展，本是服务于社会，推动社会的进步。而一些科学家、研究者们总是对一些未知的、不好的创新技术甚是好奇，非得研究的透透彻彻。近日，芝加哥大学研究人员发布的一篇《在线点评系统中的自动众包攻击和防御》论文中说明，人工智能将有能力生成大量虚假复杂的点评信息，甚至机器和读者都无法检测和分辨其真伪。也就是说AI水军正式到来，而这无疑是让人们更加的对『水军』头疼了。

被网络水军冲刺下的互联网，可信度越来越低

其实，在如今复杂的互联网环境下，有些时候我们不得不依赖网络水军，似乎网络水军已经成为了一种必不可少的职业，成为了众多网络公关公司重要的营销手段，被应用到各行各业中，甚至一些巨头公司为了达到某种营销目的，也不得不用水军，像早年影响极大的3Q大战、加多宝对掐王老吉、魅族小米之争等，无一例外，都会找水军。

除了一些巨头公司用到水军外，一些电影或电视剧上映前大量造势、宣传，一些选秀节目、娱乐圈都会用到水军，2005年的快乐女声，就有传言称，李宇春冠军就是因为有水军造势、包装而成的。

然而，网络水军不仅能成为“捧人推手”，同时也可以成为“网络打手”。让一些广告主，甚至因为网络水军捧起来的虚假信息、广告遭致受骗的网名们深恶痛绝。

笔者身边有朋友是做保健品行业的，大家都知道，保健品有点擦边灰色产业，传统的广告是不允许投放的，只能选择网络广告投放了，在年初的时候，由于公众号的广告市场非常的好，几乎所有的保健品公司都选择公共号广告投放，可是到了下半年，市场开始混乱，一些公众号运营者们为了能够稳住自己的公众号，不惜用大量的水军刷阅读量，导致众多的广告主们投了钱，没有效果，还不知道是什么原因。致使后来广告主们对众多的网络广告平台产生了谨慎、不信任的态度。

AI水军将会取代传统的网络水军

虽然《在线点评系统中的自动众包攻击和防御》论文中研究的是AI可以生成复杂的点评信息，但是随着AI的发展，AI水军被用于其它的领域是毫无疑问的。像大众点评、美团这样依靠用户真实点评而积累信誉的网站，虽然传统的网络水军同样可以进行虚假点评和操作，但是其所消耗的人力、财力、物力是比较大的。而AI水军的点评不仅能够达到“以假乱真”、“炉火纯青”的地步，同时在人力、财力、物力上也是比较节省的。

另外，传统的网络水军中，只要你给足够的钱，他们就可以做到你想要的效果，但是由于是人工点评，在成千上万的虚假点评中，难免会遇到重复或者有问题的虚假点评。而像如今的市场上，想要策划一场虚假的点评，所支付的金额也是相当的贵的，不过一旦有了AI的帮助，成千上万条的点评将不会花一分钱，甚至让人无法分辨出真伪。

AI水军通过深度学习的技术，使用成千上万条真实的在线点评信息训练而成。这将会比传统的水军无论是从人力、物力，还是智能上，更加的成熟。同样的，一旦AI水军成熟并大量的投入市场，其给社会所带来的影响、给互联网带来的可信度问题将会是非常严重的。

需要有正确的防范错失

因此，我们需要有正确的对策来防止这种情况的发生、或延续，试想一下，如何像我们平常使用的网站，淘宝、京东、美团、饿了么等等本来就是靠用户的点评作为参照的，一点上面的点评都是虚假的，那么你还会相信这些网站的真实性吗?

从另外一个方面来讲，AI水军和传统的水军是不一样的，传统水军是通过人工点评操作的，致使不好控制;而AI水军是用超级计算机生产的，也就是人们既然能够创造出AI水军，就也会有办法控制AI水军，就像该论文研究学者说的，“这种假点评也不是完全没法防范，人类觉得它们能以假乱真，但机器不见得这么看。用计算机去分析字符的分布等特征，他们就会发现真假点评之间存在着细微的差异。”

所以，随着人工智能的不断发展，一旦AI水军盛兴，势必会给整个互联网带来巨大的冲击，致使网络的可信度会大打折扣，这时我们就需要有正确的防范措施防止AI水军。

(编辑：田跃清)

来源: 蓝鲸TMT 陈剑锋

天乐

蓝魅财经责任编辑 互联网金融领域的关注者