网上聊天机器人泛滥成灾,它们到底想要什么?

网上聊天机器人泛滥成灾,它们到底想要什么?


据外媒报道,皮尤研究中心发布的最新研究显示,Twitter上的聊天机器人账号比人类用户更活跃:66%链接到流行网站和文章的推文都是由聊天机器人分享的,而这些账号与真正的人类用户没有任何关联。

此外,最活跃的500个Twitter聊天机器人推送了22%的链接,这意味着它们分享的数量接近同等数量人类的4倍,Twitter上最多产的500个人类用户只占6%的份额。

尽管这两项发现都表明,聊天机器人已经在Twitter上超过了人类,但皮尤调查结果也显示:聊天机器人占据了新闻聚合网站共享的89%链接。

这很重要?的确,因为新闻聚合网站(比如谷歌新闻和其他应用)使用算法来决定向你展示哪些文章,它们出自何处,以及按什么样的顺序展示。Twitter上数量惊人的聊天机器人很可能被设计用来操纵这些算法。

如果你能操纵要分享的东西,你就能操纵别人看到哪些东西。这些算法的工作方式通常是适当的,然而,似乎绝大多数的共享是由聊天机器人控制的,而不是真正的人类。

新闻聚合网站并不是唯一使用算法的网站。Facebook使用一种算法来决定在其新闻推荐中向用户显示哪些内容,Twitter也使用一种算法来决定人们在时间轴上所看到的内容,即使谷歌的搜索结果也可能会受Twitter上的分享活动影响。

即便你没有Twitter或Facebook账户,你在互联网上看到的(比如正在疯传的新闻报道和置顶内容),也很可能会受到链接分享机器人的影响。

这些聊天机器人想要什么?这很难说。许多人想当然地认为,聊天机器人驱动的共享主要目标是进行政治宣传。在2016年总统大选期间,有研究显示,1/3支持特朗普和1/5支持希拉里的推文都是由聊天机器人生成的。

然而,皮尤研究中心最近的分析并没有证实,聊天机器人的共享活动中有任何意识形态偏见。相反,聊天机器人与意识形态混合和中立的新闻网站分享更多链接。

这并不一定意味着“聊天机器人的共享”不包括政治议程。外国政府(如俄罗斯)可能宣传某些特定信息(真实或虚假),以便在美国制造混乱和不和谐。

例如,上周五美英法对叙利亚进行了联合导弹袭击。美国国防部报告说,俄罗斯“网络巨魔”(trolls)的活动增加了2000%。人权组织“自由之家”(Freedom House)在2017年进行的一项研究得出结论称,现在有30个外国政府使用网络宣传工具,比如聊天机器人,在网上操纵和扭曲信息。

即使聊天机器人共享真实的新闻报道,它们的多产分享能力(与人类用户相比)也是对互联网完整性的严重威胁。有了这种力量,聊天机器人可以让某些新闻报道看起来更受欢迎、更紧迫,同时也可以排挤和压制其他新闻。

在Twitter上占据2/3的活动,聊天机器人可能成为做出决定的最终力量,它们可以让你看特定内容。Twitter最近宣布,它正试图通过实施新的限制措施来解决这个问题,包括阻止第三方应用程序允许人们同时通过多个账户发布推特信息。

当Facebook首席执行官马克·扎克伯格(Mark Zuckerberg)前往国会作证时,他透露Facebook正在采取有趣的非人类举措,来对抗Facebook自己的聊天机器人问题。

正如扎克伯格解释的那样:“我们已经部署了新的人工智能工具,可以更好地识别可能试图干预选举或传播错误信息的虚假账户。”由于这一努力,Facebook最近删除了“成千上万个可能造成重大伤害的账户。”

从本质上上说,这就像是聊天机器人VS聊天机器人的军备竞赛。扎克伯格也承认:“这些攻击的本质是俄罗斯人在利用我们的系统,所以这是一场军备竞赛。他们将会在这方面做得更好,而我们也需要继续完善服务。”

然而,网上的大部分聊天机器人活动可能都是出于经济利益,而不是出于政治目的。最近另一项关于聊天机器人活动的研究得出结论,许多聊天机器人在Twitter上发布关于某些上市公司的信息,目的旨在操纵股价。

这些聊天机器人(以及它们背后未知的人类或公司)的假定目标是,在公众感知到这种人为制造的波动之前,在股市中赚钱。

皮尤研究中心最近分析的另一个发现表明,许多聊天机器人只是企业营销努力的组成部分,目的是销售更多的产品。皮尤发现,有73%的商品和服务链接是由聊天机器人共享的。

这种聊天机器人的活动很可能是由那些想让某些产品看起来更受欢迎的公司来实施的,希望那些毫无疑心的消费者会在搜索时看到这些看起来很流行的产品,并吸引他们购买。

来源:腾讯科技