首页 » 领航 >

假Facebook帐户:对阵机器人的永无止境的战斗

2021-08-25 08:05:04来源:

Facebook在六个月内封锁的超过30亿假账户的惊人P突出了社交网络在遏制自动账户或机器人以及操纵平台的其他邪恶努力方面所面临的挑战。

Facebook本周表示,在2018年的最后三个月和2019年第一季度的210亿美元中,它“残疾人”的12亿假账户。

大多数假社交媒体账户都是“机器人”,由自动化程序创建,以发布某些类型的信息 - 违反Facebook的服务条款以及为操纵社交谈话而努力的一部分。复杂的演员可以使用相同的程序创建数百万个帐户。

Facebook表示,其人工智能检测到大部分努力,并在平台上发布之前禁用帐户。尽管如此,它仍然承认,超过百分之五十亿有效的Facebook账户可能是假的。

假账户可用于放大一个人或运动的人气或不喜欢,从而扭曲用户“真正的公众情绪的观点。

根据研究人员,机器人在2016年美国选举之前发挥误导的误导作用不成比例的作用。恶意演员一直在使用这些假账户来在世界许多地方播种在世界许多地方的不信任和社会宣传,在某些情况下衡量暴力对群体或辛苦的案件。

BOTS“Don”T只是操纵谈话,他们建立团体和桥梁组,“Carnegie Mellon大学计算机科学家Kathleen Carley表示,他们研究了社交媒体机器人。

“他们可以让一个集团的人们认为他们认为他们在另一个团体中的人们相同的事情,并在这样做的情况下,他们建立回声室。”Facebook表示,它的人工智能工具可以在创建时识别和阻止假帐户 - 因此在他们可以发布错误信息之前。

“这些系统使用信号组合,例如使用可疑电子邮件地址,可疑行动或先前与我们删除的其他假帐户相关联的其他信号的模式,”Facebook Analytics在博客帖子中的Alex Schultz表示。

来自Facebook的PS透明度报告的PS暗示Facebook在东北大学复杂网络研究中心的博士后研究员,onur Varol表示,Facebook在虚假账户上行动。

“30亿是一个大数字 - 它表明他们不想错过任何假账户。瓦罗说,他们愿意冒险“禁用一些合法账户。

研究人员指出,合法用户可能会不方便,但通常可以恢复他们的账户。

“我的感觉是,他补充说:”我的感觉是Facebook正在制造严重的努力“打击假账户。

根据Carley的说法,新的机器人正在变得更加复杂,更难以检测,因为它们几乎可以使用语言以及人类。

“Facebook可能已经解决了昨天的战斗,但这些事情的性质正在改变如此迅速,他们可能无法获得新的,”她说。

Varol同意,注意到“有肉体机器人了解自然语言,可以响应人,这是为什么要保持研究的重要性。”

研究人员说,许多用户可以讲述真实和假帐户之间的区别。Facebook和Twitter一直在加紧努力识别和杂草缺乏博政账户,并且一些公共工具,如Varol和其他研究人员开发的Botometer等公共工具可以帮助确定假Twitter账户和追随者的可能性。

“如果你使用Facebook与家人和朋友沟通,你不应该担心,”Indiana大学社交媒体的计算机科学家Filippo Menczer说。

“如果你用它来访问新闻并与朋友分享,你应该小心。”Menczer表示,许多Facebook用户几乎没有关注材料来源,最终可能会分享虚假或误导性信息。

“每个人都认为他们无法操纵,但我们都很脆弱,”他说。

研究人员说,随着机器人,人类代表了错误信息链中的关键要素。

“大多数虚假信息不是来自机器人,”Carley说。“大多数它来自博客,机器人rebbrocebast它”放大错误信息。

Facebook首席Mark Zuckerberg表示,Facebook正在寻求消除假账户的财务激励。

“我们看到的很多有害内容,包括误导,实际上是商业上的动机,”扎克伯格告诉记者。“所以最好的策略之一正在消除激励措施,以创建上游的假帐户,这限制了下游的内容。”