检测方案

Twitch 引入机器学习功能来检测可疑用户

发布时间:2024-02-11 作者: 检测方案

  

  度过了艰难的一年。在最糟糕的时候,该公司承认某些计划需要一些时间来实施。现在是时候了,因为 Twitch 宣布了一项新举措,该举措将尝试应对仇恨袭击和流媒体骚扰。

  该公司宣布将开始使用机器学习来防止个人通过创建新帐户来规避 Ban Evasions。在发布到Twitch Twitter 帐户的视频中,Streamers 和他们的 Mod 将能够在新的可疑用户检测系统下查看特定的潜在有害聊天。然后,主播或模组将有机会监控聊天者的帐户年龄,选择保留评论或让它通过。

  可疑用户检测将有两层审核。“可能”分类隐藏了一般聊天中的评论,并标记了评论,仅供主播及其模组查看并针对该帐户采取行动。“可能”标记将标记评论来自的帐户,但消息将在聊天中看到。Twitch 表示,默认情况下,所有主播都将启用此新功能。Twitch 警告说,可能会出现一些成长的烦恼,因为机器学习程序在大多数情况下要一些时间才能变得准确并预期会出现一些误报和否定。

  仇恨袭击浪潮在 2021 年夏天给 Twitch 蒙上了阴影,因为有色人种和 LGBTQIA+ 主播担心使用该平台作为机器人帐户的持续滥用,这些机器人帐户以绕过 Twitch 的自动过滤器的方式发送恶意评论。那一波令人作呕的行为和 Twitch 感知到的缓慢反应促使 3rd 方流媒体工具创建选项来帮助边缘化的流媒体解决这一个问题。一些主播在等待 Twitch 稍后推出手机号和电子邮件验证时使用了这些选项。这是 Twitch 计划减少创建新帐户以绕过禁令的不良行为者的计划的第一步。

  任何有助于保护主播免于接收有害信息的事情都是朝着正确方向迈出的一步。这些新措施以及之前实施的措施必须使屡犯者难以继续让主播对不舒服的情况做出一定的反应。这项新功能不但可以保护 BIPOC 和 LGBTQIA+ 主播,还可保护不得不在平台上处理跟踪者账户的女性。希望可疑用户检测系统能够让边缘化的主播更加安心。