资讯 · 2024年12月20日

Telegram使用人工智能封锁数百万个非法频道

Telegram 因其对内容审核的不干预态度而受到严厉批评,该应用程序表示,它在 2024 年封锁了超过 1550 万个违反其条款和服务的群组和频道。

据该平台介绍,被封禁的频道包括煽动暴力、分享虐童内容和交易非法物品的频道。

Telegram 表示,其内容审核包括将用户报告与机器学习驱动的“主动监控”相结合——今年早些时候,该公司通过使用人工智能(AI)审核工具“进一步增强”了这项工作。

此外,Telegram 表示,自 2018 年以来,公开图片会根据儿童性虐待材料 (CSAM) 数据库自动进行检查,导致今年该平台上近 710,000 个与 CSAM 相关的群组和频道被封锁,仅本月就封锁了 32,000 多个。

与此同时,今年还有超过 13 万个与恐怖主义有关的社区被封锁。Telegram 和 Etidal(一家沙特阿拉伯非营利组织,打击极端主义思想,Telegram 自 2022 年以来一直与其合作)提供的数据显示,自 2022 年 2 月以来,该平台从平台上删除了近 1.3 亿条极端主义内容和超过 14,500 个极端主义频道。

Telegram 自 2016 年以来一直发布的每日透明度报告显示,仅在本月,该平台就禁止了 9,000 多个恐怖分子机器人和频道。

该组织表示,该平台“不应存在暴力煽动和恐怖主义宣传”。然而,该平台的首席执行官兼联合创始人帕维尔·杜罗夫 (Pavel Durov)于今年 8 月被法国当局逮捕,原因是他未能采取措施阻止该消息应用程序上的犯罪活动。尽管他已支付 500 万欧元保释金,但针对他的案件仍悬而未决,他被禁止离开法国,直到 2025 年 3 月。

该平台最初对杜罗夫被捕一事进行了反击,称其首席执行官“没什么可隐瞒的”。“声称平台或其所有者应对平台滥用负责是荒谬的,”该公司在杜罗夫被捕当天发表的一份声明中写道。

然而,自从他被捕以来,该公司更新了服务条款和隐私政策,以“进一步阻止犯罪分子”滥用该应用程序。该应用程序的隐私政策现在规定,如果平台收到有效信息表明用户是犯罪活动案件的嫌疑人,则可能会将用户的 IP 地址和电话号码分享给相关部门。

本月初,Telegram 加入了英国互联网观察基金会,获得了该组织的数据集和技术,以防止其平台上出现儿童性虐待内容。该基金会的临时首席执行官 Derek Ray-Hill 称此举是 Telegram 的“转型第一步”。

尽管 Telegram 正在从其平台上删除数百万条非法内容,但联合国毒品和犯罪问题办公室 10 月份发布的一份报告显示,犯罪团伙公开活跃在 Telegram 论坛上,肆无忌惮地进行非法活动。报告还发现,该平台已成为地下加密货币交易所、有组织犯罪网络和在线赌博团伙的重要工具。