QCon北京「鸿蒙专场」火热来袭!即刻报名,与创新同行~ 了解详情
写点什么

微软提出新 AI 框架 MWSS,假新闻识别率优于最先进的基准

  • 2020-04-17
  • 本文字数:1655 字

    阅读完需:约 5 分钟

微软提出新AI框架MWSS,假新闻识别率优于最先进的基准

不久前,微软和亚利桑那州立大学的研究人员在预印本平台 arxiv.org 上发表了一项研究论文,他们提出了一种人工智能框架: Multiple sources of Weak Social Supervision(MWSS),利用参与度和社交媒体信号来检测假新闻。他们声称,经过在真实数据集上训练和测试,该模型在假新闻早期检测方面的表现优于一些最先进的基准。


如果该系统的正确率真的如作者声称的那样,并投入生产,它将有助于阻断虚假和误导性信息的传播,这些信息涉及美国总统候选人和其他有争议的话题。布鲁金斯学会(Brookings Institute)在 2018 年进行的一项调查发现,57% 的美国成年人在 2018 年大选期间曾遇到假新闻,19% 的人认为假新闻影响了他们的投票决定。


该论文的共同作者解释说,学术文献中的许多假新闻分类器依赖的信号需要很长时间才能聚合,这使得它们不适用于假新闻的早期检测。此外,有些分类器仅仅依赖于信号,而这些信号容易受到有偏见或不真实的用户反馈的影响。


相比之下,他们的新系统从多个来源进行监督,包括用户和他们各自的社交活动。具体来说,它利用少量手动标签的数据和大量弱标签的数据(即带有大量噪声的数据),用于元学习人工智能框架中的联合训练。


一个名为 Label Weighting Network(LWN)的模块,对调节假新闻分类学习过程的弱标签的权重进行建模,将研究人员所指的内容作为一个实例——例如(新闻片段)以及标签作为“输入”。它为“表示对”输出一个代表重要性权重的值,该值决定了该实例在训练假新闻分类器时的影响。为了在不同的弱信号之间共享信息,共享特征提取器与 LWN 一起工作,来学习共同的表示方法,并使用函数将特征映射到不同的弱标签源。



微软人工智能框架与各种基准模型的性能对比图


微软研究人员利用开源的 FakeNewsNet 数据集对他们的系统进行了基准测试,该数据集包含新闻内容(包括正文等元属性),并带有来自事实核查网站 GossipCop 和 PolitiFact 的专家注释的标签,同时还包含了社交背景信息,如有关该新闻文章的推文。他们使用 13 个来源的语料库对系统进行增强,其中包括英国主流新闻媒体,如英国广播公司(BBC)和天空新闻(Sky News),以及俄罗斯新闻媒体的英文版,如 RT 和 Sputnik,内容大多与政治有关。


为了生成弱标签,研究人员测量了分享新闻的用户的情感评分,然后确定这些得分之间的差异,这样,情绪差异很大的文章就会被注释为假新闻。他们还生成了一组具有已知公众偏见的人群的数据,并根据用户的兴趣与这些人群的匹配程度来计算得分,其背后的理论是,有偏见的用户分享的新闻更有可能是假新闻。最后,他们根据社交媒体上的元信息对用户进行聚类,以此来衡量用户的可信度。这样一来,那些形成大型聚类的用户(这可能表明是僵尸网络或恶意活动)的用户就被认为可信度较低。


在测试中,研究人员表示,性能最好的模型结合了 Facebook 和 RoBERTA 自然语言处理算法,并针对干净和弱数据的组合进行了训练,在 GossipCop 和 PolitiFact 中检测出假新闻的正确率分别为 80% 和 82% 。


该团队计划在未来的工作中探索其他技术,如获得高质量的弱标签的标签校正方法。他们还希望对这个框架进行扩展,以考虑来自社交网络的其他类型的弱监督信号,利用参与的时间戳。


当然,这些研究人员并非唯一试图利用人工智能来阻断假新闻传播的人。


在最近的一项研究中,麻省理工学院计算机科学与人工智能实验室开发了一种人工智能系统,可以识别误导性的新闻文章。去年年底,Jigsaw 发布了 Assembler,这是一款为媒体机构提供的人工智能假新闻识别工具套件。AdVerif.ai 是一个软件即服务的平台,去年推出了 Beta 测试版,它分析文章中的错误信息、成人内容、恶意软件和其他有问题的内容,并交叉引用一个定期更新的数据库,其中包含数千条假新闻和合法新闻。就 Facebook 而言,它已经试验了部署人工智能工具来“识别账户和假新闻”。

作者简介:

Kyle Wiggers,技术记者,现居美国纽约市,为 VentureBeat 撰写有关人工智能的文章。


原文链接:


https://venturebeat.com/2020/04/10/ai-training-helps-remote-controlled-buggy-negotiate-rugged-terrain/


2020-04-17 07:001866
用户头像
刘燕 InfoQ高级技术编辑

发布了 1112 篇内容, 共 555.2 次阅读, 收获喜欢 1978 次。

关注

评论

发布
暂无评论
发现更多内容

淘宝买家订单列表、订单详情、订单物流 API 接口全攻略

tbapi

淘宝API接口 淘宝店铺订单接口 淘宝订单数据接口 淘宝买家订单接口

火山引擎云上实战:一键部署 DeepSeek 大模型(蒸馏版)

火山引擎开发者社区

CloudStudio 公开课 —— 大模型基础

CloudStudio

Cloud Studio DeepSeek

手把手基于 MINI 数据集带你做一次板端精度评估

地平线开发者

自动驾驶; 地平线征程6 算法工具栏

一箭15星丨数字样机:商业航天创新发展的关键引擎

DevOps和数字孪生

低空经济“蓄势腾飞”,数字样机保驾护航

DevOps和数字孪生

芯片赋能:粤港澳大湾区北斗产业的进阶之路

江湖老铁

2025全球人形机器人领域深度报告:具身智能技术、人形机器人、大模型、产业链和行业前瞻

机器人头条

机器人 大模型 人形机器人 具身智能

豆包大模型 1.5 正式发布,全面上线火山方舟

火山引擎开发者社区

基于 Megatron 的多模态大模型训练加速技术解析

阿里云大数据AI技术

人工智能 开源 多模态 大模型 Qwen

《Quick Start Kubernetes》读后感

codists

编程人

新品速递丨Altair 推出轻量版仿真管理平台,助力企业轻松实现仿真数字化

Altair RapidMiner

制造业 仿真 CAE hyperworks

前端调试实践

京东科技开发者

黑龙江哪些单位需要做等保测评?

黑龙江陆陆信息测评部

Vue3 路由配置与导航全攻略:从零到精通

伤感汤姆布利柏

如何解决在容器中执行 nvidia-smi 的系列问题

Infra研习社

#GPU

拼多多二面:高并发场景扣减商品库存如何防止超卖?

Geek_e3e86e

Java 编程

赛题讲解培训实录!2025年(第18届)中国大学生计算机设计大赛大数据主题赛“数据解读科技创新与社会变革”

ModelWhale

人工智能 大数据 中国大学生计算机设计大赛 4C大赛

中免日上使用阿里云向量检索服务 Milvus 版搭建在线推荐系统

阿里云大数据AI技术

大数据 向量检索 Milvus

机械工厂数字化试金石:智能制造跃迁之路

积木链小链

数字化转型 智能制造 机械制造

CloudStudio 公开课-DeepSeek R1 模型训练与优化实战

CloudStudio

cloudstudio DeepSeek DeepSeek-R1

云上一键部署通义千问 QwQ-32B 模型,阿里云 PAI 最佳实践

阿里云大数据AI技术

人工智能 多模态 Qwen PAI QwQ

货币金融服务使用堡垒机的原因分析

行云管家

网络安全 数据安全 堡垒机

智元机器人发布灵犀X2,集齐运动、交互、作业三智能

科技热闻

微软提出新AI框架MWSS,假新闻识别率优于最先进的基准_AI&大模型_Kyle Wiggers_InfoQ精选文章