写点什么

继学术搜索之后,谷歌重磅推出数据集搜索!

  • 2018-09-16
  • 本文字数:2401 字

    阅读完需:约 8 分钟

谷歌 Scholar 自推出以来已经成为很多科研工作者搜索学术资料的必备神器,在前段时间的谷歌重返中国风波中,也有相当多开发者和科研工作者表示希望谷歌 Scholar 也能快点进入中国市场。今天,谷歌继 Google Scholar(Google 学术搜索)之后,又为数据工作者和科研人员推出了一款重磅产品——Google Dataset Search(Google 数据集搜索)。虽然我们依然无法知道谷歌搜索到底什么时候才能重新回到中国,但好产品即使需要“梯子”也得先用起来!

在当今世界,数据成了诸多学科领域的科学家和数据记者的命脉。网络上有成千上万的数据存储库,提供了数百万个数据集,世界各地的地方和国家政府也会公布他们的数据。为了能够轻松访问这些数据,谷歌启动了 Dataset Search 项目,让科学家、数据记者、数据爱好者或其他人能够快速找到他们想要的数据,或者仅仅为了满足他们的求知欲。

Google Dataset Search 传送门: https://toolbox.google.com/datasetsearch

什么是 Dataset Search?

数据集搜索使用户能够查找网上数以千计的存储区中存储的数据集,从而让这些数据集可供大众使用,让人人受益。

数据集和相关数据往往分布在网上的多个数据存储区中。在大多数情况下,搜索引擎既无法提供这些数据库相关信息的链接,也不会将这些信息编入索引,这会导致数据寻找变得无比繁琐,或者在某些情况下无法实现。

Google 为用户提供了能够同时搜索多个存储区的单个界面,希望借此改变用户发布和运用数据的方式。

Ggogle 表示,这个项目能够带来下列好处:

  1. 形成数据共享生态系统,鼓励数据发布者依照最佳做法来存储和发布数据;
  2. 为科学家提供相应平台,方便大众引用他们创建的数据集,展现他们的研究成果所带来的影响力。

Dataset Search 与 Google Scholar 的工作方式类似,可以让用户找到托管在任何位置的数据集,无论是发布者的网站、数字图书馆还是个人主页。谷歌为数据提供者制定了一个指南,通过某种方式来描述他们的数据,这样,谷歌(和其他搜索引擎)可以更好地理解他们的数据。指南要求描述有关数据集的一些重要信息:数据集的创建者、发布时间、数据的收集方式、数据的使用条款等等。然后,谷歌会收集并链接这些信息,分析可能存在的相同数据集的不同版本,并尝试找与描述或讨论数据集相关的资料。谷歌所采用的方法是基于一种数据集描述开放标准(schema.org),数据发布者可以通过这种方式描述他们的数据集。数据集提供者可以采用这一通用标准,以便让更多的数据集成为这个强大生态系统的一部分。

Google 数据指南基于数据集的开放标准(schema.org),任何发布数据的人都可以通过这种标准方式来描述他们的数据集。以下是一个数据集定义的示例,完整数据集定义参见: http://schema.org/Dataset 。  

在这个 Dataset Search 版本中,用户可以找到环境科学和社会科学领域的大多数数据集引用,以及来自其他学科领域的数据,包括政府提供的数据和新闻机构(如 ProPublica)提供的数据。随着越来越多的数据存储库使用 schema.org 标准来描述他们的数据集,用户在 Dataset Search 中找到的数据集的种类和覆盖范围将会越来越多。

Dataset Search 支持多种语言,后续将推出更多的语言支持。只需输入要查找的内容,就可以访问到数据提供者发布的数据集。

例如,如果想要分析每日的天气记录,可以在 Dataset Search 中尝试搜索:

可以看到来自 NASA 和 NOAA 的数据,以及来自哈佛大学 Dataverse 和大学间政治与社会研究联盟(ICPSR)等学术资料库的数据。NOAA 首席数据官 Ed Kearns 是这个项目的坚定支持者,他让 NOAA 的很多数据集都可以在 Dataset Search 中搜索到。他说,“一直以来,这种类型的搜索是开放数据和科学社区众多研究人员的梦想。NOAA 的一个使命是与他人共享我们的数据,对于 NOAA 来说,这个工具是让更广泛的用户社区能够更容易访问到我们数据集的关键”。

Dataset Search 是谷歌为了更好地将数据集纳入到谷歌产品而采取的一系列举措之一。最近,谷歌的搜索引擎可以更容易的搜索到表格数据,这也是使用了相同的元数据和链接的表格数据,直接在搜索中提供这些结果。虽然这个工具更多关注的是新闻机构和数据记者,但无论是查找科学数据、政府数据还是新闻机构提供的数据,Dataset Search 都能助你一臂之力。

这个搜索工具依赖数据发布者提供的元数据。谷歌希望更多人能够使用开放标准来描述他们的数据,让其他用户能够找到他们需要的数据。如果数据发布者在搜索结果中看不到已发布的数据,可以访问谷歌的开发者网站,上面提供了提问和提供反馈的链接。

Google Dataset Search 使用尝鲜

目前 Google Dataset Search 已经支持多种语言,中英文均不在话下。

最近 Google 联手哈佛发布了一款 AI 工具用于预测地震余震位置,那么我们就来分析一下地震数据,可以在 Google Dataset Search 的搜索栏中输入 earthquake,结果如下图所示:

左侧会呈现出所有与关键词有关的数据来源,右侧则会显示每一个数据来源的详细信息,包括数据集名称、数据集更新日期、提供者、支持的下载格式和说明。

下面我们再试试输入中文的“地震”,得到的搜索结果如下:

可能因为日本也属于地震多发地区,且“地震”二字在日语汉字和中文中是一样的,因此搜索结果中排在前面的是来自日本的地震数据集,不过左侧往下拉还是能看到不少中文数据集。比如下面这个中国地震灾后恢复重建财政支出的数据集。

目前 Google Dataset Search 仍然处于测试阶段,虽然已有中文界面且支持中文搜索,但中国大陆的用户想要使用依然需要“梯子”科学上网,直接打开是无法访问页面的噢!如果使用中遇到任何问题,可以通过页面右上角按钮向开发人员反馈,或者查看以下链接中的数据集搜索常见问题寻找解答: https://productforums.google.com/forum/#!topic/webmasters/nPq4BW6iPIA

查看英文原文: https://www.blog.google/products/search/making-it-easier-discover-datasets/

2018-09-16 19:001881
用户头像

发布了 731 篇内容, 共 461.4 次阅读, 收获喜欢 2004 次。

关注

评论

发布
暂无评论
发现更多内容

时隔七年重启编码人生,豆包MarsCode 让我快速回归 | MarsCoders 开发者说

豆包MarsCode

Python 人工智能 程序员 AI

AI加持的云端IDE——三种方法高效开发前后端聊天交互功能

豆包MarsCode

人工智能 ide 程序员 AI 编程语言

中国CRM的出路:先做好该做的

ToB行业头条

企业智能之旅(4): 智能企业为生成式 AI 做好数据准备

亚马逊云科技 (Amazon Web Services)

面试官:如何实现线程池任务编排?

不在线第一只蜗牛

面试 线程池

Acrobat Pro DC 2021 (Win&Mac) 中文特别版

你的猪会飞吗

mac软件下载 Acrobat Pro DC mac mac破解软件下载

增强洞察力,通过预测性规划引领企业走向光明未来

智达方通

全面预算管理 财务规划和分析 财务管理 财务转型

什么是 structuredClone?如何实现深拷贝?

伤感汤姆布利柏

李飞飞团队 ReKep:空间智能机器人可整合 GPT-4o;苹果首款 AI 手机 iPhone 16 发布丨RTE 开发者日报

声网

再创辉煌!望繁信科技斩获第十三届中国创新创业大赛四川赛区桂冠

望繁信科技

数字化转型 流程挖掘 流程资产 流程智能 望繁信科技

软件测试学习笔记丨Vim编辑器的常用命令

测试人

软件测试

软件测试学习笔记丨Postman实战练习

测试人

软件测试

DApp开发入门指南:从概念到实践

区块链软件开发推广运营

交易所开发 dapp开发 链游开发 NFT开发 代币开发

淘宝API大全:淘宝商品详情数据接口

tbapi

淘宝商品详情数据接口 淘宝API接口

陶建辉演讲干货分享,AI 时代下的数据预测和数据处理挑战

TDengine

tdengine

代币化资产如何拯救 DeFi:让金融重回价值创造的正轨

区块链软件开发推广运营

交易所开发 dapp开发 链游开发 NFT开发 代币开发

财务团队应如何推动企业创新升级和可持续发展

智达方通

团队协作 企业管理 战略规划 全面预算管理

携手浙商证券、华锐技术,共话交易技术的创新与应用

非凸科技

企业智能之旅(3): 构建智能企业的文化、组织、人才与能力

亚马逊云科技 (Amazon Web Services)

从 Greenplum 到 Databend,数据仓库的开源新选择

Databend

说说唯一ID与CAS|得物技术

得物技术

后端 分布式锁 一致性 无锁 企业号2024年8月PK榜

Python将表格文件中某些列的数据整体向上移动一行

不在线第一只蜗牛

Python 机器学习 Excel

低代码平台与云服务技术研究白皮书

不在线第一只蜗牛

低代码 云服务

企业出海网络方案,助力TikTok直播

Ogcloud

海外直播专线 tiktok运营 tiktok直播 tiktok直播专线 tiktok直播网络

软件测试学习笔记丨Charles 安装及证书配置

测试人

软件测试

第67期 | GPTSecurity周报

云起无垠

电商数据分析师必备:京东商品详情API返回值解读

技术冰糖葫芦

api 网关 API Gateway API 测试 pinduoduo API

继学术搜索之后,谷歌重磅推出数据集搜索!_语言 & 开发_Natasha Noy_InfoQ精选文章