2天时间,聊今年最热的 Agent、上下文工程、AI 产品创新等话题。2025 年最后一场~ 了解详情
写点什么

Heroku Dataclips 2.0——数据 Gist

  • 2013-02-04
  • 本文字数:2194 字

    阅读完需:约 7 分钟

Heroku Postgres

释放数据的价值

借助于最近上线的 Dataclips 2.0 的新特性,Heroku 在其路上又迈出了重要的一步:

“释放数据的价值”。就像 GitHub Gists 支持相关代码片段的共享与协作一样,Dataclips 也可以对你的数据做同样的事情。

时至今日,人们已经达成共识:单个应用的价值有限,而不断消费与使用的数据才真正具有价值。开放这些数据不是一件易事,要考虑到开放性以及对不断增长的服务的支持,这些服务会混搭现有的数据源来创建出更大的内容,结果就是 1+1>2。

Heroku Postgres 团队花了近一年的时间来整理 Dataclips 的架构与实现。InfoQ 有幸采访到了 Heroku Craig Kerstiens 持久化小组的产品经理。本文概要介绍了 Dataclips 的诸多方面与特性,他们不仅对于开发者很有价值,对于业务与决策者来说也是非常重要的。

Craig 说到:

组织的数据几乎是最有价值的资产。但遗憾的是,这些数据通常会被放到一个数据库中,只能由少数有权限的人通过很少的几种方式来访问。很多时候,报告都是手工生成的,并被粘贴到邮件中;他们构建的仪表盘很快就会过时,根本就没法回答人们的问题。

这个想法让 Heroku 重新开始构建 Dataclips,提供易于安装和使用的产品,并且着眼于未来的众多应用。

示例——卫生检查分数SFO

为了让大家对Dataclips 有个感性的了解,我们展示一个由Code for America 开发的应用,这个示例表示旧金山餐厅与食品公司的卫生检查分数。Code for America 搜集并聚合了一些公开数据,Dataclips 是分享这些数据的一种手段。

比如说,“最近的业务分数”:

你可以通过 dataclips.heroku.com 的帐号或是 Postgres 管理页面(提供恰当的 SQL 语句)来直接创建 Dataclips。唯一的限制在于一个 Dataclips 只能返回 30,000 行,超出的数据会被截断。

Dataclips 可以用在嵌入的 iframe 中,就像上面这个示例一样,也可以用作独立的 HTML 页面。我们可以通过上面这个示例看到 SQL、版本以及 Dataclips 的修订历史,可以通过邮件、Twitter 或是 Google docs 进行分享。通过向 URL 追加文件扩展 CSV、XLS(Excel)或是 JSON,你可以使用这些格式来下载 Dataclips。

JSON

复制代码
https://dataclips.heroku.com/aniexnddtuqpmtjhmuvdgrqprjns.json
{"fields":["name","address","city","score"],
"values":[
["MINI BAR SF, LLC","837 DIVISADERO ST ","San Francisco","100"],
["AT&T - MAIN KITCHEN/SUITE LEVEL [145084]","24 WILLIE MAYS PLAZA 4.10.03 ","San Francisco","100"],
["CYBELLE'S PIZZA","719 14TH ST ","San Francisco","100"],
...
]}

CSV——Comma Separated Values

复制代码
https://dataclips.heroku.com/aniexnddtuqpmtjhmuvdgrqprjns.csv
name,address,city,score
"MINI BAR SF, LLC",837 DIVISADERO ST ,San Francisco,100
AT&T - MAIN KITCHEN/SUITE LEVEL [145084],24 WILLIE MAYS PLAZA 4.10.03 ,San Francisco,100
CYBELLE'S PIZZA,719 14TH ST ,San Francisco,100
PACIFIC UNION CLUB,1000 CALIFORNIA ST ,San Francisco,100
...

其他格式也会在未来得到支持,比如说 XML 与 YAML。但诸如 google-data-table 格式是非常适合于与各种 Google 图表进行整合的。目前,我们可以通过 ImportData(URL)函数将 CSV 格式导入到 Google Calc 电子表格中,每小时刷新一次。

修订与版本

类似于 Gists,Dataclips 也支持版本和修订。每次查询发生变化时,新的 Dataclips 修订就会创建出来(也会列在 dataclip-page 上),对于每个变化的结果(由于数据发生了变化),新的版本也会产生。可以通过向 URL 追加?revision=1&version=5 查询参数来访问不同的修订与版本。类似于 Gists,Dataclips 也可以创建分支,然后独立使用。

实现

Dataclips 的实现是相当直接的。Dataclips 是通过运行在 heroku 基础设施之上的 Ruby 应用来提供服务的,它会定期(目前大约是一分钟一次)在只读事务中运行配置好的查询并获取结果。脚本会监控运行时与查询,并动态调整频率。查询的结果会存储在版本化的表中以供快速访问,它独立于原来的数据库。其他格式在 S3 中创建并缓存下来。HTML 视图并不会缓存,而是即时渲染。

使用与反馈

Craig 就如何使用 Dataclips 给出了很多用例。Dataclips 是自更新的,存储的版本化信息可由决策者使用。对于开发者来说,共享数据变得易如反掌。Dataclips 可用作稳定的 API 来编写原型,甚至是完整的应用。一般来说,他们提供了向混搭与其他使用场景公开数据的能力。另一个有趣的用例是人们可以通过 Dataclips 学习 SQL,只需做个分支,然后编辑 SQL 即可返回结果。

Dataclips 的路线图有很多维度。比如说支持更多的格式或是为 HTML 视图提供样式等显而易见的计划。开启其他的关系数据库很简单,将 Dataclips 集成到 NoSQL 插件提供者中将会非常有趣,当然肯定也会很复杂。另一个有趣的方向是向 Dataclips 添加社交特性,如评论、评级等,这最终会创造出一个 Dataclips 市场(有免费与付费版本)。自定义 URI 尚未有规划。更加频繁地使用 Dataclips 也意味着需要有相应的 API 以编程的方式来创建他们。

到目前为止,来自用户的反馈还是非常积极的,Dataclips 的一些有趣的用例有欺骗检测可视化、用户注册,以及作为仪表盘的数据源等。

对于商业化,Heroku Postgres 还计划了额外一些特性,比如说只能由Heroku 用户才能访问Dataclips。免费版本的安全性通过不可猜测的URI 来保证。

查看英文原文: Heroku Dataclips 2.0 - The Gist of Data

2013-02-04 00:111808
用户头像

发布了 88 篇内容, 共 273.6 次阅读, 收获喜欢 9 次。

关注

评论

发布
暂无评论
发现更多内容

你的JoinHint为什么不生效

华为云开发者联盟

数据库 后端 华为云 华为云开发者联盟 华为云GaussDB(DWS)

本周六下午【 TiDB 社区交流活动 上海站】 数据库运维有话聊,谈谈你了解的灾备实践,参会即可获得社区周边 3 件套

TiDB 社区干货传送门

#数据库

5个免费、跨平台的SQLite数据库可视化工具

不在线第一只蜗牛

sqlite sql 开源 数据可视化

变革自然语言处理的新型大模型架构

百度开发者中心

nlp 大模型

Curve 文件系统为 AI 业务降本增效

OpenCurve

云计算 大数据 AI 分布式 文件存储

未来LED全彩显示屏的发展趋势研究

Dylan

屏幕亮度 LED LED显示屏 户外LED显示屏

Amazon CodeWhisperer 在 vscode 的应用

亚马逊云科技 (Amazon Web Services)

人工智能 云上探索实验室 Amazon CodeWhisperer

更快内存、更大缓存,第五代英特尔至强可扩展处理器为多元工作负载提供出色性能

E科讯

文心大模型助力企业级NLP模型快速定制

百度开发者中心

人工智能 nlp 文心大模型

展位火爆!TDengine 受邀参加EDT2023中国能源化工数字科技峰会

TDengine

tdengine 时序数据库

微店商品API:电商的实时数据利器

Noah

Shopee解析商品详情SKU方法丨ShopeeAPI接口封装指南

tbapi

Shopee 虾皮商品详情接口 shopee商品数据接口 shopee商品详情数据接口 shopee API

软件测试/测试开发/人工智能丨GraphWalker自动化测试用例生成

测试人

人工智能 软件测试

TDengine 签约中船九院,助力航运业智能化转型升级

TDengine

tdengine 时序数据库 国产时序数据库

基于Stable Diffusion的智能绘画大模型

百度开发者中心

人工智能 大模型

制造业进项税额转出全场景数智化管理

用友BIP

用友出席操作系统大会,携手麒麟软件深度服务企业数智化

用友BIP

虾皮Shopee商品详情API:电商实时数据获取的关键

Noah

NFTScan | 12.11~12.17 NFT 市场热点汇总

NFT Research

NFT NFT\ NFTScan nft工具

社招邀请|阿里云热招岗位简历投递中!

阿里云CloudImagine

云计算

集成开发环境(IDE)的用途?

小魏写代码

腾讯捐赠编译器基础软件,为中国开发者“添了双筷子”

腾讯云大数据

大数据

软件测试/测试开发/人工智能丨机器学习特征,离散特征和连续特征

测试人

人工智能 软件测试

Heroku Dataclips 2.0——数据Gist_DevOps & 平台工程_Michael Hunger_InfoQ精选文章