QCon 演讲火热征集中,快来分享技术实践与洞见! 了解详情
写点什么

LinkedIn 图数据库 LIquid:为 9.3 亿会员提供实时数据访问

作者:Eran Stiller

  • 2023-07-07
    北京
  • 本文字数:1014 字

    阅读完需:约 3 分钟

LinkedIn图数据库LIquid:为9.3亿会员提供实时数据访问

最近,LinkedIn 分享了其图数据库LIquid是如何自动索引和实时访问会员、学校、技能、公司、职位、工作、事件等之间的关系数据的。这个知识图谱被称为 LinkedIn 的“Economic Graph”,有 2700 亿条边,并且还在不断增长,目前每秒处理 200 万次查询。


LinkedIn 将其“你可能认识的人(People You May Know,PYMK)”推荐系统从传统的 GAIA 系统迁移到了 LIquid。这一变化显著改善了每秒查询数(QPS)、延迟和 CPU 利用率。QPS 从 120 增加到 18000,延迟从超过 15 秒下降到平均 50 毫秒以下,CPU 利用率下降了 3 倍以上。LIquid 还引入了新的数据库索引技术,支持实时数据查询,实现了即时推荐。



图片来源:https://engineering.linkedin.com/blog/2023/how-liquid-connects-everything-so-our-members-can-do-anything


上图是系统的架构图,使用了 LIquid,可以以较小的延迟和可接受的硬件成本来执行图查询。通过 LIquid 对Economic Graph的查询生成数百个候选对象,并应用第二个排名函数。这个排名函数使用Venice的机器学习功能和Apache Pinot的分析见解来评分并选择最佳候选对象。过滤步骤为呈现和最终评分准备好了这个排名列表。


LIquid 的设计使其能够伸缩到当前十倍的规模,可以支持 LinkedIn 9.3 亿多会员的有机增长和新的语义领域。它提供 99.99%的可用性,并可以自动根据图的大小和活动量的增加进行自动伸缩。


图数据库使用基于Datalog的可组合声明式查询语言,帮助开发人员高效地访问和使用数据。可组合语言能够让开发人员在现有的特性(叫作模块)上进行构建,声明式语言能够让开发人员专注于表达他们想要开发的东西,而 LIquid 自动化了高效的访问过程。开发人员因此可以快速变更数据集,大大减少了调整和更新数据库所需的时间。


LinkedIn 工程总监Bogdan Artintescu描述了 LIquid 的发展路线图:


要让会员能够做更多的事情,我们需要在回答会员的问题方面提供更加完善的能力。我们可以沿着两个方向做出改进。首先,复杂的查询和添加到 Economic Graph 的数据源的多样性将会驱动新特性的开发和呈现。其次,丰富数据将提高推理能力。这可以通过创建派生数据(通过确定性算法或概率机器学习方法)或通过知识图谱(KG)模式中更丰富的语义改进推理来实现。我们计划专注于高性能图形计算和分析,并建立一个 KG 生态系统,让我们的开发人员能够进一步增强会员体验。


LIquid 的成功激励了 LinkedIn 的其他团队和微软的姐妹团队将它作为图数据索引。


原文链接

https://www.infoq.com/news/2023/06/linkedin-liquid-graph-database/

2023-07-07 14:574090

评论

发布
暂无评论
发现更多内容

食品安全分级分层管理系统(源码+文档+部署+讲解)

深圳亥时科技

未来已来,软件行业的下一个风口在哪里?

天津汇柏科技有限公司

人工智能 软件

鸿蒙实战开发:网络层的艺术——优雅封装与搭建指南(上)

王二蛋和他的张大花

鸿蒙

鸿蒙实战开发:网络层的艺术——优雅封装与搭建指南(下)

王二蛋和他的张大花

鸿蒙

数字身份发展趋势前瞻:身份即服务

芯盾时代

身份安全 iam Idaas SaaS应用

在昇腾Ascend 910B上运行Qwen2.5推理

GPUStack

AI 大模型 昇腾 生成式AI NPU

【CoCollider】让系统和应用适配如此简单

iofomo

开发 Android; ios 开发 应用适配 API 测试

鸿蒙开发实战:揭秘页面与项目生命周期,实现精准监控

王二蛋和他的张大花

鸿蒙

浅谈机器学习,聊聊训练过程,就酱!

蛋先生DX

神经网络 机器学习 深度学习

Bartender 5:Mac 菜单栏管理大师,整洁有序!

Rose

ShareMouse for mac完美破解版 跨平台鼠标和键盘共享软件

Rose

adode AE 2025 中文版 After Effects2025新功能介绍

Rose

adobe acrobat pro dc2023破解版 mac&win

Rose

全能型系统优化软件:ccleaner pro mac中文汉化版

Rose

08.装饰者模式设计思想

杨充

EndNote 21大客户授权版 EndNote 下载

Rose

后勤采购管理系统(源码+文档+部署+讲解)

深圳亥时科技

「钢铁巨兽」登陆杭州,天猫养车开启「外卖养车」新模式

科技热闻

活动火热报名中|阿里云&Elastic:AI Search Tech Day

阿里云大数据AI技术

elasticsearch elastic 阿里云 AI搜索

数据消费篇:数据价值实现的关键环节

Aloudata

数据分析 数据集成 数据虚拟化 数据编织 数据查询

智慧报工系统

深圳亥时科技

鸿蒙网络编程系列43-仓颉版HttpRequest下载文件示例

长弓三石

DevEco Studio 开发实例 HarmonyOS NEXT 网络与连接

Python淘宝商品销量采集API实战指南

代码忍者

API 接口 pinduoduo API

一行命令为项目文件添加开源协议头

江湖十年

golang 开源 后端 命令行 命令行工具

BetterDisplay Pro,打造顶级 Mac 显示工具!

Rose

Steinberg Cubase Pro 13 mac安装教程 多功能音乐制作

Rose

Mac FoneLab iOS Unlocker for mac(iPhone解锁工具)

Rose

酒店婚礼LED显示屏如何布置

Dylan

LED显示屏 全彩LED显示屏 led显示屏厂家

技术分享 | 大语言模型赋能软件测试:开启智能软件安全新时代

云起无垠

Red Giant PluralEyes for mac (音频和视频同步工具)v4.1.12激活版

Rose

7thonline第七在线7大价值助力品牌实现智能化商品管理

第七在线

LinkedIn图数据库LIquid:为9.3亿会员提供实时数据访问_数据库_InfoQ精选文章