GTI 首席科学家杨林：AI 产业化需要标准

本文为 Robin.ly 授权转载，文章版权归原作者所有，转载请联系原作者。

Robin.ly 是一个全新的视频内容平台，旨在为广大工程师和研究人员提高对商业，创业，投资，领导力的理解。第四期是 Robin.ly 创始人 Alex Ren 采访 CNN(细胞式类神经网络）的发明者、硅谷 AI 芯片初创公司 Gyrfalcon Technology(GTI)联合创始人及首席科学家杨林教授 。以下为采访实录摘要，原始视频请访问 www.robin.ly 完整视频请在文末扫二维码关注

Alex: 大家好，我是 Alex Ren，是 BoomingStar Ventures 的管理合伙人，也是 Robin.ly 的创始人。今天是我们的 Robin.ly 第四讲，主题是关于 AI 芯片的创业和技术发展。今天我们的嘉宾是 GTI 的联合创始人杨林教授。杨教授有丰富的业内经历，他曾经就读于复旦，清华和 UC Berkeley，获得了 UC Berkeley 的博士学位。同时也是北邮，清华和复旦的教授。他曾经在 VLSI (Technology, Inc.)，Redwood Design，Cadence 做高级设计经理。1999 年创立了一家半导体公司，Legend Silicon（凌讯科技），专注数字电视方面的芯片。 2017 年，杨教授和 OmniVision 的 founding member 董琪一起创立了一家公司 GTI，Gyrfalcon Technology，专门从事 AI 芯片这方面的工作。杨教授在学术上成果斐然，1988 年就已经发表了一篇名为 Cellular Neural Networks Theory and Application 的文章，获得了 IEEE 的电路与系统最佳论文奖。自此之后，CNN，也就是 Cellular Neural Networks 就成为了一个热点的研究领域。感觉 GTI 创业以来发展得很快，想问问当初创业的初衷是什么？

杨林：创立这个公司的初衷，就是感觉到现在，PC，电脑都已经放到手机上了，通讯都已经做到第五代通讯了，而且目标就是 IoT，Internet of Things，物联网。那么下一步的发展方向必然是人工智能。为什么叫 Internet of Things 呢？原来就叫 internet，相对来讲就应该叫 Internet of People，对不对？那 people 只要连起来，大家就可以交流。因为有这个语言文化，互相都懂。那你说，thing，这个东西连在一起，那很难交流。所以这个时候就需要赋予物体一定的感觉的能力，和判断的能力。这也就是所谓的人工智能要解决的问题。

Alex: 所以您实际上是为了解决 IoT 的 deployment 问题？

杨林：对。主要是为了解决 IoT 下面的连接问题。IoT 已经发展了很多年，但主要就是为了连接。连接由于 5G 开发了以后，现在正在实施。现在急需产业化，这就不再是科研项目了。那么在这个时候，人工智能就起到了非常关键的作用。这是第一。第二，人工智能，或者叫神经网络，前一段时间，虽然产业化没有发展，但是在研发方面还是有人持续在做。研发方面在做也是受益于现在的计算机能力，那么就开发了这种深度学习的概念。深度学习，它的技术方面的定义是叫多层卷积神经网络的机器学习，所以大概有这么三个意思。第一是卷积神经网络，第二是多层，第三个是用机器学习，不用人，不用编程。那么实际它本身的电路结构和算法很早以前就有了，至于为什么能够现在流行起来，一是现在有这个需求，其次就是现在的算力，就是计算机仿真的能力很强。这个我下面可能在谈到其他问题的时候会再展开讲。

Alex: 您的公司创立一年，出片的芯片现在做到了什么样的性能？

GTI 第一款 AISC 芯片 ‘The LightSpur 2801S’

杨林：我们这个芯片当时瞄准的是低成本，低功耗，高性能。首先高性能是必须的。因为要赋予智能，让它能够自己去学习的话，就需要算力，所以必须得是高性能才能保障算力。那么在高性能的情况下，怎么能够降低成本，降低功耗，这个是我们主要的一个工作。那么得益于原来我做的这个 analog 电路，它就是个 device。它从架构来讲，和计算机是不一样的。所以从这里边进行借鉴，我们就达到了预期的目标。

Alex:这是个 ASIC 是吧？

杨林：只要是 application specific 就叫 ASIC，我们也是其中一个。我会叫它卷积神经网络加速器，它不是一个 SoC (System on a Chip)，我们也觉得这个是当前急需的。因为现在市场还没有起来，如果将来市场起来了，根据真正的应用，我们会做不同的电路。但是现在呢，还是属于一个平台，就是我们叫做卷积神经网络加速器。

Alex: 那主要性能是手机上吗，在什么终端上面？

杨林教授介绍 GTI 产品

杨林：手机只是一个应用。提到手机，我就顺便把我们最近做的这个东西拿出来看看。这是我们给电脑，laptop 做的。它是个 USB dango，我们这个芯片就在这里，它就是个加速器。现在的 PC 里边基本什么都有了，即使你没有 GPU，反正只要有 CPU，做训练都没问题，但是它速度慢。所以加了这个以后你就加速了。另外一个，就是用我们的芯片做的一个 WiFi 的小盒子。这个就跟手机一样，跟手机配合。像现在华为和苹果都做了 SoC，就是 single chip solution。但由于卷积神经网络的运算量是需要很大的，那么我们的就是专门做了这么一个，配合现有的手机，就直接把这个手机升级为 AI 手机了。

展开一下就是，为什么我们做这件事，因为我看到了这个机遇。我就是做电路的，这是个 device。现在 叫 CNN，Convolutional Neural Network，我们原来叫 Cellular Neural Network。Cellular Neural Network 是一个电路。它其中有 convolution 作为一个算子，就像里边有乘法。但是它那里边就是 convolution，所以我们在那个里边就有这个 convolution，不光有 convolution，我们还有 feedback，就所谓现在的 RNN。我们现在的重点主要是做 CNN，因为这个 feedback 还有一些其他的问题。所以现在 RNN 只用在一维的信号处理方面，还没有真正用到图像。但是将来我认为是会把应用放到图像层面。

人工智能本身，现在每个人都有自己的定义。有的人觉得这个东西很可怕，将来就是超人。这个和我 30 年前描述计算机时候一样，那时候普遍认为计算机要毁灭人类。但实际上，经过这么多年的发展，我们觉得计算机让人类社会受益良多。30 年前在我上学的时候，那真就是做计算机的人用计算机，用计算机的人做计算机，其他人对计算机没什么接触，就像现在人工智能高发展的时期一样。但是现在不都是人手一份手机，人工智能的普及速度应该会更快。

Alex: 我们现在讲民主化。人工智能民主化。就是您说的，普及化实际上最终是 ASIC。ASIC 本身需要考虑经济效益，考虑成本。那现在您现在在 GTI 做的工作和您以前发明的 CNN 有什么关系吗？

杨林：这个就牵扯到刚才我说的，电路，神经网络和计算机的区分是什么。大家现在有个常用词叫异构。异构的意思就是我和计算机不一样，但是怎么个不一样法，第一，神经网络因为是一个电路，尤其是当时我们做的，它是记忆元器件。记忆的和运算的是一体的。那么现在标准的计算机的架构，就是处理器，存储器，中间还有个 I/O，叫接口，有这三个；我们现在做的这个东西是都放在一起的。正是因为这样，我们才降低了功耗。这样就可以把里边的处理器，包括你的存储器，都用最新的，比如说是，7 纳米，10 纳米的来实现。但是你中间连接接口的那个 pad，就是我们叫芯片的管脚，不变，而那个东西就是大量的传输高速，功耗都在那儿。所以这是一个。

另外就是人也是因素之一，人的智能实际上是记忆和处理在一起的。不是说你想干什么，到哪儿去，充一下电，然后再去存取——它是一体的，这个也是不同。但是作为 computer simulation 来讲，原来架构就是这样，你何苦去改呢。所以我们认为将来的发展，实际上就是这种专用的结构。另外一个，因为计算机对芯片也有要求，大家现在也在比，说是看谁做得最好。我看现在好多 startup 在做的芯片都在比。那么还是计算机的概念。计算机有几个特点，第一，一定要有指令集，就是说我这个东西是专用指令集，指令集简化，没必要，因为这个东西不需要指令。因为顾名思义，深度学习，机器学习嘛，机器学习就是不用人来编程序，不用人来编程序，还要什么指令集呀，对不对？实际上我们真正用数据来训练里边的参数，训练完了以后，人工智能和人类智能相比的好处就是它可以 copy，训练完了可以移植；不像人，我们学完了以后，我们的下一辈还得重学。

Alex: 您讲的这个指令集的变化，非常好。作为一位非常有经验的半导体行业专家，在 AI 时代到来之后，您觉得对整个半导体产业带来些什么样的变革。我们能不能说芯片行业迎来了第二春？

杨林：这是很大的一个变化，但是我认为这个是时代的发展造成的。刚才你提到这个第二春，对我来讲，这就是三十年河东，三十年河西。我当年在 Berkeley 读书的时候，Berkeley EE 和 Computer Science 在一起的叫 EECS，对不对？当时 CS 的人都是 hardware 的。我去年回去，结果发现 EE 根本没有人学了。你只要做出个 AtoD (Analog to Digital)，剩下的就是 digital 的事儿了。所以说 hardward design 的人一点都没有了，基本连学校都不 train 了，都没有人去学。所以针对刚才你说的，这就是为什么我说是三十年河东，三十年河西。下面三十年呢，实际上又给 hardware 的人新的机会，就是我们还要着重去做 hardware。原因我刚才也提到了，它不是一个计算机，它是一个 device。它不一定去竞争，就像苹果手机似的。苹果今年出了手机，我就换个新的，去年的虽然打电话还可以用，但是大家就都换，为什么呢？因为它是通用的东西，通用的东西大家都去比较，谁的最好，因为可比。那以后的人工智能的应用很广泛，有的东西不需要一年一换。比如说你们家的 garage door opener，那个东西你老换它干什么呢，没必要换。包括智能锁等等。

Alex: 您也是长期在中国和美国的半导体行业工作，中国的半导体行业最近也是个热点话题。我们应该怎么做，去把两国的行业差距缩小？

杨林：大的方面刚才我已经说了，本身硬件由于 EDA 这个 tool，由于每个 applicaiton 是有一定限度的，后来都被 general processor 给替代，所以这个需求就很少，这是第一。第二呢，我感觉过去的这 30 年，实际上中国还是处于一个学习和跟踪阶段。尤其做企业的人，我听了好几个比较有名的老板说不要吃第一个螃蟹。那不要吃第一个螃蟹, 你怎么创新呢？但这是适合当时中国国情的，因为你没有那个财力，也没有那个需求，你犯不上去做这些事儿。那么比较稳的就是先把现在这个基本的事情做好。但是现在不一样了，现在中国能做的也都做了，跟别人都已经差不多一样，你要想抄别人的，或者说学习别人的，还没出来呢，那就干脆自己去做这个事儿。

Alex: 您之前创立了 Legend Silicon，现在又创立了 GTI，结合您以前的经验，可以怎么把 GTI 做得更好呢？

杨林：上次创业有几点。第一，就是数字电视进入了产业化阶段，因为数字电视一开始也是科研项目，最早是在日本。那么没有标准化是不可能产业化的。现在 AI 也就是这个问题——没有标准化，大家都想标新立异，每个人想说我明天能不能再研究出来一个不同的，就是为了不同而去做事儿。那这个就不是产业化了，产业化是说尽量相同。而且也不一定说我做完这个事儿，就永远不再做了，已经全解决完了。通讯行业就告诉你了这个标准——第一代通讯，就是模拟电话；然后有 2G，第二代，就是 GSM（Global System for Mobile communications），CDMA（Code-Division Multiple Access）；3G，然后 4G，5G。实际上在做第二代第三代的时候，5G 的技术也存在了，研发上也有人讨论。但是大家说没必要了。标准化，它可以给你定义一个，大家都 follow 同样的东西，而且做现在最急需的东西。现在我认为大家还是在科研的这种状态。

Alex: GTI 作为一家初创公司，现在还算是处于一个早期阶段。您认为如何和 Intel，Nvidia, Qualcomm 这些芯片行业的大公司竞争呢？

杨林：我们为什么有这个信心呢？因为首先我没有抄别人的，这就是我 30 年前自己搞的。但是因为 30 年前在 Berkeley 申请了 CNN 细胞神经网络专利，而且我们在 2012 年专利过期以后又继续申请了专利，第一，你首先要说你不是抄别人的，因为有人跟你打官司啊，你得能证明这是我的。第二呢，你还得有一定的特点，才能保护住。所以在 GTI，我们现在已经有 5 个核心基本专利，很快的。申请专利的时候击败了 Intel 的团队，获得了专利。所以呢，做芯片必须得有专利。没有专利趁早别做。

Alex: 作为一个初创公司，做芯片本身就不容易。面临这么多竞争，即使我们有基础，接下来我们在商业发展上会采取什么样的路径？

杨林：所以我们第一件事就是做一个平台，做一个非常低成本，低功耗，但是还有 AI 性能的平台。让每一个人都先能玩起来。大家都能玩，人才的问题就解决了。就像现在大家都玩计算机，那你不愁找懂计算机编程的。都玩手机，你不愁找手机 app 的 developer。我们的做法就是这个，产业化。现在的计算机和 30 年前的计算机完全不一样，现在的手机和以前的大哥大也完全不一样。它不是一个办公用品，它也不是一个 business 的用品，它就是一个家用（电子设备）。所以我们现在——你看这个东西做的就像让大家玩一样。我也不想拿你去开发什么自动驾驶，智能医疗，不用。你就能用这个识别出来一些很简单的东西，猫，狗等等。

Alex: 所以 GTI 策略是说，我们做一个普及化的平台，让开发人员更容易掌握这些工具，针对他所关心的一些问题做出些解决方案？

杨林：就是这个意思。我今年四月说过，要把 AI 玩起来。我们这个东西上面写的叫“plai”，音译好像就是玩嘛（play）。但是它的直接意思就是 People Learn AI，就是玩的意思。一旦大家都了解了，都玩起来了，你人才也不会缺了，行行业业都是专家。因为 AI 并不是要解决一个高大上的事儿，AI 是要方方面面的解决很简单的事儿。我们最近也在跟一家做 baby monitor 的公司合作。小孩儿一哭或者他刚要哭的时候，你马上把当妈的这个声音录在那儿了，起码给他 distract 一下，就不哭了。这就是很简单的一个事儿，也不需要什么云，可以你自己训练。

杨林老师接受 Robin.ly 采访 Alex 为左 杨教授为右

Alex: 您看到这里有两个以前可能相对来讲隔离比较深的领域，一个是 AI 领域，一个是芯片领域。现在有很多 AI 工程师，也有很多芯片工程师。这两个领域随着商业化会越来越 merge，您对这两个领域的工程师，对他们的职业发展有什么建议？

杨林：现在是个拐点，拐点变化很快，当前的需要就是产业化的问题。刚才我说了产业化，标准化，让大家都能够用起来。等 AI 基本上普及以后——就像手机这种，我觉得搞软件的人已经没用了。你要让一个农民说哪个苹果长虫子了，哪个没长虫子。那他只能告诉你，你拿这个东西照个相，然后告诉我，什么是有虫子的，什么是没虫子的。比如说你们家扫地机，现在都是瞎眼的。只是它很尽力去天天给你扫，现在所谓的智能就是没电了知道走回去充个电。但是真正的人工智能扫地机呢，是干净的地方就不扫了，就不擦，脏了再擦。有根头发捡起来，有了可乐渍喷点东西，这才是智能。基本上将来大家训练 AI，就需要各种级别的导师，而且越低级别的老师需求越多。就像人的学习需要时间，所以才有一个小学毕业到教授，越学历高的人学的时间越长。学的时间越长，就是成本越高，但是大部分的人，对我们真正需要的来说并不需要那么高级别。

Alex: 就好像我们以前教计算机去做事儿，现在转变成去教 AI 去做事儿。

杨林：对。教计算机做事儿呢，你得自己学本领。

Alex: 你要会它的语言，对吧？

杨林：对。机器学习是你只要整理数据就行。中国，美国，欧洲的大学都是 100-400 年的历史，是由于工业革命才诞生。实际上大学就是为了让人去操纵机器，需要一些专业知识，以后不是，以后学校就是培养老师，把机器变成机器人，不是把人变成机器了。教育是要很大的改变的，教育一改变了，人就可以学别的。

Alex: 这个非常有道理啊！那您说现在做硬件的工程师，他们应该做什么呢？

杨林：最近这几年——将来我说的那个时候就没有软件硬件这个概念了，我觉得硬件工程师做这个系统，不是做一样的，不只是 CPU，GPU，应该会有很多 startup。这些 startup 不是在竞争。就像开饭馆似的，每个人有自己的风味，每个人都有自己的特点，只要你自己能够想一个你做的东西有需求，就有 business。这是做硬件的。那做软件的人呢，因为有硬件配套么，那就是生态系统，可能是要做这个。

Alex: 您觉得未来几年比如 3 到 5 年，您自己的目标是什么。还有就是您觉得 GTI 未来 3 到 5 年的发展会是什么样子？

杨林：我们最近的这两三年，就是要做一个普及的平台。我们认为是个平台效应，是 horizontal 的，你放在 PC 上可以自己去开发自己的应用。可能三五年以后，行业应用的人越来越清楚自己要干什么了，因为他先是拿这个平台。虽然物美价廉，但是不够专用，那进一步优化就是要做 ASIC，做专用电路。然后我们再开始做 vertical 的。针对某一个，比如说安防，那以后安防标准化了，大家都做一样的了。再扩展到，方方面面，包括汽车，包括智能医疗，比如家里边有一个 personal doctor，早上起来，看你一照镜子发现今天没睡醒，提醒你一下。如果类似产品有量，我们的 hardware engineer，或者是做芯片的，就会根据这个量进行开发。

我的个人目标现在实际上在填补空白。因为现在没有 hardware design engineer 了，所以我干脆先启动一下。然后在这个时候由于我们的公司增长也很快，以后就要招很多人嘛，培养一些新的人，把这些事儿慢慢做起来以后呢，我也就退休了。

Alex: 所以您是还在提携后辈，提携很多新的工程师。今天真是受益匪浅，杨老师讲了很多他对于整个 30 年来，包括从上一次的人工智能浪潮开始，通讯，半导体，计算机，以及现在人工智能各个方面的洞见。通过以前计算机通讯方面的发展，看到现在 AI 普及化所面临的一些机遇和挑战。杨老师创立的 GTI 也是为了抓住这个基于而来。同时，杨老师也希望利用积累的经验，用新的架构，新的方法去为 AI 普及化做出努力。再次感谢杨老师的分享，我个人受益良多。今天就是我们 Robin.ly 的第四期节目，谢谢大家。

本文转载自 Robinly 微信公众平台。

原文链接：https://mp.weixin.qq.com/s/HbcO2YV7TLqY-vgNP5cEWg