深耕AI芯片，这家公司要挑战英伟达
通过最新一轮融资，芯片初创公司Tenstorrent已经成功跻身“独角兽”公司之列。
Tenstorrent设计的芯片是专门为了适配人工智能程序的。AI芯片未来必然是一个庞大的市场。只不过要想战胜它的竞争对手，并且在这个市场上攫取可观的份额，它还有很长的路要走。
上周早些时候，Tenstorrent宣布，该公司成功获得了2亿美元融资，本轮融资由富达管理（Fidelity Management）领投，投资者还包括Eclipse Ventures、Epic CG和摩尔资本（Moore Capital）等风投机构。该公司在此次交易中的估值为10亿美元，从而迈过了所谓“独角兽”公司的门槛。
该公司的创始人及首席执行官柳比萨•巴伊奇和今年1月才加入该公司的传奇芯片设计师、技术总监吉姆•凯勒对《财富》杂志表示，该公司的首款产品将于今年第三季度正式投入商用。该AI芯片的运行速度将达到368万亿次每秒，高于市场领军者英伟达（Nvidia）同类芯片每秒260万亿次的运算能力。不过在现实应用中，还有很多因素也可能会影响一款芯片的性能。
与此同时，Tenstorrent公司还在对一款后续芯片进行测试，预计将在2022年上半年正式推出。
凯勒指出，公司在前期的一个重要目标，就是要吸引那些能够写出先进的AI应用的程序员在这款芯片上测试他们的软件。“程序员会使用这些电脑，如果他们喜欢这款芯片，就会告诉他们的朋友，如果他们不喜欢，也会给我们反馈。这也是一个很重要的测试过程。”
分析人士对这款芯片的早期数据十分看好，不过他们也表示，该公司仍然有很长的路要走，而且它还面临着许多竞争对手，其中既有英伟达、AMD、英特尔（Intel）和谷歌（Google）这种一线大厂，也有Graphcore、SambaNova和Groq等同样很有前景的初创公司。根据研究公司IDC的数据，AI专用硬件市场的市值在去年达到了将近150亿美元，这个市场主要被英伟达主导。预计到2024年，它的市场规模有望达到310亿美元，也就是每年增长20%。
芯片大战
彼得•鲁登是IDC公司的一位主要跟踪发展中市场的分析师。他说：“Tenstorrent公司的技术似乎是很好的。跨过‘独角兽’门槛，对它来说是一个重要的里程碑。”不过目前，整个AI芯片领域“都在吸引大量投资”，而很多公司的技术“在所有重要指标上，性能表现都很出色”。
比如，由谷歌前TPU设计师乔纳森•罗斯领导的Groq公司，上月刚从几家风投那里拉到了3亿美元融资。另一家AI芯片公司SambaNova也拉到了6.76亿美元融资。
Tenstorrent芯片的突出特点，是它在运行程序的同时，可以对人工智能软件进行动态修正，目的是减少不必要的计算量，从而加快关键计算的速度。该公司还拥有一个30人的软件团队，他们的工作就是让芯片编程变得更容易。
寒武纪人工智能研究公司（Cambrian AI Research）的分析师卡尔•弗罗因德认为：“这是一个很有前景的策略，他们知道软件是至关重要的，而且他们在软件上的投入已经超过了硬件。如果说有谁可以成功地挑战英伟达，那很可能就是这些人。”
Tenstorrent还在开发一种新的芯片互联模式，让它们能够比标准产品更快地共享数据。在该模式下，这些芯片不需要以太网等外部网络技术进行互联，而是可以直接进行相互通信。巴伊奇解释道：“我们不需要任何网络基础设施，也不需要任何交换机。”
该公司的技术路径与很多竞争对手都有所不同。英伟达和AMD都在推动由图形处理器（GPU）改造的AI芯片。这种芯片胜在能够快速进行同步计算。英特尔则在2019年收购了AI芯片公司哈瓦那实验室（Habana Labs）。而三星集团（Samsung）则选择了在通用型芯片基础上添加专用的AI处理器。
与此同时，谷歌刚刚发布了它的AI芯片的升级版，该芯片是一个4096个芯片单元的运算集群，它大大提高了计算力和芯片单元之间的数据共享。位于美国加州的初创公司Cerebras则研发了一种唱片大小的芯片，每个芯片包含了1.2万亿个晶体管，而业内的其他芯片往往只有邮票那么大。这种暴力堆晶体管的方式虽然可以提高计算力，但毫无疑问也会消耗更多电力，并且使设计变得更复杂。
通用型AI
现在，整个AI芯片行业都在争相围绕各种AI程序进行优化，好让这些程序更加高效、运行速度更快。例如Siri和Alexa等语音助手背后的语音识别系统，再比如现在方兴未艾的自动驾驶技术。
人工智能行业的长远目标之一，就是创造一种不仅能够解决单一问题（例如语音识别）的AI程序。不过几十年来，这种所谓的通用型AI系统始终是一个难以实现的目标。但由于Tenstorrent系统的运行机制更像人脑，巴伊奇认为，该公司的芯片在这方面大有可为。他说：“很有可能我们可以跨过某种门槛。”
自新冠疫情爆发以来，由于半导体行业的产能和供应链问题，全球芯片供应都出现了短缺。Tenstorrent公司在这方面也面临着同样的挑战。该公司本来打算把芯片做到一张卡上，用户买来后直接插入服务器即可。这种芯片将于今年7月上市，起价为1000美元。
但是现在，服务器的产能也出现了问题，很多新硬件的交货都被推迟了。而且一些客户可能不愿意在业务一线的计算机上使用一家初创公司的芯片卡。有鉴于此，Tenstorrent还将销售内置了该公司芯片的主机，这些主机能够直接放到数据中心或者服务器机房的机架上，其售价为4000到10000美元不等。Tenstorrent还打算在一个云数据中心里安装一些芯片，让客户无需购买任何设备就可以远程使用。
凯勒指出：“我们要做的事情很简单，就是以合理的价格向人们卖电脑。另外，我们还能够（通过云端）配置电脑，让人们可以直接去用。”在短期看来，Tenstorrent的规模仍然太小，还不足以说服亚马逊（Amazon）在数据中心里安装它的处理器以供用户使用。不过凯勒认为，这在以后是有可能变成现实的。
凯勒曾经在多家大型科技公司工作过，虽然每段工作经历都不很长，但他都发挥了十分重要的作用。20世纪90年代，他为Digital Equipment公司开发了几款行业领先的芯片。后来，他又帮助苹果（Apple）开发了最早的iPhone和iPad的内部芯片。之后，他还设计了特斯拉（Tesla）的自动驾驶芯片。在加盟Tenstorrent公司之前，他还在英特尔工作过两年，不过当时的英特尔正在遭遇产能延误和领导层更迭的问题。他于2020年6月离开了英特尔。
Tenstorrent之所以能够在这样一个竞争激烈的领域中迅速建立口碑，并且拉到融资，与聘请了这位芯片设计大牛不无关系。
走出地下室
Tenstorrent公司的首席执行官巴伊奇是在塞尔维亚长大的，当时的塞尔维亚还是南斯拉夫的一部分。他的高中是在莫斯科上的，并且深深地被那里浓厚的数学氛围所吸引。1985年，他移居加拿大学习电气工程，然后到了硅谷从事芯片研究。他在VLSI公司和英伟达都工作过，2014年他去了AMD，他也是在那里认识凯勒并与之共事的。后来两人都离开了AMD，凯勒在特斯拉工作了几年，而巴伊奇则创办了这家名叫Tenstorrent的初创公司。
当时，凯勒还鼓励过创业中的巴伊奇。凯勒对他说，如果巴伊奇想出了什么“很酷的东西”，他愿意提供创业的种子资金。后来巴伊奇想做一种专门用于机器学习的芯片，并且设计出了原型产品。巴伊奇说，他把它装在了一个“褐色的破盒子”里，拿给了正在特斯拉工作的凯勒看。
这次见面，巴伊奇还迟到了，但凯勒还是对破盒子里的东西印象深刻，他决定为这家初创公司提供启动资金。他之所以做出这个决定，不仅仅是因为这款芯片的潜力。凯勒说：“我之所以愿意给他投资，有一部分原因是因为如果他这样的人，可以跟几个人窝在地下室里用整整一年的时间来研究这项技术，会是一件很滑稽的事情，而他们确实这样做了。”
巴伊奇最终走出了地下室，搬进了多伦多更好的办公室。在接受《财富》杂志视频采访时，巴伊奇笑道：“在地下室创业的一个副作用，就是我已经习惯了昏暗的光线条件。”说这话的时候，他正坐在自家房子的那个地下室里。经过了几年的发展，他终于成功地“引诱”凯勒为他工作了。
当前，AI硬件初创公司的繁荣状态，让凯勒回忆起了早期的芯片时代。曾几何时，这个行业里有30多家公司在开发图形处理器，后来又有40多家公司在开发网络芯片（凯勒本人就曾经在一家名为SiByte的公司工作过，该公司在2000年被博通收购）。
“人工智能也在经历同样的繁荣，而且我敢肯定，它的繁荣程度还要超过芯片时代。”他说。（财富中文网）
译者：朴成奎
通过最新一轮融资，芯片初创公司Tenstorrent已经成功跻身“独角兽”公司之列。
Tenstorrent设计的芯片是专门为了适配人工智能程序的。AI芯片未来必然是一个庞大的市场。只不过要想战胜它的竞争对手，并且在这个市场上攫取可观的份额，它还有很长的路要走。
上周早些时候，Tenstorrent宣布，该公司成功获得了2亿美元融资，本轮融资由富达管理（Fidelity Management）领投，投资者还包括Eclipse Ventures、Epic CG和摩尔资本（Moore Capital）等风投机构。该公司在此次交易中的估值为10亿美元，从而迈过了所谓“独角兽”公司的门槛。
该公司的创始人及首席执行官柳比萨•巴伊奇和今年1月才加入该公司的传奇芯片设计师、技术总监吉姆•凯勒对《财富》杂志表示，该公司的首款产品将于今年第三季度正式投入商用。该AI芯片的运行速度将达到368万亿次每秒，高于市场领军者英伟达（Nvidia）同类芯片每秒260万亿次的运算能力。不过在现实应用中，还有很多因素也可能会影响一款芯片的性能。
与此同时，Tenstorrent公司还在对一款后续芯片进行测试，预计将在2022年上半年正式推出。
凯勒指出，公司在前期的一个重要目标，就是要吸引那些能够写出先进的AI应用的程序员在这款芯片上测试他们的软件。“程序员会使用这些电脑，如果他们喜欢这款芯片，就会告诉他们的朋友，如果他们不喜欢，也会给我们反馈。这也是一个很重要的测试过程。”
分析人士对这款芯片的早期数据十分看好，不过他们也表示，该公司仍然有很长的路要走，而且它还面临着许多竞争对手，其中既有英伟达、AMD、英特尔（Intel）和谷歌（Google）这种一线大厂，也有Graphcore、SambaNova和Groq等同样很有前景的初创公司。根据研究公司IDC的数据，AI专用硬件市场的市值在去年达到了将近150亿美元，这个市场主要被英伟达主导。预计到2024年，它的市场规模有望达到310亿美元，也就是每年增长20%。
芯片大战
彼得•鲁登是IDC公司的一位主要跟踪发展中市场的分析师。他说：“Tenstorrent公司的技术似乎是很好的。跨过‘独角兽’门槛，对它来说是一个重要的里程碑。”不过目前，整个AI芯片领域“都在吸引大量投资”，而很多公司的技术“在所有重要指标上，性能表现都很出色”。
比如，由谷歌前TPU设计师乔纳森•罗斯领导的Groq公司，上月刚从几家风投那里拉到了3亿美元融资。另一家AI芯片公司SambaNova也拉到了6.76亿美元融资。
Tenstorrent芯片的突出特点，是它在运行程序的同时，可以对人工智能软件进行动态修正，目的是减少不必要的计算量，从而加快关键计算的速度。该公司还拥有一个30人的软件团队，他们的工作就是让芯片编程变得更容易。
寒武纪人工智能研究公司（Cambrian AI Research）的分析师卡尔•弗罗因德认为：“这是一个很有前景的策略，他们知道软件是至关重要的，而且他们在软件上的投入已经超过了硬件。如果说有谁可以成功地挑战英伟达，那很可能就是这些人。”
Tenstorrent还在开发一种新的芯片互联模式，让它们能够比标准产品更快地共享数据。在该模式下，这些芯片不需要以太网等外部网络技术进行互联，而是可以直接进行相互通信。巴伊奇解释道：“我们不需要任何网络基础设施，也不需要任何交换机。”
该公司的技术路径与很多竞争对手都有所不同。英伟达和AMD都在推动由图形处理器（GPU）改造的AI芯片。这种芯片胜在能够快速进行同步计算。英特尔则在2019年收购了AI芯片公司哈瓦那实验室（Habana Labs）。而三星集团（Samsung）则选择了在通用型芯片基础上添加专用的AI处理器。
与此同时，谷歌刚刚发布了它的AI芯片的升级版，该芯片是一个4096个芯片单元的运算集群，它大大提高了计算力和芯片单元之间的数据共享。位于美国加州的初创公司Cerebras则研发了一种唱片大小的芯片，每个芯片包含了1.2万亿个晶体管，而业内的其他芯片往往只有邮票那么大。这种暴力堆晶体管的方式虽然可以提高计算力，但毫无疑问也会消耗更多电力，并且使设计变得更复杂。
通用型AI
现在，整个AI芯片行业都在争相围绕各种AI程序进行优化，好让这些程序更加高效、运行速度更快。例如Siri和Alexa等语音助手背后的语音识别系统，再比如现在方兴未艾的自动驾驶技术。
人工智能行业的长远目标之一，就是创造一种不仅能够解决单一问题（例如语音识别）的AI程序。不过几十年来，这种所谓的通用型AI系统始终是一个难以实现的目标。但由于Tenstorrent系统的运行机制更像人脑，巴伊奇认为，该公司的芯片在这方面大有可为。他说：“很有可能我们可以跨过某种门槛。”
自新冠疫情爆发以来，由于半导体行业的产能和供应链问题，全球芯片供应都出现了短缺。Tenstorrent公司在这方面也面临着同样的挑战。该公司本来打算把芯片做到一张卡上，用户买来后直接插入服务器即可。这种芯片将于今年7月上市，起价为1000美元。
但是现在，服务器的产能也出现了问题，很多新硬件的交货都被推迟了。而且一些客户可能不愿意在业务一线的计算机上使用一家初创公司的芯片卡。有鉴于此，Tenstorrent还将销售内置了该公司芯片的主机，这些主机能够直接放到数据中心或者服务器机房的机架上，其售价为4000到10000美元不等。Tenstorrent还打算在一个云数据中心里安装一些芯片，让客户无需购买任何设备就可以远程使用。
凯勒指出：“我们要做的事情很简单，就是以合理的价格向人们卖电脑。另外，我们还能够（通过云端）配置电脑，让人们可以直接去用。”在短期看来，Tenstorrent的规模仍然太小，还不足以说服亚马逊（Amazon）在数据中心里安装它的处理器以供用户使用。不过凯勒认为，这在以后是有可能变成现实的。
凯勒曾经在多家大型科技公司工作过，虽然每段工作经历都不很长，但他都发挥了十分重要的作用。20世纪90年代，他为Digital Equipment公司开发了几款行业领先的芯片。后来，他又帮助苹果（Apple）开发了最早的iPhone和iPad的内部芯片。之后，他还设计了特斯拉（Tesla）的自动驾驶芯片。在加盟Tenstorrent公司之前，他还在英特尔工作过两年，不过当时的英特尔正在遭遇产能延误和领导层更迭的问题。他于2020年6月离开了英特尔。
Tenstorrent之所以能够在这样一个竞争激烈的领域中迅速建立口碑，并且拉到融资，与聘请了这位芯片设计大牛不无关系。
走出地下室
Tenstorrent公司的首席执行官巴伊奇是在塞尔维亚长大的，当时的塞尔维亚还是南斯拉夫的一部分。他的高中是在莫斯科上的，并且深深地被那里浓厚的数学氛围所吸引。1985年，他移居加拿大学习电气工程，然后到了硅谷从事芯片研究。他在VLSI公司和英伟达都工作过，2014年他去了AMD，他也是在那里认识凯勒并与之共事的。后来两人都离开了AMD，凯勒在特斯拉工作了几年，而巴伊奇则创办了这家名叫Tenstorrent的初创公司。
当时，凯勒还鼓励过创业中的巴伊奇。凯勒对他说，如果巴伊奇想出了什么“很酷的东西”，他愿意提供创业的种子资金。后来巴伊奇想做一种专门用于机器学习的芯片，并且设计出了原型产品。巴伊奇说，他把它装在了一个“褐色的破盒子”里，拿给了正在特斯拉工作的凯勒看。
这次见面，巴伊奇还迟到了，但凯勒还是对破盒子里的东西印象深刻，他决定为这家初创公司提供启动资金。他之所以做出这个决定，不仅仅是因为这款芯片的潜力。凯勒说：“我之所以愿意给他投资，有一部分原因是因为如果他这样的人，可以跟几个人窝在地下室里用整整一年的时间来研究这项技术，会是一件很滑稽的事情，而他们确实这样做了。”
巴伊奇最终走出了地下室，搬进了多伦多更好的办公室。在接受《财富》杂志视频采访时，巴伊奇笑道：“在地下室创业的一个副作用，就是我已经习惯了昏暗的光线条件。”说这话的时候，他正坐在自家房子的那个地下室里。经过了几年的发展，他终于成功地“引诱”凯勒为他工作了。
当前，AI硬件初创公司的繁荣状态，让凯勒回忆起了早期的芯片时代。曾几何时，这个行业里有30多家公司在开发图形处理器，后来又有40多家公司在开发网络芯片（凯勒本人就曾经在一家名为SiByte的公司工作过，该公司在2000年被博通收购）。
“人工智能也在经历同样的繁荣，而且我敢肯定，它的繁荣程度还要超过芯片时代。”他说。（财富中文网）
译者：朴成奎
Chip startup Tenstorrent has achieved a key milestone with its latest funding: Unicorn status.
But the company, which is designing specialized chips for running artificial intelligence applications, still has a long way to go to outpace its rivals and capture a significant share of what's expected to be a huge market.
Earlier last week, Tenstorrent announced that it raised $200 million from a group of investors led by Fidelity Management and including Eclipse Ventures, Epic CG, and Moore Capital. The deal valued five-year-old company at $1 billion, the threshold at which a startup can claim so-called unicorn status.
Founder and CEO Ljubisa Bajic and chief technology officer Jim Keller, the legendary chip designer who joined in January, tell Fortune that the company's first product will become commercially available in the third quarter. That processor is capable of 368 trillion operations per second on A.I. tasks, more than the up to 260 trillion claimed by market leader Nvidia’s equivalent chip, although many variables go into a chip’s performance on real-world applications.
A follow-on chip from Tenstorrent is being tested and is expected to ship in the first half of 2022.
Keller says a key early goal is to attract outside programmers who write cutting-edge A.I. applications to try out their software on Tenstorrent's chips. "The programmers will use the computers, and if they like it, they tell their friends, and if they don't like it, they give us feedback," Keller says. "That's where the rubber hits the road."
Analysts are impressed with the early results, but warn there's a long way to go and many competitors, from major players like Nvidia, AMD, and Intel to Google and other startups such as Graphcore, SambaNova, and Groq. The market for specialized A.I. hardware reached almost $15 billion last year, dominated by Nvidia, and it's forecast to grow 20% annually to $31 billion by 2024, according to research firm IDC.
Many A.I. chip startups
"Tenstorrent’s technology appears to perform well—that’s an important first milestone," says Peter Rutten, an analyst who follows the developing market for IDC. But, the entire field is "attracting a remarkable amount of investment dollars," he says, and many companies with technology that is "pretty good performance-wise on all the important benchmarks."
Groq, led by former Google TPU designer Jonathan Ross, raised $300 million from VC firms last month and SambaNova raised $676 million.
Tenstorrent chips stand out by reworking A.I. software on the fly as the programs run on the processors. The idea is to reduce the amount of unnecessary calculating so as to speed up key calculations. The company also has a team of 30 people working on software to make programming for the chips easier.
That's a particularly promising strategy that sets the company apart, says analyst Karl Freund at Cambrian AI Research. "They know that software is critical and are spending more on software now than hardware," he says. "If anyone can successfully challenge Nvidia, it may be these guys."
Tenstorrent also focused on developing a different way to link many of its chips so they can share data more quickly than standard products. The chips don't need to connect to each other via an outside networking technology like ethernet, but instead they can communicate with each other more directly. "We don't need to go through any network infrastructure or any switches," Bajic explains.
The approach is different than many rivals. Nvidia and AMD are pushing A.I. chips adapted from graphics processing units, or GPUs, that excel at running calculations quickly and simultaneously. Intel, which bought A.I. chip specialist Habana Labs in 2019, and Samsung have focused on adding dedicated specialty A.I. processors within their more general purpose chips.
Meanwhile, Google just announced an update of its A.I.-focused chip that it plans to link in vast pods of 4,096 chips to speed data sharing between processors. And California-based startup Cerebras is making chips that are the size of a record album, with 1.2 trillion transistors each, versus the rest of the industry's postage-stamp sized silicon. Putting more transistors on a chip may increase computing power, but it also eats up more electricity and complicates the design.
General A.I.
The entire field is racing to make A.I. programs faster and more efficient for an increasing array of applications, from the speech recognition systems powering digital assistants like Siri and Alexa to self-driving cars.
One of the industry's long-term goals is to enable the creation of artificial intelligence that can do more than work on a single specialized problem like speech recognition. So-called general A.I. has been an elusive goal for decades. But with Tenstorrent's systems acting more like the human brain, Bajic sees the possibility of aiding the search. "There is a chance that some kind of threshold could be crossed," he says.
A global chip supply shortage, caused by a lack of manufacturing capacity in the semiconductor industry and supply chain woes during the pandemic, has created challenges. The original plan was to put the chip on a card that customers could buy and plug into servers. Those will go on sale in July starting for $1,000.
But the server manufacturing is backlogged, delaying availability of new hardware for customers that may not want to install a startup's card in their front line computers. So Tenstorrent will also sell rack-mounted computers with its chips that can be put directly in data centers or server rooms for $4,000 to $100,000 each. And Tenstorrent will install some of its chips in a cloud data center for customers to use remotely without having to buy any gear.
"We're going to do the simple and obvious thing, which is sell people computers, and also set up computers that they can use (via the cloud) for a reasonable price," Keller says. In the short run, Tenstorrent is probably too small to convince Amazon to install its processors in cloud data centers for customers, Keller says, but it could happen in the more distant future.
Keller’s career is filled with short but significant stints at major technology companies. In the 1990s, he helped create some of Digital Equipment's industry-leading chips. Later, he worked on Apple's earliest in-house chips for iPhones and iPads. Following that, he designed Tesla's self-driving chip. Before joining Tenstorrent, Keller spent two years at Intel, which was struggling with manufacturing delays and leadership turnover. He left Intel in June 2020.
Hiring the chip design master has helped Tenstorrent build credibility in a crowded field and attract new funding.
Out of the basement
Tenstorrent CEO Bajic grew up in Serbia when the country was part of Yugoslavia and went to high school in Moscow, attracted by the strong math offerings. He moved to Canada in 1985 to study electrical engineering and then went to Silicon Valley to work on chips. After stints at VLSI and Nvidia, Bajic went in 2014 to AMD, where he first met and worked for Keller. Both left for other things—Keller to join Tesla for a few years and Bajic to develop his own ideas for a startup that became Tenstorrent.
At the time, Keller wanted to encourage Bajic, telling him he'd supply seed funding for a startup if Bajic came up with "something cool." So Bajic developed an idea for a chip intended to excel at machine learning and built an early prototype. He says he brought it to show Keller at Tesla in a "big, brown ragged box."
Bajic was late for the meeting, but Keller was still impressed with the contents of the ragged box and decided to offer initial funding for a startup. It wasn't just the chip's potential, Keller adds: "I funded him partly because I thought it would be hilarious if he and a couple guys lived in the basement for a year building this technology, which they literally did."
Bajic eventually moved out of his basement and into nicer offices in Toronto. "One of the side effects is that I got used to low light conditions," Bajic jokes now, as he sat in the same basement of his house for a Zoom interview with Fortune. After a few years of progress, he lured Keller to work for him.
The current boom in A.I. hardware startups reminds Keller of earlier eras of chips. At one time, there were more than 30 companies developing graphics processors, he recalls, and later there were about 40 startups working on networking chips (Keller worked at one called SiByte that was bought by Broadcom in 2000).
"A.I. is kind of going through the same boom, and, as best I can tell, it's gonna be bigger than the previous ones," he says.
