从RISC-V衍生而来,可以将推理训练的效率提升10,000倍。
OpenAI的力量之战刚刚结束,一个关键性的交易已经悄然浮出水面。
据国外媒体《连线》报道,在山姆·阿尔特曼担任 OpenAI CEO期间,该公司曾与雨 AI签署了一份意向书,金额为5100美元,承诺一旦该公司的芯片上市,它就会购买该芯片。
雨人工智能是一家人工智能芯片的创业公司,它的目标是大幅度减少人工智能的计算成本。通过开发一种模拟人类大脑工作原理的人工智能芯片 NPU,我们可以为像 OpenAI、 Anthropic这样的人工智能公司提供“低成本,高能效的硬件”。
该公司表示,“与传统 GPU相比, NPU能够为像 OpenAI这样的人工智能开发者提供100倍的运算能力和10000倍的能量效率。”
考虑到 OpenAI一直苦于运算力不足,所以它愿意花大价钱保证其人工智能项目所需要的芯片供应,也是可以理解的。
雨人工智能开发的芯片有哪些特色?这家公司是怎样脱颖而出的呢?这笔投资透露出 Altman与 OpenAI两家公司对芯片市场的规划是什么?
“类脑”人工智能芯片
雨人工智能公司的核心产品是一款“类脑”人工智能芯片,它以神经拟态技术为基础。芯片的目标是实现低功耗、高效率的信息处理,以满足人工智能对计算能力的要求。
它模仿人类大脑的结构与功能,就像是人脑内的神经网络一样,以人工突触为基础,形成了一张互相连接的神经网络。该体系结构使得 NPU能够并行分布地进行信息处理,非常适合人工智能领域的“计算密集计算”。
此外,雨 AI还率先引入了数字化存储模式(D-IMC),在人工智能处理、数据迁移、存储等方面取得了突破性进展。
![](http://www.openaimy.com/wp-content/uploads/2023/12/42ac0ddec69e8078a08e996f218b8d8a.jpg)
雨 AI的 NPU是为了更高效率地处理信息而设计的,它能满足人工智能任务对计算的要求。
此外,雨还针对智能汽车、智能手表等应用场景,对数字存储芯片及其软件栈进行了知识产权授权。
对于自己的产品, Rain宣称 solgan将“重新定义人工智能计算的极限”,并且宣称“我们的人工智能加速器在速度,功耗,面积,精度以及成本上达到了前所未有的平衡。”
“类脑”芯片(NPU)有望实现高效率、低功耗运行,这对解决英伟达、 AMD等大型芯片“瓶颈”问题具有重要意义。
![](http://www.openaimy.com/wp-content/uploads/2023/12/5f9c32c0ecbc6150bbec74c455ad001f.jpg)
覆盖了 LRE的一系列计算案例
雨 AI创始人之一戈登·威尔逊在 LinkedIn上直言不讳地说:“NPU芯片将会定义人工智能芯片的新市场,并且会对现有的市场造成巨大的冲击。”
不过,值得一提的是,虽然雨 AI声称它的能量效率比英伟达的图形处理器要高,但是,雨最初的芯片却是基于谷歌,高通等技术公司支持的开源RISC-V架构,专门为移动电话,无人驾驶飞机,汽车,机器人等边缘设备设计。
但目前多数边缘芯片的设计,比如智能手机所使用的,主要集中在神经网络推理方面。雨的目的就是要提供一个芯片,既可以训练模型,又可以进行后续的推理运算。
目前,雨人工智能已经发布了第一个人工智能平台,可以进行人工智能的推理与训练,并宣布“类脑”芯片可以让人工智能的模型,根据周围的环境,实时地进行调整。
作为回应,萨姆·阿尔特曼也曾公开表示:“这一神经拟态方法可以极大地减少人工智能的研发费用,并且有希望帮助实现真正的人工智能。”
据报道, OpenAI希望通过这款芯片来降低数据中心的造价,并将其应用到手机、手表等设备上,而“类脑”芯片对于 OpenAI而言无疑是一个巨大的诱惑。
当然,这只是他的猜测。目前,还不清楚 OpenAI会如何利用雨芯片。
与开放 AI紧密相连
2017年,雨人工智能成立,目的是为未来人工智能建立一个“低成本”的计算平台。
雨 AI由杰克•肯德尔,戈登•威尔逊,胡安•克劳迪奥•尼诺三人共同创立。这三人在佛罗里达大学相识。此外,雨 AI还雇佣了斯科特•格雷作为公司的顾问,该公司的软件工程师。
目前,雨因 AI公司拥有大约40名员工,其中包括人工智能算法研发人员和传统芯片设计专家。
![](http://www.openaimy.com/wp-content/uploads/2023/12/e685d9654dee0f8a3f91b155e2708507.jpg)
令人感兴趣的是,雨人工智能公司的总部也设在旧金山,距 OpenAI只有一英里。
成立后的第二年,雨AI获得了500万美元的种子轮融资,投资方是著名的创业孵化机构Y Combinator。
在那之前, Altman是 Y组合的首席执行官,并以个人名义向雨AI投资了100万美元。一年之后, OpenAI批准了这项耗资560,000美元的芯片采购合同。
截至2022年4月,该公司获得了一轮2500万美元的融资,该公司隶属于沙特阿拉伯,是一家名为Prosperity7的投资机构。
今年早些时候,英特尔曾向潜在的投资者“夸炫”自己的进度,称“测试”芯片有望于本月上市,这意味着芯片设计已完成并可投入生产。
雨 AI公司还表示,首批芯片将在明年10月上市,它甚至向投资者透露,它已经同谷歌,甲骨文, Meta,微软,亚马逊等技术巨头举行了高层会谈,向他们出售该系统。但是微软拒绝对此发表评论,其它公司也未对此发表评论。
总之,雨 AI还在研发阶段,什么时候可以投入商业使用还不清楚。“类脑”芯片(NPU)是一种很有前途的技术,得到了广泛的关注,但它仍然面临很多挑战。
开放人工智能的雄心
无论 Altman投资 RainAI是否出于私心,芯片短缺都是一个很大的问题。
实际上,早在一年前,也就是 ChatGPT发布后的一个星期, Altman就意识到了“惨不忍睹”的计算量。此后,他多次公开抱怨人工智能芯片“残酷紧缺”以及成本“令人瞠目”。
![](http://www.openaimy.com/wp-content/uploads/2023/12/65220fea5205623b8103fe292995a314.jpg)
今年5月, Altman甚至无奈地承认:“OpenAI正面临着严重的计算能力不足,很多短期项目已经被搁置”。
OpenAI以其强大的云计算服务而闻名,但是它经常因为硬件的局限性而关闭部分 ChatGPT功能。
作为回应,阿尔特曼说:“人工智能的发展速度可能依赖于新的芯片设计与供应链。”
实际上,早在很久以前, Altman就已经在芯片上做过投资。除了雨 AI之外,他还在2021年左右参与了 Cerabras公司的投资,这家芯片只有盘子那么大,需要双手捧着。
![](http://www.openaimy.com/wp-content/uploads/2023/12/d876b5a96c1e55a9dfb4bbb9dace7c46.jpg)
早些时候,“硅仙人”吉姆·凯勒和“硅神童”萨姆·泽鲁夫创办的原子半导体公司(Atomic Semi)也在关注该公司。
![](http://www.openaimy.com/wp-content/uploads/2023/12/e1a45492be7ffd2cbcc48463f437a53c.jpg)
另外,在 Altman被 OpenAI解雇几个星期前,也有报道说 Altman正试图筹集数十亿美元来建立一家新的芯片公司。
该项目的具体细节尚不清楚,但已知其代号“Tigris”,旨在同英伟达在人工智能芯片领域展开一场较量。
有报道称, Altman为“Tigris”项目进行了中东的筹款活动。地点如此“巧合”,不禁令人联想到雨与该项目之间是否存在某种联系。
此外, Altman已经和半导体公司的高管们讨论过,其中包括 Arm,他们讨论了如何尽快设计新型芯片,以降低像 OpenAI这样的大型语言模型公司的成本。
不只是 Altman一家, OpenAI也在寻找一种可能,以更低的成本建造大型机型,这样就不会依赖于英伟达了。
除了寻找像雨 AI这样的芯片供应商进行投资外, OpenAI还在前一段时间试图开发自己的芯片,对可能的收购对象进行评估,招募与硬件有关的职位。
![](http://www.openaimy.com/wp-content/uploads/2023/12/3ee421f48d3dbceb86e6b31a0e9006d4.jpg)
不久之前, OpenAI任命了谷歌 TPU部门的前主管 Richard Ho担任硬件负责人,同时也雇佣了一批编译和内核方面的专家,同时也在招募“数据中心架构设计专家”。
Ho将带领新的 OpenAI部门,并协助对合作伙伴进行优化。
然而,即便是这样的投资,也无法解决 GPU的短缺问题,目前 OpenAI使用的,依旧是英伟达的芯片。
可以看出, OpenAI在不断地调整诸如 ChatGPT之类的产品,以节约运算能力。所以,最近有网友表示,GPT-4 “偷懒”的可能性要比 GPT-3.5大得多。
伴随着大规模模型的出现,大规模人工智能模式数据中心的电力消耗也引起了人们的注意。雨以及其它一些新创的芯片公司,都在重新设计数据处理模式,以降低传输需求,减少电力消耗。
谷歌,微软, AMD,英特尔,亚马逊,还有像 Cerabras, Sambanova, Rain这样的新兴企业纷纷进入人工智能芯片未来,人工智能的供给市场会发生改变吗?而 OpenAI能够摆脱被人控制的计算能力吗?考虑到芯片的超长寿命,这些难题恐怕还会持续很久。