0°

ChatGPT 带火 AI 芯片,英伟达发布:ChatGPT 的GPU,让推理提速 10 倍

  北京时间 3 月 21 日晚间,在英伟达 GTC2023 上,英伟达创始人兼首席执行官黄仁勋穿着他标志性的皮夹克,站在位于英伟达总部的垂直绿墙前,发表了一场主题演讲。

  这场发布会几乎完全聚焦于人工智能。

  演讲中,黄仁勋介绍了新一轮技术突破,从 AI 训练到模型部署,再到半导体、软件库、系统乃至云服务,分享了英伟达的加速计算平台如何推动人工智能、元宇宙、云技术和可持续计算的下一波浪潮。英伟达持续推进 AI 硬件,并重点关注这些技术在科技、医疗、金融、图像、物流配送等行业的应用场景,让各行各业的企业更容易使用其技术。

  “我们正处于 AI 的 iPhone 时刻,”黄仁勋表示 “初创公司正在竞相打造颠覆性产品和商业模式,科技巨头也在寻求突破。”

  最近站在风口浪尖之上的“顶流” — 生成式人工智能和 ChatGPT 也在本场发布会占了较大篇幅。“推动这波浪潮的引擎是加速计算,燃料则是 AI。生成式 AI 凭借令人印象深刻的能力令众多企业产生了紧迫感,开始重新构思自己的产品和商业模式。”

  面对逐渐放缓的摩尔定律以及各行业对于可持续性、生成式 AI 和数字化的旺盛需求,加速计算和 AI 的到来可谓恰逢其时。黄仁勋表示,“工业企业正竞相推动数字化转型,并将自身重塑为软件驱动型科技公司,保证自己成为颠覆的力量、而非被颠覆的对象。”

  最近 AIGC 和 ChatGPT 的走后也让英伟达成为背后赢家,大型语言模型需要规模庞大的算力,目前大模型竞赛中的很多玩家都依赖英伟达的 GPU 芯片。据悉,受益于 ChatGPT 相关产品的热度,英伟达 A100、H100 及 A800 系列 GPU 等三款针对数据中心的 GPU 代工订单增加。

  投资公司 Baird 认为,ChatGPT 的“有意义的”订单正在到来,并帮助该英伟达上调了下半年数据中心收入预期。Baird 分析师 Tristan Gerra 表示,英伟达的 Hopper 芯片很可能受益于大型语言模型的增长,并成为一种“长期趋势”。

  据悉,自今年年初以来,英伟达股价涨幅已超 80%。英伟达 2023 财年第四季度财报显示,AI 数据中心业务再次成为该公司最大的收入来源。

  以下为英伟达 GTC 2023 的重要发布概览:

  AI 的 iPhone 时刻

  英伟达提供的技术可以说是 AI 发展的基础,黄仁勋讲述了显卡巨头如何在生成式 AI 革命之初为其提供助力。早在 2016 年,他就向 OpenAI 交付了第一台英伟达 DGX AI 超级计算机,这也正是支持 ChatGPT 大语言模型实现突破的底层引擎。

  去年年底亮相以来,ChatGPT 迅速进入公众视野,吸引到超 1 亿用户,成为历史上增长速度最快的应用程序。黄仁勋感慨,“我们正处于 AI 的 iPhone 时刻 。”

  英伟达 DGX 超级计算机最初仅供 AI 研究,但如今已经在世界各地的企业中全天候运行,负责提炼数据和处理 AI。

  目前,财富百强企业中有一半都在使用 DGX AI 超级计算机。“DGX 超级计算机已经成为现代 AI 的工厂。”

  面向数据中心的英伟达 H100、Grace Hopper 和 Grace

  如今,部署 ChatGPT 这类大语言模型已经成为新的重要推理工作负载。

  为了更好地应对这类需求,黄仁勋公布了新的双 GPU NVLink 产品 H100 NVL。

  基于英伟达的 Hopper 架构,H100 内置一个 Transformer Engine,能够高效承载 GPT 这类大体量模型。与处理 GPT-3 的 HGX A100 相比,通过双 GPU NVLink 接入四对 H100,从而将速度提升 10 倍。

  “H100 能够将大语言模型的处理成本降低一个数量级。”

  H100

  与此同时,过去十年间,云计算年均增长 20% 并发展出价值万亿美元的新产业。英伟达为 AI 和云优先时代设计出 Grace CPU,其中 AI 负载由 GPU 加速。目前 Grace 已经向部分客户提供样片。

  NVIDIA Grace 超级芯片

  英伟达的新型超级芯片 Grace Hopper 可通过 900 GB/ 秒高速接口将 Grace CPU 与 Hopper GPU 连接起来。Grace Hopper 专为大型数据集而生,特别是用于推荐系统和大语言模型的 AI 数据库。

  “客户希望将 AI 数据库再扩大几个数量级,而 Grace Hopper 正是这类用例中的理想引擎。”

0 条回复 A 作者 M 管理员
    所有的伟大,都源于一个勇敢的开始!
欢迎您,新朋友,感谢参与互动!欢迎您 {{author}},您在本站有{{commentsCount}}条评论