新知榜官方账号
2023-09-20 16:16:38
英伟达在推理方面的全新GPU推理平台包括4种配置,一个体系架构,一个软件栈,分别用于加速AI视频、图像生成、大型语言模型部署和推荐系统。其中最主要的是H100NVL,它将英伟达的两个H100GPU拼接在一起,以部署像ChatGPT这样的大型语言模型(LLM)。H100NVL将英伟达的两个H100GPU拼接在一起,以部署像ChatGPT这样的大型语言模型(LLM)。H100不是新的GPU,英伟达在一年前的GTC上展示了其Hopper架构,并在各种任务中加速AI推理。英伟达表示,H100NVL附带94GB内存,与上一代产品相比,H100的综合技术创新可以将大型语言模型的速度提高30倍。
当地时间3月21日,英伟达首席执行官黄仁勋将OpenAI的ChatGPT称为人工智能的“iPhone时刻”,并在该公司的春季GTC大会上宣布了专为其设计的推理GPU(图形处理器)。除此之外,英伟达还发布了AI超级计算服务DGXCloud、突破性的光刻计算库cuLitho、加速企业创建大模型和生成式AI的云服务NVIDIAAIFoundations等,以及与QuantumMachines合作推出了全球首个GPU加速量子计算系统。
英伟达在GTC大会上发布了新产品和服务,其中最引人注目的是全新GPU推理平台。该平台包括4种配置,一个体系架构,一个软件栈,分别用于加速AI视频、图像生成、大型语言模型部署和推荐系统。此外,英伟达还与QuantumMachines合作推出了全球首个GPU加速量子计算系统,加速企业创建大模型和生成式AI的云服务NVIDIAAIFoundations等等。
在GTC大会上,黄仁勋将OpenAI的ChatGPT称为人工智能的“iPhone时刻”,并在发布会上宣布了专为其设计的推理GPU。他还介绍了英伟达的其他新产品和服务,如AI超级计算服务DGXCloud、突破性的光刻计算库cuLitho等等。总体而言,英伟达在推理方面的全新GPU推理平台包括4种配置,一个体系架构,一个软件栈,分别用于加速AI视频、图像生成、大型语言模型部署和推荐系统。这些新产品和服务将能够加速企业的AI创新,为人工智能领域带来更多的机遇。
除此之外,英伟达还推出了全新云服务及代工厂NVIDIAAIFoundations,这个云服务包括语言、视觉和生物学模型制作服务。NeMo是用于构建定制的语言文本转文本生成式模型,Picasso是视觉语言模型构建服务,BioNeMo是生命科学服务,提供AI模型训练和推理,加速药物研发中最耗时和成本最高的阶段。此外,英伟达还推出了全新的超级芯片Grace-Hopper,适用于推荐系统和大型语言模型的AI数据库。面向元宇宙领域,英伟达推出了第三代OVX计算系统和新一代工作站,为基于NVIDIAOmniverseEnterprise的大规模数字孪生提供动力。此外,英伟达与三菱联合发布了将用于加速药物研发的日本第一台生成式AI超级计算机Tokyo-1。
相关工具
相关文章
相关快讯
推荐
中国首款3A游戏上线,《黑神话:悟空》出圈!
2024-08-21 13:46
盘点15款AI配音工具,短视频配音有救了!
2024-08-12 17:11
短视频文案没创意?10大AI写作工具来帮你!
2024-08-05 16:23
Midjourney发布V6.1版本,我已分不清AI和现实了!
2024-08-01 15:03
我发现了一款国产AI绘画神器,免费易上手!
2024-07-25 16:40
7位AI考生做今年高考题,能过一本线吗?
2024-07-19 17:17
世界上第一所AI学校来了,80亿人只需要1位老师?
2024-07-18 17:12
Sora首部AI广告片上线,广告从业者危险了!
2024-06-27 13:44
OpenAI与中国说拜拜,国产AI如何接棒?
2024-06-26 15:18
人与AI会产生爱情吗,专家发话了!
2024-06-17 17:28