Achronix如何降低ASR解决方案的成本

新知榜官方账号

2023-12-07 22:33:17

概述

本篇白皮书详细介绍了自动语音识别(ASR)的应用场景,以及Achronix如何在实现ASR解决方案的同时将相关成本降低高达90%。

交互式人工智能(CAI)简介

什么是交互式人工智能(AI)?交互式人工智能(CAI)使用机器学习(ML)的子集深度学习(DL),通过机器实现语音识别、自然语言处理和文本到语音的自动化。CAI流程通常用三个关键的功能模块来描述:1.语音转文本(STT),也称为自动语音识别(ASR)2自然语言处理(NLP)3文本转语音(TTS)或语音合成

ASR处理过程

ASR是CAI流程的第一步,在这里语音被转录为文本。一旦文本可用,就可以使用自然语言处理(NLP)算法以多种方式对其进行处理。NLP包括关键内容识别、情感分析、索引、语境化内容和分析。在端到端的交互式AI算法中,语音合成用于生成自然的语音响应。最先进的ASR算法是通过端到端的深度学习来实现。

FPGA解决方案

声称推理速度高达150TOPS的FPGA硬件加速器在大型计算引擎和高速存储器之间传输数据时会遇到瓶颈,这些瓶颈可能导致硬件利用率低至5%。Achronix和Myrtle.ai携手推出一个ASR平台,该平台由一个200W、x16PCIeGen4加速卡和相关软件组成,可以同时支持多达4000个RTS,每24小时可以处理多达100万个、时长5分钟的转录文件。将单台x86服务器上的PCIe加速卡与云ASR服务的成本相比,第一年的资本支出(CAPEX)和运营成本(OPEX)就可以降低高达90%。

结论

总结CAI中的ASR功能要求RNN机器学习算法具有低延迟、高吞吐量的计算,这对现代AI加速器提出了挑战。Achronix和Myrtle.ai携手推出一个ASR平台,该平台由一个200W、x16PCIeGen4加速卡和相关软件组成,可以同时支持多达4000个RTS,每24小时可以处理多达100万个、时长5分钟的转录文件。将单台x86服务器上的PCIe加速卡与云ASR服务的成本相比,第一年的资本支出(CAPEX)和运营成本(OPEX)就可以降低高达90%。

本页网址:https://www.xinzhibang.net/article_detail-22246.html

寻求报道,请 点击这里 微信扫码咨询

关键词

自动语音识别 交互式人工智能 CAI NLP ASR FPGA

分享至微信: 微信扫码阅读

相关工具

相关文章

相关快讯