亚马逊云科技发布大语言模型Titan和生成式人工智能服务Bedrock

新知榜官方账号

2023-08-24 22:18:01

当地时间4月13日,亚马逊云科技在美国一口气发布了自有的大语言模型Titan、生成式人工智能服务Bedrock,并宣布AmazonEC2Trn1n和AmazonEC2Inf2实例正式可用、以及2022年推出过预览版的自动代码生成工具AmazonCodeWhisperer正式可用,并且CodeWhisperer将免费开放给所有个人用户,不会设置资质、使用时长等附加限制。

人工智能是科技公司比拼实力的新舞台,巨头的一举一动牵动着业内人士敏感的神经,日前,亚马逊云科技在北京召开了生成式AI媒体沟通会,亚马逊云科技大中华区产品部总经理陈晓建、亚马逊云科技大中华区数据技术专家团队总监王晓野详细介绍了此次发布会中受到广泛关注的产品动向,以及亚马逊云科技围绕人工智能(AI)和机器学习(ML),从基础架构、到开发/应用、再到构建完整生态的实践及思考。

首先,陈晓建介绍了本次发布中亚马逊云科技关于生成式AI的四项技术创新:新服务AmazonBedrock是一个新颖的完全托管服务,用于构建和扩展生成式AI应用。对于想使用基础模型构建和扩展生成式AI应用程序的用户,AmazonBedrock降低了使用门槛,从而让客户可以通过API访问AI21Labs、Anthropic和StabilityAI等AI初创公司构建在亚马逊云科技上的预训练基础模型,还提供对亚马逊云科技开发的基础模型系列AmazonTitanFMs的独家访问。基于AmazonInferentia2芯片的AmazonEC2Inf2实例全面可用,亚马逊云科技打造更具成本效益的生成式AI云基础设施。生成式AI的推理工作负载很高,Inf2实例为用户在亚马逊云科技上大规模运行这类工作负载提供了高性价比。基于AmazonTrainium芯片的新Trn1n实例则可以将网络带宽提高了一倍,为训练生成式AI模型提供了更高的性能。基于AI的编程助手AmazonCodeWhisperer可让编程提速57%、成功率提速27%。

值得一提的是AmazonBedrock通过API提供了一种全新的无服务器的托管体验,让用户不必关心实例类型、网络拓扑和端点等基础设施细节。只需要在AmazonS3中提供少量(低至20个)带标签的示例,就可以轻松定制Bedrock的基础模型,用于其特定用例。AmazonBedrock完全基于隐私思维构建,使用者用于模型微调的专有数据不会被用于训练基础模型,这样可以确保用户的工作成果不会让其它用户(包括竞争对手)受益。与此同时,用户可以在亚马逊云科技和第三方合作伙伴的多个不同基础模型之间进行选择,这些基础模型都可以进一步定制以支持其特定用例。

对于亚马逊云科技而言,生成式AI的能力由机器学习模型提供,这些基于大量数据进行预先训练的大模型,通常被称为基础模型(FoundationModels)。在过去20多年里,亚马逊投入了大量资金持续开发和部署人工智能(AI)和机器学习(ML),用于为客户提供服务以及内部运营,包括从Amazon.com个性化购物体验的推荐引擎,到优化仓库订单履行的AI驱动机器人。陈晓建谈到:自成立之日起,人工智能一直是亚马逊关注的焦点,在未来将更加如此。我们已经帮助超过10万个不同规模和行业的客户,利用行业领先的能力进行机器学习和人工智能创新。

在宏观层面,亚马逊云科技从五个维度定位生成式AI的价值:普惠化,四项创新作为起点,让客户可以更加灵活地选择构建生成式AI的方式,帮助不同规模的公司用好生成式AI。简化企业级应用,AmazonBedrock提供对预训练基础模型(如来自Anthropic、AI21和StabilityAI的FM)、以及AmazonTitan大语言基础模型的易用API访问。提供更具成本效益的云基础设施,推出配备AWSInferentia2芯片的AmazonEC2Inf2实例、以及配备AWSTrainium的AmazonEC2Trn1n实例为AWS规模运行计算密集型生成式AI工作负载提供高性能和低成本。AI编程工具提高生产力:向所有个人开发者免费开放的AmazonCodeWhisperer,可支持10多种编程语言,能显著提高开发者的生产力,在预览期间可提高57%的任务完成速度和27%的任务成功率。帮助客户重构产品和业务模式,为各行各业的客户提供基础设施和AI/ML服务,支持客户拥抱AI新时代提供经过广泛验证且易于部署的先进AI算法模型,又提供丰富且高性价比的云端资源,帮助客户把握AI时代新机遇。

基础模型的潜力无限,陈晓建表示:我们现在将见证机器学习的下一波广泛应用,无论客户体验还是应用程序都有机会通过使用生成式AI进行重塑。在亚马逊云科技,我们一直致力于通过服务、合作伙伴、芯片和开发者工具在生成式AI领域持续创新——所有的创新都以满足客户构建生成式AI应用程序的需求为基础。

本页网址:https://www.xinzhibang.net/article_detail-10330.html

寻求报道,请 点击这里 微信扫码咨询

关键词

亚马逊云科技 Titan Bedrock

分享至微信: 微信扫码阅读

相关工具

相关文章