亚马逊云科技助力客户加速采用生成式AI
模型扩展规模空前,并新增推理优化工具及额外的数据功能,为客户提供了更大的灵活性和控制力,更快构建和部署生产级生成式AI
北京2024年12月6日 /美通社/ -- 亚马逊云科技在2024 re:Invent全球大会上,宣布推出Amazon Bedrock的多项创新功能。Amazon Bedrock是亚马逊云科技一项完全托管的服务,旨在利用高性能基础模型构建和扩展生成式人工智能(AI)应用程序。此次发布进一步彰显了亚马逊云科技对模型选择的承诺,同时优化了大规模推理的执行方式,帮助客户从数据中挖掘更多价值。
在新模型目录中探索Amazon Bedrock Marketplace模型和Amazon Bedrock完全托管的模型
亚马逊云科技人工智能和数据副总裁Swami Sivasubramanian博士表示:"Amazon Bedrock服务持续快速增长,因其广泛而领先的模型选择、可轻松基于自身数据进行定制的工具、内置的负责任的AI功能以及开发复杂智能体的能力成为越来越多客户的选择。为了让客户充分释放生成式AI的潜力,Amazon Bedrock一直致力于解决开发人员当前面临的最大挑战。通过此次新发布的一系列新功能,我们将帮助客户开发出更智能的AI应用程序,让他们为其最终用户创造更大价值。"
汇集领先AI公司的广泛模型选择
Amazon Bedrock为客户提供丰富的完全托管的模型选择,这些模型来自领先的AI公司,包括AI21 Labs、Anthropic、Cohere、Meta、Mistral AI以及Stability AI等。此外,Amazon Bedrock是客户使用新发布的Amazon Nova模型的唯一渠道。Amazon Nova是新一代基础模型,以行业领先的性价比为广泛的任务提供先进的智能能力。通过此次发布,亚马逊云科技在Amazon Bedrock上新增更多行业领先的模型,进一步扩展Amazon Bedrock的模型选择范围。
通过Amazon Bedrock Marketplace访问100多个热门、新兴和专业模型
尽管Amazon Bedrock中的模型能够支持众多任务,许多客户仍希望将新兴的专用模型融入到他们的应用程序中,为其独特的用例,如分析财务文档或生成新型蛋白质等提供支持。借助Amazon Bedrock Marketplace,客户如今能够轻松地从100多个模型中进行查找与选择,这些模型可部署在亚马逊云科技上,并能通过Amazon Bedrock中的统一体验进行访问。这涵盖了诸如Mistral AI的Mistral NeMo Instruct 2407、Technology Innovation Institute的Falcon RW 1B以及NVIDIA NIM微服务等热门模型,以及众多专业模型,如用于金融行业的Writer的Palmyra-Fin、用于翻译的Upstage的Solar Pro、Camb.ai的文本转音频MARS6以及用于生物学的EvolutionaryScale的ESM3生成模型等。
客户一旦找到他们想用的模型,就能依据自身扩展需求选择合适的基础设施,并通过完全托管端点轻松将其部署在亚马逊云科技上。客户随后可将该模型与Amazon Bedrock的统一应用程序编程接口(API)安全集成,从而使用诸如Guardrails和Agents等工具,并受益于内置的安全和隐私功能。
Zendesk是一家全球服务软件公司,服务于覆盖全球10万个品牌的多元文化客户群体。该公司可在Amazon Bedrock中使用如用于翻译的Widn.AI等专用模型,通过电子邮件、聊天、电话以及社交媒体对客户服务请求进行个性化和本地化处理。这将为客服人员提供其所需的数据,比如客户母语表达中的情绪或意图等,最终提升客户服务体验。
提示词缓存和Intelligent Prompt Routing帮助客户大规模处理推理问题
在选择模型时,开发人员需要权衡多种因素,如准确性、成本和延迟。针对其中任一因素进行优化,都可能意味着在其他因素上做出让步。为了在将应用程序部署到生产环境时平衡这些考量因素,客户会采用多种技术,例如缓存常用提示词或将简单问题分配给较小模型。然而,运用这些技术既复杂又耗时,需要专业知识来反复测试不同的方法,以确保终端用户获得良好的体验。正因如此,亚马逊云科技新增了两项功能,帮助客户更有效地大规模管理提示词信息。
Amazon Bedrock知识库的两项新功能助力客户最大程度发挥数据价值
无论自身数据存储于何处、采用何种格式,客户都希望利用它们为终端用户构建独特的由生成式AI驱动的体验。知识库是一项全托管功能,客户借助检索增强生成(RAG),能够轻松利用上下文相关及关联数据自定义基础模型的响应。虽然知识库已能便捷地连接至诸如Amazon OpenSearch Serverless和Amazon Aurora等数据源,但许多客户还希望将其他数据源和数据类型融入其生成式AI应用程序中。基于此,亚马逊云科技为知识库新增了两项功能。
Amazon Bedrock Data Automation将非结构化多模态数据转换为结构化数据,用于生成式AI和分析
如今,大多数企业数据都是非结构化的,这些数据包含在文档、视频、图像以及音频文件等内容中。许多客户希望利用这些数据挖掘见解或为客户打造新体验,但将其转换为便于分析或RAG所需的格式往往是一个艰难的手动过程。例如,银行在处理贷款业务时可能会接收多个PDF文档,需要从每个文档中提取详细信息,对姓名、出生日期等特征进行标准化以保证一致性,然后将结果转换为文本格式,再输入数据仓库进行分析。借助Amazon Bedrock Data Automation,客户能够使用单个API从非结构化内容中大规模自动提取、转换并生成数据。
Amazon Bedrock Data Automation能够快速且经济高效地从文档、图像、音频以及视频中提取信息,并将其转换为结构化格式,适用于智能文档处理、视频分析以及RAG等用例。该功能可以使用预定义的默认设置生成内容,例如视频片段每个场景的描述或音频的转录内容,客户也可以根据自身的数据架构生成定制化的输出内容,并将其轻松加载到现有的数据库或数据仓库中。通过与Knowledge Bases的集成,Amazon Bedrock Data Automation还可以解析内容以支持RAG应用程序,通过整合嵌入在图像和文本中的信息,提升结果的准确性和相关性。同时,该功能提供置信度评分,并基于原始内容生成响应,有助于降低生成"幻觉"风险并提高透明度。
Symbeo是一家隶属于CorVel的公司,提供自动化应付账款解决方案。Symbeo计划利用Amazon Bedrock Data Automation,从复杂的文档(如保险理赔、医疗账单等)中自动提取数据。这将帮助Symbeo的团队更快速地处理理赔事务,并缩短向客户回复的周转时间。数字资产管理平台Tenovos正在使用Amazon Bedrock Data Automation在大规模语义搜索中提升内容的复用率,复用率提高了50%以上,节省了数百万美元的营销费用。
Amazon Bedrock Marketplace现已正式可用,同时Amazon Bedrock Knowledge Bases中的推理管理功能、结构化数据检索、GraphRAG以及Amazon Bedrock Data Automation均已预览可用。此外,Luma AI、poolside和Stability AI的模型也即将上线。
了解更多详情,请访问:
世界游网电子刊每周五发行,秉承中国出境旅游资讯门户的宗旨,内容精选当周最热门的新闻动态、最具价值的权威信息、最火爆的旅游话题等,为广大出境旅游行业人士提供一个"无搜索,知百事"的电子新闻平台。
免费订阅
同步掌握出境旅游最新活动和实时资讯!