互联网资讯 · 2024年1月21日

Claude 2.1与Llama 2 70B大模型在Amazon Bedrock上线

在2023年美国拉斯维加斯召开的技术大会上,亚马逊云科技的数据和人工智能副总裁发布了多项生成式AI领域的创新,其中包括AnthRopic的Claude 2.1和Meta的Llama 2 70B大模型,这两款模型现已在Amazon Bedrock平台上正式上线。

亚马逊云科技新增Claude 2.1和Llama 2 70B两款大模型在Amazon Bedrock可用

Amazon Bedrock是亚马逊云科技于今年4月推出的一项全面托管服务,企业用户可以通过API等方式便捷地访问包括亚马逊自研的Titan系列模型以及其他第三方大模型。

在生成式AI领域,AnthRopic被认为是OpenAI的有力竞争者,其旗舰大模型Claude展现了强大的能力。此外,AnthRopic与亚马逊之间的合作关系也愈加紧密。

今年9月,亚马逊宣布与AnthRopic建立战略合作,双方的协议包括亚马逊向AnthRopic投资40亿美元并持有其部分股权;同时,AnthRopic承诺将通过Amazon Bedrock向全球客户提供未来基础模型的访问权限;此外,亚马逊的开发者和工程师可以利用Amazon Bedrock使用AnthRopic的模型来构建产品,从而将生成式AI能力融入他们的工作中。

亚马逊云科技新增Claude 2.1和Llama 2 70B两款大模型在Amazon Bedrock可用

在Amazon Bedrock上正式可用的Claude 2.1模型提供了高达200,000个Token的上下文窗口,提升了长文档的处理精度。客户能够处理如财务报表和内部数据集等文本密集型文档。Claude 2.1还具备文档总结和对比、问答等功能。根据AnthRopic的报告,与之前的模型相比,Claude 2.1在开放式对话中的错误陈述率降低了50%。

亚马逊云科技新增Claude 2.1和Llama 2 70B两款大模型在Amazon Bedrock可用

同时,Meta的Llama 2 70B模型也在Amazon Bedrock上新增可用。这意味着,除了此前发布的Llama 2 130亿参数模型外,Llama 2 700亿参数模型也开始提供。

Llama 2是Meta推出的下一代语言模型,其训练数据比Llama 1多出40%,上下文长度是Llama 1的两倍。Llama 2 Chat基于预训练的Llama模型,通过指令数据集和超过100万条人工注释进行调优,专门针对对话场景进行了优化。这些模型在多个外部基准测试中表现优异,涵盖推理、编码、熟练程度和知识测试,并在Amazon Bedrock上提供了卓越的性价比。

亚马逊云科技新增Claude 2.1和Llama 2 70B两款大模型在Amazon Bedrock可用

在2023 Re:Invent大会上,亚马逊云科技还发布了多个新模型能力,包括Amazon Titan MultiModal Embeddings、Amazon Titan Text Lite、Amazon Titan Text Express和Amazon Titan Image Generator。

[[[IMG_5]]

如今,借助Amazon Bedrock,企业客户可以使用最新版本的模型,包括Amazon Titan的五款模型、新发布的AnthRopic Claude 2.1和Meta Llama 2 70B,以及之前推出的Stability AI Stable Diffusion XL 1.0、Meta Llama 2 Chat 13B、Cohere Command Light、Cohere Embed English和Cohere Embed多语言模型等。

为了帮助企业客户在众多大模型中选择最合适的,Amazon Bedrock还推出了“模型评估功能”,此功能支持企业客户通过自动或人工评估来比较和选择最佳模型,以满足特定应用场景的需求。目前,该功能已进入预览阶段。

同时,为了进一步简化企业客户生成和部署大模型应用产品的流程,“Agents for Amazon Bedrock”也正式上线。

[[[IMG_6]]

“Agents for Amazon Bedrock”的目标是降低企业客户使用Amazon Bedrock构建生成式AI应用的门槛。通过这一功能,企业用户只需简单设置即可加速生成式AI应用程序的开发。