panda梯子软件

AWS 托管生成式 AI 服务 Amazon Bedrock 正式可用

AWS 全托管生成式 AI 服务 Amazon Bedrock 正式可用,备有多间 AI 公司(包括 AI21 Labs、Anthropic、Cohere、Meta、Stability AI 和亚马逊)的基础模型,让企业简化开发过程。

Amazon Bedrock 允许企业使用自己的专有数据客制模型,毋须企业撰写任何代码便可建立托管代理( AI agent )执行复杂任务,例如旅行预订、处理保险索赔、策划广告活动和管理库存等。此服务采用无伺服器( serverless )技术,企业不用管理任何基础设施便可集成和部署到应用程式中。

配合 Amazon PrivateLink,在 Amazon Bedrock 与虚拟私有网络( VPC )之间建立专门的连接,可确保任何数据传输不会暴露在公共网络。AWS 还强调,Amazon Bedrock 符合 HIPAA (《健康保险流通与责任法案》)要求,并且可以在 GDPR(欧盟《通用资料保护条例》)合规标准下使用。

Amazon Bedrock 还透过 Amazon Titan Embedding 和 Llama 2 扩大可选模型范围,协助用户找到适合应用场景的模型。前者是大语言模型(LLM),能将文本转换成被称为嵌入向量( embeddings )的数值表示,支持检索增强生成( RAG )的应用场景。Amazon Titan Embeddings 支援超过 25 种语言和 8,192 个 Token 的上下文长度,适合基於企业的应用场景处理单个单词、短语或整个文档。该模型可返回 1,536 个维度的输出向量。

而 Llama 2 模型比之前的 Llama 模型有显着改进,包括使用比原始训练多 40% 的训练资料,并具有更长的上下文长度( 4,000 个 Token),以处理更大的文档。 Amazon Bedrock 提供的 Llama 2 模型已经过优化,可以在 AWS 基础设施上提供快速回应,适合对话式应用场景。用户可以建立由 130 亿和 700 亿个参数的 Llama 2 模型驱动的生成式AI 应用程式。

AWS 同时还推出 Amazon CodeWhisperer 新功能,容许用户使用私有代码库客制  CodeWhisperer 代码建议。 Amazon CodeWhisperer 是程式设计助手,透过对数十亿行来自亚马逊和公开可用的代码进行训练,提高开发人员的生产力。

而另一项新功能则是 Amazon QuickSight 生成式 BI 创作,有助业务分析师使用自然语言命令建立和客制资料视觉化效果。此功能能够建立互动式仪表板、分页报告以及嵌入式分析,同时具备使用 QuickSight Q 进行自然语言查询的能力。

最新影片

0 0 投票数
Article Rating
订阅评论
提醒
guest
0 Comments
内联反馈
查看所有评论
0
希望看到您的想法,请您发表评论x