注册aws bedrock访问不同LLM模型

AI　2024/3/28 21:09:06　　点击：不统计

转载%77%77%77请%2E%66%6F%72%61%73%70%2E%63%6E注明

aws bedrock平台继承了多个不同厂家的llm模型，可以集中管理和访问，怎么通过aws 申请和使用不同的模型呢？

比如AI21 Labs Jurassic，Amazon Titan， Anthropic Claude ，Cohere， Meta Llama 2 ,Mistral 等厂家/模型

1. 注册aws 地址，注册中间可能验证邮件地址，需要输入邮件验证码s

https://portal.aws.amazon.com/billing/signup#/start/email

注册后登录

https://console.aws.amazon.com/console/home

登录时，可以看网页右下角选择语言，我们选简体中文

2. 登录后，点击有右上角，选择其中一个站点为服务站点。

我这选择的是 us-east-1 选项。

3.然后登录 bedrock 首页

https://us-east-1.console.aws.amazon.com/bedrock/home?region=us-east-1#/

选择左上角三条横线的按钮，点击后出现菜单，选择模型访问权限如下图 1

4. 再次点击管理权限右上角，然后点击黄色按钮 “管理模型访问权限” ，然后选择对应的模型进行选择，然后提价申请。

如下图2

5. 对应模型的访问权限通过后。开始创建模型访问账号权限

地址：https://console.aws.amazon.com/iam/

涉及权限操作参考：https://docs.aws.amazon.com/zh_cn/IAM/latest/UserGuide/id_users_change-permissions.html#users_change_permissions-add-console

可以选择直接附加策略，搜索“bedrock”，给予用户权限，如图 3

6. 然后给新的用户创建access key 和access secret。点击用户名如下图 4

7. 选择创建密码，类型选择“其他”，然后下一步，描述密钥，然后下一步完成，如图5

8. 获取了对应的key secret 然后就可以调用接口了。调用接口文档

https://docs.aws.amazon.com/zh_cn/bedrock/latest/userguide/service_code_examples.html

以上就是通过注册 asw 使用不同的llm ai服务。

原载于:本文原载于www.forasp.cn