网站制作学习网AI→正文:claude3接口调用案例
字体:

claude3接口调用案例

AI 2024/3/22 21:24:59  点击:不统计


最近claude 发布了claude3 ,我们通过亚马逊接口调用claude3,下面 是接口调用案例
 
try:
import boto3
import json
except:
raise Exception("Error, need: pip install boto3")


client = boto3.client(service_name='bedrock-runtime',
region_name="us-east-1",
aws_access_key_id='you key',
aws_secret_access_key='you secret')
question = "1+1=?"
prompt_data = {
"role": "user",
"content": question,
}
model_id = "anthropic.claude-3-sonnet-20240229-v1:0"
body = json.dumps({
"prompt": prompt_data,
"max_tokens_to_sample": 300,
"temperature": 0.1,
"top_p": 0.9,
})
response = client.invoke_model(
modelId=model_id,
body=json.dumps(
{
"anthropic_version": "bedrock-2023-05-31",
"max_tokens": 1024,
"messages": [prompt_data], # 这里可以是多伦对话 列表,每隔和 prompt_data格式一致
"temperature": 0.1,
"top_p": 0.9,
}
),
)
result = json.loads(response.get("body").read())
print(result)
输出结果:
{'id': 'msg_01LiwGxUHT9s85hojwQiPeb8', 'type': 'message', 'role': 'assistant', 'content': [{'type': 'text', 'text': '2'}], 'model': 'claude-3-sonnet-28k-20240229', 'stop_reason': 'end_turn', 'stop_sequence': None, 'usage': {'input_tokens': 13, 'output_tokens': 5}}

其他的自行提取
 
claude3与claude2 几个区别
 
1. 请求参数变化,claude3 采用了 openai 的接口模式message 采用数组分隔。
2. 返回参数基本模拟了 openai 的返回
3. 目前通过测试 可用性,3 比2 有了质的飞跃。 可以媲美GPT-4

·上一篇:claude2 接口调用案例 >>    ·下一篇:判断电脑显卡满足支持模型训练和执行 >>
推荐文章
最新文章