网站制作学习网AI→正文:claude2 接口调用案例
字体:

claude2 接口调用案例

AI 2024/3/22 21:14:16  点击:不统计


 最近claude 发布了claude3 ,我们通过亚马逊接口调用claude2,下面 是接口调用案例,注意这里的claude2,不是claude3。

下篇文章 将给出claude3 的接口案例.
 
try:
import tiktoken
import boto3
import json
except:
raise Exception("Error, need: pip install boto3 tiktoken")


apiKey = {
"ApiKey": "You key",
"ApkSecret": "you Secret"
}
# use local config
client_obj = boto3.client(
service_name='bedrock-runtime',
region_name="us-east-1",
aws_access_key_id=apiKey['ApiKey'],
aws_secret_access_key=apiKey['ApkSecret']
)

body = json.dumps({
"prompt": "\n\nHuman: 1+1=?\n\nAssistant:",
"max_tokens_to_sample": 300,
"temperature": 0.1, # 热度
"top_p": 0.9,
})

modelId = 'anthropic.claude-v2:1'
accept = 'application/json'
contentType = 'application/json'
response = client_obj.invoke_model(body=body, modelId=modelId, accept=accept, contentType=contentType)
response_body = json.loads(response.get('body').read())
print(response_body)
# text
print(response_body.get('completion'))

返回结果入下:
{'completion': ' 1 + 1 = 2', 'stop_reason': 'stop_sequence', 'stop': '\n\nHuman:'}
 1 + 1 = 2
 
我认为cluade 2的接口 不是很友好,尤其是多agent 对话,其中的prompt 是采用 换行加前缀的形式 请求。
之后我们将适配openai 接口模式。
 

转www.载for网站制作学习asp必.cn究

·上一篇:LLM 大语言模型的问题 >>    ·下一篇:claude3接口调用案例 >>
推荐文章
最新文章