。

基于它#xff0c;无需本地加载大模型#xff0c;通过在线方式访问云端大模型来完成对话。

申请API

老规矩#xff1a;要想访问各家云端大模型#xff0c;需要先申请API

对于阿里云#x…前言

dashscope是阿里云大模型服务平台——灵积提供的在线API组件。

基于它无需本地加载大模型通过在线方式访问云端大模型来完成对话。

申请API

对于阿里云需要先访问https://dashscope.console.aliyun.com/。

然后注册一个账号接着就可以申请sk-开头的api-key了如下图所示。

有了key后就可以点击上面选项模型体验中心输入简单的prompt来验证本地电脑访问阿里云网络通信有没有问题

下面是一个简单python代码自己封装message并添加api-key并通过在线方式访问Qwen大模型进行对话。

import

log_verbose:self.logger.setLevel(logging.INFO)def

call_qwen(self,

self.log_verbose:self.logger.info(f{self.__class__.__name__}:params:

{params})#

gen.call(modelparams.model,temperatureparams.temperature,api_keyparams.api_key,messages

params.messages,result_formatmessage,streamTrue,)

print(responses:

resp[output][choices][0][message][content]response_list.append({error_code:

text:

时发生错误{error_data})response_list.append(error_data)return

response_list#

__main__:logging.basicConfig(levellogging.INFO)#model_names

[qwen-turbo]client

QwenClient(log_verboseTrue)user_input

[{role:

sk-axxxxxx3b4a2fa1cb1dd7e71a4bee,

messages)responses

client.call_qwen(params)print(千问的回答,

responses[-1][text])

需要先安装好组件dashscopetyping以及logging。

本平台是ubuntu20.04直接输入python3