具体应用场景如下#xff1a;

文字创作#xff1a;撰写故事、公文、邮件、剧本和诗歌…1.相关概念

1.1.模型与平台

是阿里云研发的大语言模型用于理解和分析用户输入的自然语言在不同领域和任务为用户提供服务和帮助。

具体应用场景如下

翻译服务提供各类语言的翻译服务如英语、日语、法语或西班牙语等。

1.1.2.灵积

是阿里云推出的模型服务平台提供了包括通义千问在内的多种模型的服务接口建立在“模型即服务”Model-as-a-ServiceMaaS的理念基础之上围绕AI各领域模型通过标准化API接口提供模型推理等服务为用户打造一站式模型解决方案。

1.2.API-KEY

DashScope使用API-KEY作为调用API的密钥。

API-KEY承担了调用鉴权、计量计费等功能。

API-KEY被广泛应用于DashScope

api-key

参数指定。

DashScope中所有不同的模型API服务都可以使用一个API-KEY、以一致的编程方式进行调用方便开发者进行跨模态的、多个模型的接续调用。

API-KEY是访问DashScope的密钥请务必妥善保存。

不要以任何方式公开到外部渠道避免因未经授权的使用造成安全风险或资金损失。

推荐将API-KEY配置到环境变量中以降低API-KEY的泄漏风险

https://help.aliyun.com/zh/dashscope/developer-reference/acquisition-and-configuration-of-api-key?spma2c4g.11186623.0.0.42b6b400xOdsJb

如何获取通义千问API的KEY_模型服务灵积(DashScope)-阿里云帮助中心

(aliyun.com)

上下文长度Token数最大输入Token数最大输出Token数输入成本每千Token输出成本每千Token8k6k2k0.04元0.12元

1.3.2.qwen-plus

能力均衡推理效果和速度介于通义千问-Max和通义千问-Turbo之间适合中等复杂任务。

上下文长度Token数最大输入Token数最大输出Token数输入成本每千Token输出成本每千Token32k30k8k0.004元0.012元

1.3.3.qwen-turbo

上下文长度Token数最大输入Token数最大输出Token数输入成本每千Token输出成本每千Token8k6k1.5k0.002元0.006元

每个模型还有一些小模型

对于中文文本来说千问模型的1个token平均对应1.5-1.8个汉字

2.基础说明

https://mvnrepository.com/artifact/com.alibaba/dashscope-sdk-java

dependencygroupIdcom.alibaba/groupIdartifactIddashscope-sdk-java/artifactIdversion2.16.2/version

controller

com.alibaba.dashscope.aigc.generation.Generation;

import

com.alibaba.dashscope.aigc.generation.GenerationParam;

import

com.alibaba.dashscope.aigc.generation.GenerationResult;

import

com.alibaba.dashscope.common.Message;

import

com.alibaba.dashscope.common.Role;

import

com.alibaba.dashscope.exception.ApiException;

import

com.alibaba.dashscope.exception.InputRequiredException;

import

com.alibaba.dashscope.exception.NoApiKeyException;

import

com.alibaba.dashscope.utils.Constants;

import

com.alibaba.dashscope.utils.JsonUtils;

import

org.springframework.beans.factory.annotation.Value;

import

org.springframework.web.bind.annotation.RequestMapping;

import

org.springframework.web.bind.annotation.RequestParam;

import

org.springframework.web.bind.annotation.RestController;import

java.util.Arrays;RestController

public

{Value(${tongyi.api-key})private

String

apiKey;RequestMapping(/call/base)public

String

callWithMessage(message);System.out.println(JsonUtils.toJson(result));return

result.getOutput().getChoices().get(0).getMessage().getContent();}public

GenerationResult

Message.builder().role(Role.SYSTEM.getValue()).content(你是一个乐于助人的AI助手.).build();//

构建[

Message.builder().role(Role.USER.getValue()).content(message).build();//

构建生成参数对象用于定制化生成请求GenerationParam

param

GenerationParam.builder().model(qwen-turbo)

选择使用的模型.messages(Arrays.asList(systemMsg,

userMsg))

设置消息列表包括系统消息和用户消息.resultFormat(GenerationParam.ResultFormat.MESSAGE)

设置返回格式为消息格式.topK(50)

设置Top-K参数控制生成结果的多样性.temperature(0.8f)

设置Top-P参数进一步控制生成结果的多样性.seed(1234)

调用生成对象的call方法执行生成请求并返回生成结果return

gen.call(param);}

http://localhost:8081/tongyi/call/base?message你是谁HTTP/1.1

200

我是阿里云开发的一款超大规模语言模型我叫通义千问。

作为一个AI助手我的目标是帮助用户获得准确、有用的信息解决他们的问题和困惑。

无论是提供知识解答、创意建议还是进行信息查询我都致力于以最有效的方式提供帮助。

返回的结果

{requestId:

fbd59659-bf46-9bf8-9c9b-58934190e57d,usage:

{input_tokens:

我是阿里云开发的一款超大规模语言模型我叫通义千问。

作为一个AI助手我的目标是帮助用户获得准确、有用的信息解决他们的问题和困惑。

无论是提供知识解答、创意建议还是进行信息查询我都致力于以最有效的方式提供帮助。

}}]}

}2.2.多轮对话案例

实现多轮对话的关键在于维护一个存放历史对话信息的列表并将更新后的列表作为大模型的输入从而使大模型可以参考历史对话信息进行回复。

如果对话轮数较多可能会超过大模型可以输入的token上限。

需要控制输入大模型的token数量。

2.2.1.调用代码

com.alibaba.dashscope.aigc.generation.Generation;

import

com.alibaba.dashscope.aigc.generation.GenerationParam;

import

com.alibaba.dashscope.aigc.generation.GenerationResult;

import

com.alibaba.dashscope.common.Message;

import

com.alibaba.dashscope.common.Role;

import

com.alibaba.dashscope.exception.ApiException;

import

com.alibaba.dashscope.exception.InputRequiredException;

import

com.alibaba.dashscope.exception.NoApiKeyException;

import

com.alibaba.dashscope.utils.Constants;

import

org.springframework.beans.factory.annotation.Value;

import

org.springframework.web.bind.annotation.RequestMapping;

import

org.springframework.web.bind.annotation.RequestParam;

import

org.springframework.web.bind.annotation.RestController;import

java.util.ArrayList;

{Value(${tongyi.api-key})private

String

ArrayList(List.of(createMessage(Role.SYSTEM,

你要记住这些设置!)));//

10;RequestMapping(/call/many)public

String

用户输入的文本是UserMessagehistoryMessage.add(createMessage(Role.USER,

message));//

historyMessage.subList(historyMessage.size()

maxLen

historyMessage.size());}System.out.println(模型输入

historyMessage);GenerationParam

param

createGenerationParam(historyMessage);GenerationResult

result

callGenerationWithMessages(param);System.out.println(模型输出

result.getOutput().getChoices().get(0).getMessage().getContent());historyMessage.add(result.getOutput().getChoices().get(0).getMessage());return

result.getOutput().getChoices().get(0).getMessage().getContent();}public

GenerationParam

createGenerationParam(ListMessage

messages)

GenerationParam.builder().model(qwen-turbo).messages(messages).resultFormat(GenerationParam.ResultFormat.MESSAGE).topP(0.8).build();}public

GenerationResult

callGenerationWithMessages(GenerationParam

param)

Message.builder().role(role.getValue()).content(content).build();}}2.2.2.测试

###

http://localhost:8081/tongyi/call/many?message你现在的名字叫王小二###

GET

http://localhost:8081/tongyi/call/many?message你是一名大学生###

GET

http://localhost:8081/tongyi/call/many?message你的学习成绩很好,

也很乐意帮助别人###

http://localhost:8081/tongyi/call/many?message现在介绍一下你自己,

通过prompt方式调用时输入与输出的数据格式比messages方式简单更适合单轮问答等简单场景在更复杂的场景中推荐您通过messages方式调用。

import

com.alibaba.dashscope.aigc.generation.Generation;

import

com.alibaba.dashscope.aigc.generation.GenerationParam;

import

com.alibaba.dashscope.aigc.generation.GenerationResult;

import

com.alibaba.dashscope.aigc.generation.models.QwenParam;

import

com.alibaba.dashscope.common.Message;

import

com.alibaba.dashscope.common.ResultCallback;

import

com.alibaba.dashscope.common.Role;

import

com.alibaba.dashscope.exception.ApiException;

import

com.alibaba.dashscope.exception.InputRequiredException;

import

com.alibaba.dashscope.exception.NoApiKeyException;

import

com.alibaba.dashscope.utils.Constants;

import

com.alibaba.dashscope.utils.JsonUtils;

import

org.springframework.beans.factory.annotation.Value;

import

org.springframework.web.bind.annotation.RequestMapping;

import

org.springframework.web.bind.annotation.RequestParam;

import

org.springframework.web.bind.annotation.RestController;import

java.util.Arrays;

java.util.concurrent.Semaphore;RestController

public

{Value(${tongyi.api-key})private

String

apiKey;RequestMapping(/call/prompt)public

String

qwenQuickStart(message);qwenQuickStartCallback(message);System.out.println(JsonUtils.toJson(result));return

catch

{System.out.println(String.format(Exception

%s,

创建Generation实例用于调用API生成文本Generation

gen

QwenParam.builder().model(Generation.Models.QWEN_TURBO)

Turbo.prompt(prompt)

设置采样参数topP0.8表示在概率为0.8的范围内采样.build();//

result

打印生成结果的JSON格式System.out.println(JsonUtils.toJson(result));//

返回生成结果return

QwenParam.builder().model(Generation.Models.QWEN_TURBO)

指定模型.prompt(prompt)

ResultCallbackGenerationResult()

{//

{System.out.println(message);}//

void

{System.out.println(ex.getMessage());semaphore.release();

释放信号量允许线程继续执行}//

{System.out.println(onComplete);semaphore.release();

释放信号量允许线程继续执行}});//