Rasa

Rasa、Langchain、LlamaIndex、Telegram、PostgresSQL、PGVector、Ngrok、FastAPI、Docker、docker-compose、Dozzle

等。

尽管对项目做了简化[3]删除了不容易实现的部分但仍是一次失败的实践各种原因没有完整运行起来。

不过

RasaGPT

可以直接投入使用很多实施上的麻烦事都已经被解决了这样就不必亲自处理包括

使用FastAPI创建自己的专有机器人端点包括文档上传和训练管道的设置。

如何集成Langchain/LlamaIndex和Rasa。

与LLM库的库冲突以及传递metadata。

在MacOS上使用Docker支持运行Rasa。

通过ngrok进行与聊天机器人的反向代理。

使用自定义模式而非使用Langchain的高度倾向的PGVector类来实现pgvector。

添加多租户支持Rasa原生并不支持此功能在Rasa和后端/应用程序之间进行会话和metadata的传递。

Rasa

机器学习框架用于自动执行基于文本和语音的对话NLU、对话管理、连接到

Slack、Facebook

使用LangchainLLM在任意语料库上学习通过FastAPI上传文档并进行训练支持文档版本控制上传时自动进行重新训练通过FastAPI和SQLModel自定义自己的异步端点和数据库模型机器人确定是否需要进行人工接管机器人根据用户问题和自动响应自动生成标签通过Swagger和Redoc提供完整的API文档包含PGAdmin以便浏览数据库在启动时自动生成Ngrok端点以便机器人始终可以通过https://t.me/yourbotname访问通过pgvector和Postgres函数嵌入相似性搜索构建到Postgres中包含虚拟数据供测试和实验无限的用例从帮助台、客户支持、测验、e-learning、角色扮演游戏等

2.Rasa

M1/M2通过Docker标准Rasa镜像不支持MacOS架构支持Telegram轻松集成Slack、Whatsapp、Line、短信等使用Huggingface的NLU模型如BERT或使用Keras、Tensorflow等库/框架备用为OpenAI

3.灵活性

使用Langchain扩展主体、记忆等能力模式支持多租户、会话、数据存储自定义智能体个性保存所有聊天历史并从所有交互中创建embeddings以适应未来的检索策略从知识库语料库和客户反馈中自动生成embeddings

二.RasaGPT

compose开放AIAPI密钥Telegram机器人凭证Ngrok身份验证令牌MakeMacOS

WindowsSQL模型

检查以确保有.env可用的数据库初始化为pgvector数据库模型创建数据库模式训练Rasa模型使其准备好运行使用Rasa设置ngrok以便Telegram有一个返回API服务器的Webhook设置Rasa操作服务器以便Rasa可以与RasaGPT

3.docker-compose.yml

Dockerfilekhalosa/rasa-aarch64:3.5.2

名称修改为

https://github.com/paulpierre/RasaGPT.git

RasaGPT#

https://app.warp.dev/block/vflua6Eue29EPk8EVvW8Kd

4.所有容器列表

项目[3]包括chat_rasa_core模型、chat_apiLLM

接口、chat_db数据库、chat_rasa_actionsaction

服务、chat_rasa_credentials凭证。

如下所示

三.操作说明

https://localhost:9999/查看所有日志它将显示所有

Docker

端点文档。

在这个页面上可以创建和更新实体以及将文档上传到知识库。

如下所示

3.1.Organization组织

SaaS/多租户中的客户公司。

默认情况下已提供虚拟组织列表。

如下所示

[{id:

d2a642e6-c81a-4a43-83e2-22cee3562452,display_name:

Pepe

2023-05-05T10:42:45.933976,updated_at:

2023-05-05T10:42:45.933979},{id:

2,uuid:

7d574f88-6c0b-4c1f-9368-367956b0e90f,display_name:

Umbrella

2023-05-05T10:43:03.555484,updated_at:

2023-05-05T10:43:03.555488},{id:

3,uuid:

65105a15-2ef0-4898-ac7a-8eafee0b283d,display_name:

Cyberdine

2023-05-05T10:43:04.175424,updated_at:

2023-05-05T10:43:04.175428},{id:

4,uuid:

b7fb966d-7845-4581-a537-818da62645b5,display_name:

Bluth

2023-05-05T10:43:04.697801,updated_at:

2023-05-05T10:43:04.697804},{id:

5,uuid:

9283d017-b24b-4ecd-bf35-808b45e258cf,display_name:

Evil

2023-05-05T10:43:05.102546,updated_at:

]3.2.Project项目

这可以被视为属于公司的产品。

可以查看属于组织的项目列表。

如下所示

[{id:

92604623-e37c-4935-bf08-0e9efa8b62f7,display_name:

project-pepetamine.md,node_count:

3}],document_count:

44a4b60b-9280-4b21-a676-00612be9aa87,display_name:

2023-05-05T10:42:46.060930,updated_at:

2023-05-05T10:42:46.060934},{id:

2,documents:

b408595a-3426-4011-9b9b-8e260b244f74,display_name:

project-frogonil.md,node_count:

3}],document_count:

5ba6b812-de37-451d-83a3-8ccccadabd69,display_name:

Frogonil,created_at:

2023-05-05T10:42:48.043936,updated_at:

2023-05-05T10:42:48.043940},{id:

3,documents:

b99d373a-3317-4699-a89e-90897ba00db6,display_name:

3}],document_count:

1be4360c-f06e-4494-bf20-e7c73a56f003,display_name:

Kekzal,created_at:

2023-05-05T10:42:49.092675,updated_at:

2023-05-05T10:42:49.092678},{id:

4,documents:

94da307b-5993-4ddd-a852-3d8c12f95f3f,display_name:

project-memetrex.md,node_count:

3}],document_count:

1fd7e772-365c-451b-a7eb-4d529b0927f0,display_name:

Memetrex,created_at:

2023-05-05T10:42:50.184817,updated_at:

2023-05-05T10:42:50.184821},{id:

5,documents:

6deff180-3e3e-4b09-ae5a-6502d031914a,display_name:

project-pepetrak.md,node_count:

4}],document_count:

a389eb58-b504-48b4-9bc3-d3c93d2fbeaa,display_name:

PepeTrak,created_at:

2023-05-05T10:42:51.293352,updated_at:

2023-05-05T10:42:51.293355},{id:

6,documents:

2e3c2155-cafa-4c6b-b7cc-02bb5156715b,display_name:

5}],document_count:

cec4154f-5d73-41a5-a764-eaf62fc3db2c,display_name:

MemeGen,created_at:

2023-05-05T10:42:52.562037,updated_at:

2023-05-05T10:42:52.562040},{id:

7,documents:

baabcb6f-e14c-4d59-a019-ce29973b9f5c,display_name:

project-neurokek.md,node_count:

5}],document_count:

4a1a0542-e314-4ae7-9961-720c2d092f04,display_name:

2023-05-05T10:42:53.689537,updated_at:

2023-05-05T10:42:53.689539},{id:

8,documents:

5be007ec-5c89-4bc4-8bfd-448a3659c03c,display_name:

org-about_***_company.md,node_count:

5},{id:

c2b3fb39-18c0-4f3e-9c21-749b86942cba,display_name:

org-board_of_directors.md,node_count:

3},{id:

41aa81a9-13a9-4527-a439-c2ac0215593f,display_name:

org-company_story.md,node_count:

4},{id:

91c59eb8-8c05-4f1f-b09d-fcd9b44b5a20,display_name:

org-corporate_philosophy.md,node_count:

4},{id:

631fc3a9-7f5f-4415-8283-78ff582be483,display_name:

org-customer_support.md,node_count:

3},{id:

d4c3d3db-6f24-433e-b2aa-52a70a0af976,display_name:

org-earnings_fy2023.md,node_count:

5},{id:

08dd478b-414b-46c4-95c0-4d96e2089e90,display_name:

org-management_team.md,node_count:

3}],document_count:

1d2849b4-2715-4dcf-aa68-090a221942ba,display_name:

Pepe

2023-05-05T10:42:55.258902,updated_at:

]3.3.Document文档

44a4b60b-9280-4b21-a676-00612be9aa87,organization:

{id:

d2a642e6-c81a-4a43-83e2-22cee3562452,display_name:

Pepe

2023-05-05T10:42:45.933976,updated_at:

2023-05-05T10:42:45.933979,namespace:

1,documents:

92604623-e37c-4935-bf08-0e9efa8b62f7,organization_id:

1,project_id:

bo***rsome.\n\n**Precautions**\n\nBefore

taking

ideation.\n\n**Interactions**\n\nPepetamine

may

Pepetamine.\n\n**Overdose**\n\nIn

case

fdee6da2b5441080dd78e7850d3d2e1403bae71b9e0526b9dcae4c0782d95a78,version:

1,status:

2023-05-05T10:42:46.755428,updated_at:

2023-05-05T10:42:46.755431}],display_name:

2023-05-05T10:42:46.060930,updated_at:

}3.4.Node节点

用户代表与机器人交谈的人。

用户不一定属于组织或产品但这种关系在下面的

ChatSession

公开但这表示用户和机器人之间的问答。

这些对象中的每一个都可以由自动生成的

session_id

这个机器人只是一个概念验证并且尚未进行检索方面的优化。

目前它使用

1000

个字符长度的分块进行索引使用基本的欧几里得距离进行检索质量时好时坏。

可以在

RESULTS.MD

文件中查看机器人的示例命中和未命中。

总体而言估计通过进行索引优化和

LLM

通过app/rasa-credentials/main.py进行更新domain.yml这包含聊天入口点逻辑配置如意图和针对意图采取的操作。

在这里添加

action_gpt_fallback

的地方rules.yml为这个意图设置了一个规则它应该触发动作

action_gpt_fallbackactions.py这是通过

ActionGPTFallback

然后将根据用户意图确定要采取的操作。

由于这个演示中的意图被弱化它将进入到

actions.py

的插件可以自动安装能够存储和计算向量数据类型。

有自己的实现因为

Langchain

训练数据被加载到数据库中如果索引不存在则对数据进行索引并存储在名为

index.json

返回根据用户的问题创建分类标签如果对话应该升级到人工如果没有上下文匹配则返回布尔值

参考文献

https://github.com/paulpierre/RasaGPT

[2]

https://github.com/ai408/RasaGPT