Skip to content
This repository has been archived by the owner on Sep 3, 2023. It is now read-only.

Latest commit

 

History

History
209 lines (142 loc) · 9.04 KB

README.md

File metadata and controls

209 lines (142 loc) · 9.04 KB
Raw

Ex-ChatGPT - ChatGPT with ToolFormer

language GitHub GitHub last commit GitHub Repo stars

简体中文 English / Background

ChatGPT 是一个强大的工具平台，可以无需任何调整就生成 API 请求来协助回答问题。Ex-ChatGPT 使得 ChatGPT 能够调用外部 API，例如 WolframAlpha、Google 和 WikiMedia，以提供更准确和及时的答案。

这个项目分为 Ex-ChatGPT 和 WebChatGPTEnhance 两部分。前者是一个使用了 GPT3.5 Turbo API、WolframAlpha、Google 和 WikiMedia 等 API 的服务，能够提供更强大的功能和更准确的答案。后者是一个浏览器扩展程序，它更新了原有的 WebChatGPT 插件以支持添加外部 API，支持 ChatGPT 网页调用不同的 API 和提示。

交互界面

ExChatGPT

chatHistory

WebChatGPTEnhance

WebChatGPT

Highlights

  • OAuth2.0多用户鉴权管理 (见webTest分支)
  • 语音对话功能，使用微软 Azure API，优化响应速度 ( 1-2 秒左右 ) ，包含语音识别和文字转语音，支持多种音色和语言，自定义声音。
  • docker 和 proxy 支持
  • 聊天记录冗余备份
  • 支持 OpenAI GPT-3.5 Turbo API
  • 允许 ChatGPT 调用外部 API 接口 ( Google,WolframAlpha,WikiMedia )
  • 对 Google 搜索结果进行数据清洗, 减少token占用
  • 自动保存载入对话历史，自动压缩对话
  • 可显示使用的 Token 数量
  • API池, API 冷却
  • Markdown and MathJax 渲染
  • 调用API 过程显示动画, 类似必应
  • 历史对话管理载入，类 chatgpt 页面布局
  • 快捷键快速选择模式 Tab 和换行 Shift+Enter,Enter 发送， up,down 选择历史发送消息，类似终端
  • stream 特性，它类似于打字机的效果，可以更快地响应结果。与一次性加载所有内容不同，stream会逐步输出结果。如示例中所示： stream
  • chat 模式下prompt 自动补全选择，支持模糊搜索， 拼音搜索， 支持自定义 prompt, 项目中自带 awesome-chatgpt-prompts 中的 prompt promptCompletion

计划更新

  • 移动端界面适配
  • 发送图片OCR识别公式文字
  • OAuth2.0多用户鉴权 (见webTest分支)
  • 调用diffusing model生成图片(达到类似多模态效果)
  • 网页搜索结果进一步爬虫总结清洗数据
  • 增加代码运行API,以及更多API
  • 聊天记录/本地知识数据库embedding对齐检索

安装

Ex-chatGPT Installation

  • pip install pip install -r requirements.txt
  • 将 apikey.ini.example 复制改名为 apikey.ini,然后在 apikey.ini 中填入你的 API 密钥， 以及代理 ( 如果只有一个 openAI 的 API key,将 key1 = sk-xxxx; key2 = sk-xxxx 删除即可 )
  • Google api key and search engine id 申请
  • wolframAlpha app id key 申请
  • openAI api key( 新功能 ) 或 chatGPT access_token ( 旧版本 ) 申请
  • (可选) 在 apikey.ini 中填写Azure API key 和 region 申请
  • 运行 main.py 并打开 http://127.0.0.1:1234/
  • 选择模式 ( 可以使用 Tab ) ，例如 chat,detail,web,webDirect,WebKeyWord
  • chat 模式下 使用 \{promptname} {query} 格式来模糊搜索选择 prompt
  • 快捷键快速选择模式 Tab 和换行 Shift+Enter,Enter 发送， up,down 选择历史发送消息，类似终端
  • 语音对话聊天(可选功能), 在 chatGPTEx/static/styles/tts.js 中选择语言和音色, 在聊天界面中点击麦克风启动/关闭对话模式

Docker 快速部署

方法一 使用构建好的镜像

  1. 创建配置文件目录并拉取配置文件

    mkdir config && wget https://raw.githubusercontent.com/circlestarzero/EX-chatGPT/main/chatGPTEx/apikey.ini.example -O ./config/apikey.ini

  2. 编辑配置文件或者把编辑好的配置文件传到config文件夹下。

    vim ./config/apikey.ini

  3. 拉取docker镜像

    docker pull 0nlylty/exchatgpt:latest

  4. 创建容器

    docker run -dit \
  -v ~/config:/config \
  -p 5000:5000 \
  --name exchatgpt \
  --restart unless-stopped \
 0nlylty/exchatgpt:latest
方法二 自己构建镜像

  1. 创建配置文件目录并拉取配置文件

    mkdir config && wget https://raw.githubusercontent.com/circlestarzero/EX-chatGPT/main/chatGPTEx/apikey.ini.example -O ./config/apikey.ini

  2. 编辑配置文件或者把编辑好的配置文件传到config文件夹下。

    vim ./config/apikey.ini

  3. 构建并运行

    # 克隆代码
git clone https://github.com/circlestarzero/EX-chatGPT.git --depth=1
# 进入项目目录
cd EX-chatGPT/chatGPTEx
# 编辑docker-compose.yaml的挂载路径
~/config:/config   # 冒号左边请修改为保存配置的路径
# 配置补充完整后启动
docker compose up -d
使用
# 访问
http://your_ip:5000

# 查看日志
docker logs -f --tail 100 exchatgpt

WebChatGPTEnhance Installation

  • 在 chatGPTChromeEhance/src/util/apiManager.ts/getDefaultAPI 中填入 Google API 信息
  • 运行 npm install
  • 运行 npm run build-prod
  • 在 chatGPTChromeEhance/build 中获取构建好的扩展
  • add your prompts and APIs in option page.
  • APIs and prompts examples are in /WebChatGPTAPI
  • wolframAlpha needs to run local sever - WebChatGPTAPI/WolframLocalServer.py

模式介绍

Web Mode

Web Mode 开始时会直接询问 ChatGPT 一个问题。ChatGPT 会生成一系列与查询相关的 API 调用，并使用第一个返回的结果和问题进行验证和补充。最后，ChatGPT 会对信息进行总结。Web Mode 具有比仅总结响应更好的聊天能力。

Chat Mode

Chat Mode 仅调用 OpenAI API 接口，类似于 ChatGPT 的 Web 版本。您可以通过输入 /promtname 来搜索和选择不同的提示，它还支持模糊搜索。

WebDirect Mode

WebDirect Mode 首先让 ChatGPT 生成一系列与查询相关的 API 调用。然后，它直接调用第三方 API 搜索每个查询的答案，最后 ChatGPT 对信息进行总结。WebDirect Mode 对于单个查询信息更快且相对更准确。

Detail Mode

Detail Mode 是 WebDirect Mode 的扩展，它会进行额外的 API 调用来补充当前结果中未找到的信息 ( 例如之前未搜索到的信息 ) 。最后，ChatGPT 对信息进行总结。

Keyword Mode

Keyword Mode 直接从 ChatGPT 中生成关键词进行查询，使用 DDG 进行查询，不需要其他 API 密钥。但是其准确性相对较差。

更新日志

  • OAuth2.0多用户鉴权管理 (见webTest分支)
  • 对 Google 搜索结果进行数据清洗, 减少token占用
  • 更新所有API代理池, 增加API限制冷却机制(Google 403 冷却1天)
  • 语音对话功能, 使用微软azureAPI, 优化响应速度, 包含识别语音和文字转语音, 支持多种音色和语言,自定义声音
  • stream 特性，它类似于打字机的效果，可以更快地响应结果。与一次性加载所有内容不同，stream会逐步输出结果。如示例中所示： stream
  • 聊天记录冗余备份
  • chat 模式下 prompt 自动补全选择，支持模糊搜索和拼音搜索

promptCompletion

  • 更新 Docker 和 proxy 支持
  • 支持 OpenAI GPT-3.5 Turbo API，快速且价格低廉
  • 提供额外的 API 调用和搜索摘要，以提供更全面和详细的答案
  • 使用快捷键快速选择模式 Tab 和换行 Shift+Enter，同时使用 Enter 发送消息。使用 up 和 down 选择历史发送消息，类似终端操作
  • 更新历史对话管理，支持载入、删除和保存历史对话

chatHistory

  • 更新 API 调用处理动画

APIAnimation

  • 页面美化

WebBeautification

  • Markdown 和 MathJax 渲染器

MathJax

  • 更新聊天记录 token 优化器，Web 模式可以根据聊天记录进行响应；添加 token 成本计数器

history

  • 更新 Web 聊天模式选择，优化 prompt 和 token 成本，限制 token 上限

mode

  • 改进对中文查询的支持，并添加当前日期信息

date

  • 更新 Web 聊天模式并修复一些错误
  • 更新 API 配置
  • 更新 API 池
  • 自动保存载入对话历史，ChatGPT 可联系之前对话