部署属于自己的gpt

ChatGPT-Vercel


https://user-images.githubusercontent.com/48356807/232432194-46ba797f-ad9d-476a-a739-20e0b3d63eb2.mp4

本项目基于 chatgpt-demo 开发。正式版本(v1.0.0)使用 Solid-Start 框架,并且不再开启 SSR。请重新设置环境变量。

在线预览:

  1. vercel.app 被墙。
  2. aitoolgpt.com,由 @AUDI_GUZZ 免费提供。(2023.03.22 壮烈牺牲,提醒大家不要分享自己的站点,请小范围内使用)。

特点

  1. UI 优雅简洁的同时功能尽可能强大,细节满满,等你发现。同时满足小白和大佬使用。
  2. 快速部署到国外平台,支持 Vercel,Netlify,Railway,免翻墙使用,方便分享给朋友。
  3. 支持 PWA。
  4. 支持 Prompts 预设,使用 空格 或者 / 搜索,可以模糊匹配,突出显示匹配的文字。
  5. 支持多个对话(聊天),并且每个对话都可以单独设置,自由设置角色,不同对话可以通过 URL 直达。使用 空格空格 或者 // 搜索,可以模糊匹配,搜索历史消息。
  6. 支持导出和导入对话和设置。
  7. 实时查看当前对话会消耗的 token 以及回答的 token,及时打断。
  8. 支持多种余额查询方式,支持定时查询内置账号余额,并且发送到微信。
  9. 支持 URL query,当作搜索引擎使用,所有对话都支持。比如 url?q=keyword 或者 url/session/xxxxx?q=keyword

使用技巧

  • 有效上下文:剔除报错的部分对话。如果关闭连续对话,将只统计锁定了的部分对话。这个概念很关键。
  • 锁定对话:点击每条消息前面的头像,就可以锁定了。锁定有什么好处?清空对话时,锁定了的不会删除。关闭连续对话时,始终会发送锁定了的对话,相当于角色设定。关闭 记录对话内容 后,始终会记录锁定了的对话,下次刷新仍然存在。

  • Open AI Key 要怎么获得:注册 OpenAI 的帐号,然后 生成 Key 就行了。现在注册就送 5 美元,可以用一两个月。嫌注册麻烦,可以直接去买号,自行搜索。注意不要被骗,一般 5 元以下可以入手,看到有 120 美元的 key,这种属于是绑了虚拟信用卡,可以透支 120 美元,只能用一个月,而且容易封号。现在没绑卡的账号限制比较多,并且容易封号。绑了卡也会优先扣除赠送的余额。

  • 输入框
    • Enter发送(可关闭),Shift+Enter换行。
    • 空格 或者 / 搜索 Prompt 预设,可以模糊匹配。所有 Prompt 可以查看 prompts.md
    • 使用 空格空格 或者 // 搜索其它对话,可以模糊匹配,搜索历史消息。
    • 将最近的一次提问填到输入框里。
  • 消息上的动作
    • 提问
      • 编辑:不能原地编辑,只能自动填到输入框里。
      • 重新回答:删除当前对话,然后自动发送。
      • 删除:删除当前对话。
    • 回答
      • 复制
      • 重新回答
      • 删除:只删除回答。
  • 点击顶部标题滚动到顶部,点击输入框滚动到底部。
  • 发送 sk- 开头的 key,可以直接查询余额。可以换行查询多个。也可以发送 查询填写的 Key 的余额 来直接查询你填的 key 的余额,这个 Prompt 预设第一个就是,直接用。作为站长,你可以通过设置环境变量来定时查询所有内置 key 的余额,并发送到微信上。
  • url 里使用 url?q=你好啊 这种方式可以打开网页直接回答 你好啊,当作搜索引擎使用。所有的对话中都可以使用。

设置与动作

右边四个按钮是动作,点击就可以执行。

  • 伪装角色:伪装时直接进入对话里,不会发送请求。可以伪装成用户提问以及 GPT 回答。发送后自动关闭伪装。
  • 将当前对话生成图片,方便分享。在电脑上直接复制到剪贴板,手机上是下载。
  • 将当前对话生成 Markdown,直接复制到剪贴板。
  • 清空对话。

image-20230417134751367

现在支持了多个对话,也就是多个聊天。不同的对话可以单独设置,也有不同的链接,标题,图标。所以现在有了两个设置按钮,第一个是全局设置,可以填写密码,API Key,也可以关闭 Enter 键发送,这样在手机上也可以换行。

image-20230417134833609

第二个是对话设置,尽当前对话有效,针对不同的用途自行设置。目前 GPT4 仍然处于 waitlist 阶段,如果没有资格,那么无法使用。

思维发散程度越高,ChatGPT 就会乱答,如果是开放性的问题,可以适当调高,但也不要超过 1。需要确切答案的建议调为 0。

开启 记录对话内容 后,对话刷新也不会清空。开启连续对话后,每次会发送所有有效上下文,一开始提过有效上下文这个概念。

image-20230417134804056

当你点击了设置按钮之后,会发现右边的动作按钮也发生了变化。打开全局设置后,出现的导出和导入按钮。可以导出和导入所有的设置和对话。

而打开对话设置之后,在首页,也就是主对话里,就只有一个新建对话的按钮,当你新建了对话。就会出现复制对话链接以及删除对话的按钮。值得注意的是,目前这个链接只能你自己能打开,并没有上传到云端。

image-20230417135644474

在新的对话里,你可以设置标题,甚至可以设置图标,试试在标题前面加一个 Emoji。

部署一个你自己的 ChatGPT 网站(免费,国内直连)

Warning

vercel.app 域名已经被墙,但 vercel 本身没有被墙,所以你绑定自己的域名就可以了。如果广泛分享,域名有被墙的风险。如果是国内购买的域名,有请去喝茶的风险,所以要么小范围加密码使用,要么在国外购买域名。更推荐小范围内使用。

如果你只需要部署一个你自己用的网站,而不需要定制,那么你完全不需要在本地跑起来,你可以直接点击下面的按钮,然后按照提示操作,然后在 Vercel 中填入环境变量即可。

Deploy with Vercel

不过上面这种方式不容易更新,最好还是先 fork 本仓库,然后在 Vercel 中导入你自己的仓库,之后要更新就在 Github 里点击 Sync fork 就可以同步更新了。

如果你需要部署给更多人用,需要修改一些代码,那么你可能需要将上面创建的你自己的仓库 git clone 到本地。改完了 git commit & push 即可重新部署,vscode 上点几下就可以了。也可以用 vercel 的 cli,vercel deploy --prod

如果你需要在本地开发和调试,有点麻烦:

  1. 升级到 node18,要用到原生的 fetchreadableStream
  2. API 被墙了,自己想办法开代理,不然要报错。可以设置 OpenAI 的代理 API,也可以直接 vercel deploy 部署到 vercel 开发环境上调试。
  3. pnpm i 安装依赖。
  4. pnpm dev 启动项目。

更多部署方案

目前本项目除 Vercel 以外还支持

不建议使用除 Vercel 以外的部署方案。 除了比较慢以外,更重要的是只有 Vercel 支持设置 Edge Function 服务器的地区,其他平台会自动使用距离最近的服务器,有可能是 OpenAI 不支持的地区,从而导致封号。

环境变量

v1.0.0 版本环境变量变化比较大,需要重新设置。以 CLIENT_ 开头的变量会暴露给前端,请不要填写敏感信息。

环境变量 说明 默认值
OPENAI_API_KEY OpenAI API Key,可以填写多个,用 \ 或者 换行 隔开,随机调用。最好是多填几个,API 有并发上的限制。如果用户不填自己的 key,那么就会使用你的 key。
OPENAI_API_BASE_URL 本地开发时可以填写 OpenAI 的代理服务器,但是 Vercel 不需要。并且不建议生产阶段使用。 api.openai.com
NO_GFW 表示可以服务器可以直连,不需要OPENAI_API_BASE_URL,就算设置了也不使用。 false
TIMEOUT OpenAI API 超时。单位为毫秒,Vercel Edge Function 最大超时为 30000。 30000
PASSWORD 网站密码
CLIENT_DEFAULT_MESSAGE 默认提示信息 - xx xx
CLIENT_GLOBAL_SETTINGS 默认全局设置 {“APIKey”:””,”password”:””,”enterToSend”:true}
CLIENT_SESSION_SETTINGS 默认对话设置,对话设置在每个对话中都是独立的。 {“title”:””,”saveSession”:true,”APITemperature”:0.6,”continuousDialogue”:true,”model”:”gpt-3.5”}
CLIENT_MAX_INPUT_TOKENS 有效上下文+输入的 token 数。OpenAI 不同模型的最大 token 不一样,价格也不同,可以分别设置。并且 OpenAI 会统计输入+输出之和,但我们这里只限制输入。 {“gpt-3.5”:16000,”gpt-4”:32000}
SEND_KEY 使用 Server 酱 推送帐号余额以及可用状态到微信,如果需要自行获取。推送时间为早上 8 点和晚上 8 点,在 vercel.json 文件中修改。如果 key 太多,超过 20 个,有可能失败。
SEND_CHANNEL Server 酱 的推送通道,默认微信服务号。 9

有两种设置方式

  1. .env.example 文件修改为 .env,在 .env 中设置。

  2. Vercel 中设置 Environment Variables。尽量使用这种方式,比较方便。会在下次部署时生效。

默认全局设置

记得删除注释,或者直接复制上面表格里的。

1
2
3
4
5
{
"APIKey": "", // 默认填写的 key,不需要填写,否则其他人看得到。
"password": "", // 默认填写的密码,不需要填写,否则其他人看得到。
"enterToSend": true // 回车键发送消息
}

默认对话设置

对话设置在每个对话中都是独立的。记得删除注释,或者直接复制上面表格里的。

1
2
3
4
5
6
7
{
"title": "", // 对话标题,不需要填写
"saveSession": true, // 记录当前对话内容,刷新不会丢失。关闭后仍然会记录锁定的对话。
"APITemperature": 0.6, // 0-2,思维发散程度,越高 ChatGPT 思维就越发散,开始乱答,甚至会乱码,建议小于 1 。
"continuousDialogue": true, // 开启连续对话,每次都需要将上下文传给 API。
"model": "gpt-3.5" // 模型,gpt-3.5、gpt-4。会自动根据 tokens 大小选择合适的模型。
}

提交你的 Prompts

  1. Fork 本项目。
  2. 修改 prompts.md
  3. Pull Request 即可。

如果你不懂这个操作,也可以直接在 Issues 提交你的 Prompts。目前大部分 Prompts 来自于 awesome-chatgpt-prompts-zh,当然,这个仓库大多数也是翻译的 awesome-chatgpt-prompts,一并感谢。

要求

  • 把需要输入的内容放在最后,可以提示 ChatGPT 开始输入了,比如 “我的第一句话是:”。
  • 尽可能去优化已有的 Prompts,而不是重复添加。
  • 添加到结尾,我会定期整理。