①可以使用Colab
②具备一定的英语对话能力
如果英语水平不足,可以使用翻译软件。或者,使用OpenAI的api,也就是说可以调用chatgpt的api,实现中文对话。
若想直接调用ChatGPT的API的话,第二步使用colab的过程就可以直接跳过了。
然后在最后一步settings中API选择OpenAI,并在下方粘贴一个你的OpenAI的API,我这里为大家免费一个API
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(已被b战的大伙们用完额度了,无法连接上了,因此请自行准备api)
①打开TavernAI的项目页面:https://github.com/TavernAI/TavernAI
下载后解压压缩包
②安装Node.js
https://nodejs.org/download/release/v19.1.0/
一路安装下去。
③安装环境依赖
来到刚刚解压的TavernAI文件夹,Shift+F10,选择终端打开。或者打开cmd,然后cd进入TavernAI文件夹。
依次输入下方两个指令
npm install
node server.js
需要注意的是,node server.js 是启动指令,以后要启动TavernAI,直接cd进去然后输入node server.js即可
当出现这个网页时,代表TavernAI已经成功安装。
打开KoboldAI的项目链接:https://github.com/KoboldAI/KoboldAI-Client
有TPU版本和GPU版本,我这里选择TPU版本。
点击左侧第一个按钮
然后出现个音乐播放,点击即可。
下方代码块,在Model处选择你要运行的模型。
KoboldAI的项目Readme里面有详细的模型介绍,大家可以看自己喜欢来选择。
我这里以默认的Nerys 13B V2为例子。点击左侧的按钮,代码块开始运行。如果你把use_google_drive 的勾打上了,那可能需要谷歌云盘授权。运行的时间大概在10分钟以内,大致流程是自动下载文件,安装依赖,下载模型,然后加载模型,耐心等待即可。
当出现类似于这种链接出现时,说明已经成功运行。打开此链接,检查能否访问。
成功访问
打开这个网站:https://zoltanai.github.io/character-editor/
选择右边的new character
开始你的自定义人设(请使用英文)
最后上传角色的头像
下方按钮导出
选择左侧下载角色卡片
请注意,这张png照片包含了你刚刚输入的所有人设信息。
因为某些原因,我们需要魔法才能连接到kobold的api或openai的api。而笔者发现即使clash开启了全局代理,TavernAI的流量依然没有经过clash内核,因此我们需要一个流量转发软件,才能让TavernAI成功连接上kobold的api或openai的api,本教程以proxycap为例子。下载该软件:https://www.proxycap.com/download.html
一路安装,然后重启电脑。
重启电脑后,右键该软件图标,选择configuration
选择Proxies,并新建一项。
Type选择SOCKS5,Hostname填127.0.0.1,Port需要看你Clash主界面的配置,默认设置为7890
打开Clash主界面,可在此处查看Clash的端口(我的是默认的7890)
点击OK保存。
再打开Rules,新建一个。
需要注意proxy要选择我们刚刚设置的代理规则(My proxy),Progam建议选择specify,选择你的Nodejs的安装目录,TCP和UDP都勾上,最后选OK。
成功设置转发。
图标为红色时,表面软件开启中,如果没有开启,请右键图标,然后选择Enable Proxycap。
回到之前的TavernAI页面,http://127.0.0.1:8000/
点击右上角的选项
点击Chaeacter→Import进行导入(UI作者内设了三个素晴世界的人设)
导入成功
选择该角色,会出现该角色的会话框,以及你设定的Greeting Message
(1)最后打开Settings,复制刚刚的链接到api选项处,并点击connect
当出现绿色圆形并显示加载的模型名称时,代表TavernAI与KoboldAI连接成功。
如果一直连接不上,请重新执行第四步的操作。
(2) 如果你是调用ChatGPT的api,请选择OpenAI
API处输入你的API,当然你也可以用我的
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(已被b战的大伙们用完额度了,无法连接上了,因此请自行准备api)
如果一直连接不上,请重新执行第四步的操作。
至此,教程已结束。