当前位置:首页|资讯|ChatGPT|GitHub

[AI角色对话]使用KoboldAI与AI猫娘无限制对话(数据私有化/可以NSFW)

作者:coyude发布时间:2023-03-12

本教程有两个前置条件

①可以使用Colab

②具备一定的英语对话能力

如果英语水平不足,可以使用翻译软件。或者,使用OpenAI的api,也就是说可以调用chatgpt的api,实现中文对话。

若想直接调用ChatGPT的API的话,第二步使用colab的过程就可以直接跳过了。
然后在最后一步settings中API选择OpenAI,并在下方粘贴一个你的OpenAI的API,我这里为大家免费一个API
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(已被b战的大伙们用完额度了,无法连接上了,因此请自行准备api)

第一步——安装TavernAI并启动

①打开TavernAI的项目页面:https://github.com/TavernAI/TavernAI

下载

下载后解压压缩包

②安装Node.js

https://nodejs.org/download/release/v19.1.0/

选择msi

一路安装下去。

③安装环境依赖

来到刚刚解压的TavernAI文件夹,Shift+F10,选择终端打开。或者打开cmd,然后cd进入TavernAI文件夹。

依次输入下方两个指令

npm install
node server.js

需要注意的是,node server.js 是启动指令,以后要启动TavernAI,直接cd进去然后输入node server.js即可

当出现这个网页时,代表TavernAI已经成功安装。

第二步——使用Colab运行KoboldAI(调用ChatGPT的API版请跳过这一步)

打开KoboldAI的项目链接:https://github.com/KoboldAI/KoboldAI-Client

进入colab文件夹

有TPU版本和GPU版本,我这里选择TPU版本。

点击左侧第一个按钮

然后出现个音乐播放,点击即可。

下方代码块,在Model处选择你要运行的模型。

KoboldAI的项目Readme里面有详细的模型介绍,大家可以看自己喜欢来选择。

我这里以默认的Nerys 13B V2为例子。点击左侧的按钮,代码块开始运行。如果你把use_google_drive 的勾打上了,那可能需要谷歌云盘授权。运行的时间大概在10分钟以内,大致流程是自动下载文件,安装依赖,下载模型,然后加载模型,耐心等待即可。


当出现类似于这种链接出现时,说明已经成功运行。打开此链接,检查能否访问。

成功访问

第三步——自定义AI角色人设

打开这个网站:https://zoltanai.github.io/character-editor/

选择右边的new character

开始你的自定义人设(请使用英文)

最后上传角色的头像

下方按钮导出

选择左侧下载角色卡片

请注意,这张png照片包含了你刚刚输入的所有人设信息。

第四步——代理流量转发(如果你网络处在不需要魔法的地方,请忽略这一步)

因为某些原因,我们需要魔法才能连接到kobold的api或openai的api。而笔者发现即使clash开启了全局代理,TavernAI的流量依然没有经过clash内核,因此我们需要一个流量转发软件,才能让TavernAI成功连接上kobold的api或openai的api,本教程以proxycap为例子。下载该软件:https://www.proxycap.com/download.html

一路安装,然后重启电脑。

重启电脑后,右键该软件图标,选择configuration

选择Proxies,并新建一项。

Type选择SOCKS5,Hostname填127.0.0.1,Port需要看你Clash主界面的配置,默认设置为7890

打开Clash主界面,可在此处查看Clash的端口(我的是默认的7890)

点击OK保存。

再打开Rules,新建一个。

需要注意proxy要选择我们刚刚设置的代理规则(My proxy),Progam建议选择specify,选择你的Nodejs的安装目录,TCP和UDP都勾上,最后选OK。

成功设置转发。

图标为红色时,表面软件开启中,如果没有开启,请右键图标,然后选择Enable Proxycap。

第五步——导入角色设定并开始对话

回到之前的TavernAI页面,http://127.0.0.1:8000/

点击右上角的选项

点击Chaeacter→Import进行导入(UI作者内设了三个素晴世界的人设)

导入成功

选择该角色,会出现该角色的会话框,以及你设定的Greeting Message

(1)最后打开Settings,复制刚刚的链接到api选项处,并点击connect

当出现绿色圆形并显示加载的模型名称时,代表TavernAI与KoboldAI连接成功。

如果一直连接不上,请重新执行第四步的操作。

(2) 如果你是调用ChatGPT的api,请选择OpenAI

API处输入你的API,当然你也可以用我的

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(已被b战的大伙们用完额度了,无法连接上了,因此请自行准备api)

如果一直连接不上,请重新执行第四步的操作。

至此,教程已结束。


Copyright © 2025 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1