5分钟一键部署您的本地私人聊天型ChatGPT助理

一句话测试总结:

优点:可以选择各种类型的 AI 角色进行各种各样的对话。练习英语聊天的绝好帮手。

缺点:只能英语聊天!需要一定的英文基础,6b 模型 4bit 量化,不够智能,内容容易聊偏

分钟一键部署您的本地私人聊天型ChatGPT助理"

分钟一键部署您的本地私人聊天型ChatGPT助理"

安装方式:

Pygmalion AI + oobabooga +Tavern AI

平台信息: AMD2600, 1070Ti 8G,48G 内存(这次没有用到)

这次模型是跑在 8G GPU 内存上的,因为我没有高级显卡所以 Tavern AI 输出速度比较慢,但是直接用 start-webui 脚本的对话速度很快,完全可以拿来练习英语。

安装方式:
进入 github 下载 windows 一键安装包
https://github.com/oobabooga/text-generation-webui

install 批处理文件会自动帮你安装 conda 环境


download-model 批处理文件会帮你从抱抱脸下载相应的模型,这里我们选择 L 然后输入 mayaeary/pygmalion-6b-4bit-128g 进行下载。 最终文件夹一共 21GB 大。

最后 github 下载 Tavern AI 安装包(这个会加载人物资料和性格,对话会很慢),想单纯体验无限制本地角色扮演型对话的用自带的 start-webui 脚本就够了。

追求更多种类的对话角色何以安装 Tavern AI 在里面选择别人做好的 AI。

基本什么都能聊,英文好的话可以聊一天,是一款不错的解闷,聊天型对话模型,更多的使用姿势有待开发。

生意营销3大宝:彩铃、定位、认证,一个也不能少,如有需要,添加 微信:xnc528  备注:3

本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 820277912@qq.com 举报,一经查实,本站将立刻删除。
如若转载,请注明出处:https://www.clzz8.com/48305.html