5分钟一键部署您的本地私人聊天型ChatGPT助理

投稿用户 • • 音频彩铃 • 阅读 176

一句话测试总结：

优点：可以选择各种类型的 AI 角色进行各种各样的对话。练习英语聊天的绝好帮手。

缺点：只能英语聊天！需要一定的英文基础，6b 模型 4bit 量化，不够智能，内容容易聊偏

分钟一键部署您的本地私人聊天型ChatGPT助理"

分钟一键部署您的本地私人聊天型ChatGPT助理"

安装方式：

Pygmalion AI + oobabooga +Tavern AI

平台信息： AMD2600， 1070Ti 8G，48G 内存（这次没有用到）

这次模型是跑在 8G GPU 内存上的，因为我没有高级显卡所以 Tavern AI 输出速度比较慢，但是直接用 start-webui 脚本的对话速度很快，完全可以拿来练习英语。

安装方式：
进入 github 下载 windows 一键安装包
https://github.com/oobabooga/text-generation-webui

install 批处理文件会自动帮你安装 conda 环境


download-model 批处理文件会帮你从抱抱脸下载相应的模型，这里我们选择 L 然后输入 mayaeary/pygmalion-6b-4bit-128g 进行下载。 最终文件夹一共 21GB 大。

最后 github 下载 Tavern AI 安装包（这个会加载人物资料和性格，对话会很慢），想单纯体验无限制本地角色扮演型对话的用自带的 start-webui 脚本就够了。

追求更多种类的对话角色何以安装 Tavern AI 在里面选择别人做好的 AI。

基本什么都能聊，英文好的话可以聊一天，是一款不错的解闷，聊天型对话模型，更多的使用姿势有待开发。

生意营销3大宝：彩铃、定位、认证，一个也不能少，如有需要，添加 微信：xnc528  备注：3

本文内容由互联网用户自发贡献，该文观点仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容， 请发送邮件至 820277912@qq.com 举报，一经查实，本站将立刻删除。
如若转载，请注明出处：https://www.clzz8.com/48305.html
赞 (0)
投稿用户
0
上一篇 2024年8月8日 pm10:15
下一篇 2024年8月9日 am3:03

相关推荐