【MaxKB Ollama Llama3】0费用构建AI私有知识库，客服、讲师等将被取代。

Coder哈利

2024 ж. 22 Сәу.

4 245 Рет қаралды

Жүктеу

哈利的个人网站：hali.life

Пікірлер

学习了，很棒，谢谢！
@shicong-yz1dd22 күн бұрын
非常好
@Dragon-ok6ne17 күн бұрын
不错，召回率如何
@onlyhuman02821 күн бұрын
好快速，需要什么显卡？
@kjyhh20 күн бұрын
我按照教程搭建了个环境，上传了生物医药行业分子克隆实验指南，并使用了通义千问、LLAMA2-chinese、LLAMA3和gemma四种大语言模型做测试。提问的问题和上传的知识库文档都是中文的，测试结果效果最好的还是通义千问，毕竟通义千问对中文环境兼容性较好。其次就是谷歌的gemma
@54shanghairen19 күн бұрын
- llama3，效果怎样？也没有通义千问好吗？
  @user-pq5gb4op8d18 күн бұрын
- 通义千问依然可以采用我这种方式部署，只要在ollama里下载通义千问的开源模型，方法和我演示的llama3基本一模一样
  @Coder-Hali218 күн бұрын
- @@user-pq5gb4op8d 我用了LLAMA3 8B和qwen 7B两个模型对接了同一个数据库让同事测试做了对比，如果询问的问题是中文，知识库内的资料也都是中文的话，通义千问的回复要比LLAMA3要准确的多。
  @54shanghairen17 күн бұрын
测试两周后给出结论，视频中用windows架设后知识库可以用起来。但是windows不能重启，否则会丢失所有配置。有人会说视频里有解答指向存放路径，这个方式没用，启动容器后指向的路径一直是空的，所以导致重启后配置丢失。已经联系的软件开发商，对方说后续会针对此问题做测试。
@54shanghairen6 күн бұрын
学习~希望我这样的小白能够学以致用实际上很多国内的客服经理电话都是AI了~ 标准措辞“请问是XXX先生/女士吗？我是某某银行的客户经理，请别挂机，耽误您几分钟。”然后就巴拉巴拉小魔仙……
@user-th5od6xi7n21 күн бұрын
学习了，很棒，请问docker的运行过程中为啥总显示,waiting postgresql ,no response,谢谢
@lindayu157121 күн бұрын
- 还显示localhost 未发送任何数据。
  @lindayu157121 күн бұрын
- 已通过GPT解决，谢谢
  @lindayu157121 күн бұрын
为啥楼主能选择llama3呢。
@user-eu3xj8lc2s20 күн бұрын
问题：不是本地私有的吗？用代码方式挂网站做客服怎么能调用本地的环境？
@daviddon884521 күн бұрын
- 想做网站客服, 搭建到自己的服务器上就可以了
  @feihuhan778421 күн бұрын
- @@feihuhan7784 感谢
  @daviddon884520 күн бұрын
docker不调用显卡怎么办？
@DonaldTrum280621 күн бұрын
- 不需要显卡参与
  @Coder-Hali221 күн бұрын
很奇怪對話幾次後就會變成使用英文對話這是非中文語系大模型的通病嗎?
@wing021017 күн бұрын
- 请在前置提示词中添加“请使用中文问答”
  @Coder-Hali217 күн бұрын
- @@Coder-Hali2 有的有添加但幾句後又使用英文回答
  @wing021016 күн бұрын