KZhead
Ғылым және технология

一键部署本地私人专属知识库，开源免费！可接入GPT-4、Llama 3、Gemma、Kimi等几十种大模型，零代码集成，1Panel出品。

AI探索与发现
2024 ж. 4 Мам.
17 822 Рет қаралды
Жүктеу

一键部署本地私人专属知识库，开源免费！可接入GPT-4、Llama 3、Gemma、Kimi等几十种大模型，零代码集成，1Panel出品。
Llama 3 申请与本地部署
• Llama 3 模型申请与本地部署的几种方法...
Llama 2 微调
• 🦙使用自己的数据微调Llama 2 最简单方...
Llam 2 申请与本地部署
• Llama2模型申请与本地部署详细教程
启用虚拟化指令
dism.exe /online /enable-feature /featurename:VirtualMachinePlatform /all
MaxKB项目地址
github.com/1Panel-dev/MaxKB
Docker桌面程序下载
www.docker.com/products/docke...
MaxKB docker 部署指令
docker run -d --name=maxkb -p 8080:8080 -v ~/.maxkb:/var/lib/postgresql/data 1panel/maxkb
MaxKB本地登录
用户名: admin
密码: MaxKB@123..
Ollama下载
ollama.com/download
演示测试文档下载
drive.google.com/drive/folder...
pan.baidu.com/s/1YIfLQeajt9LV...
00:00 介绍
00:47 开启系统虚拟化
01:11 docker安装与部署
02:36 数据本地化
04:12 本地知识库
05:12 对接大模型
08:25 问答系统

Пікірлер

  • 视频风格有零度大佬的感觉🤣，支持

    @user-kx7wj7rq7m@user-kx7wj7rq7m13 күн бұрын

  • 好物呀~~~來測試一下

    @jamesyen7288@jamesyen72888 күн бұрын

  • awesome👍

    @back_to_the_future9187@back_to_the_future918713 күн бұрын

  • 可以保存历史聊天记录吗

    @fokery1@fokery18 күн бұрын

  • 找了很多天的本地部署，只有你最全面最完善，点赞

    @JoyGag@JoyGag12 күн бұрын

  • 我之前用时感觉智能分段不太好用

    @richbd5792@richbd579213 күн бұрын

  • 能不能用api调用呢

    @bigfish1188@bigfish11888 күн бұрын

  • 每一次重新開機是不是都要開docker + cmd ollama? 有沒有更一鍵開始網頁用?

    @fbchanchi@fbchanchi9 күн бұрын

    • 好像都可以设置到启动项里的

      @AIDiscovery2045@AIDiscovery20459 күн бұрын

  • 求问大佬一下：这种操作是不是相当于机器学习？比如，我导入文档是一堆鲁迅的文章，然后最终我输入一段文字或者给个主题，让AI以鲁迅的风格写一篇文章。还是说，这种操作只是能在给定的文章库里进行诸如总结分析等操作而已？

    @user-oe3vs4jj4d@user-oe3vs4jj4d13 күн бұрын

    • 是的，可以做到。但这个AI用于搭建个人或者企业的知识问答系统、AI智能客服系统更加合适

      @AIDiscovery2045@AIDiscovery204513 күн бұрын

    • 请问，是否对电脑配置有要求？

      @artlinehua7087@artlinehua708713 күн бұрын

    • @@artlinehua7087 6G显存起步

      @AIDiscovery2045@AIDiscovery204513 күн бұрын

  • 还请问本地部署的资料库有文件数量限制吗？很多类似应用只能上传10个文件

    @mikeyu7271@mikeyu727111 күн бұрын

    • 50个

      @lonelyfq@lonelyfqКүн бұрын

  • 文档无权下载

    @user-tu9dm2md3k@user-tu9dm2md3k2 күн бұрын

  • 大佬 😭Win11 docker desktop 如何修改【已创建的容器】的端口映射？比如 我想把localhost:3000:8080改为localhost:8079:8080 怎么操作？

    @singularity2000@singularity200012 күн бұрын

    • 重新部署时第二个端口填写你想要映射的端口

      @AIDiscovery2045@AIDiscovery204512 күн бұрын

    • @@AIDiscovery2045 确实只有重新部署一条路了。修改部署好的容器的端口没想到这么难，网上搜了一圈都没搞懂

      @singularity2000@singularity200012 күн бұрын

    • @@singularity2000 重新部署也省事，一键部署，重填几个参数。

      @AIDiscovery2045@AIDiscovery204512 күн бұрын

  • 大哥 你每次win的介绍完了，在介绍Mac啊 照顾下我们呀😅

    @user-rm8td8el6r@user-rm8td8el6r2 күн бұрын

    • 我的Mac跑不动ollama下载的模型😀

      @AIDiscovery2045@AIDiscovery20452 күн бұрын

    • @@AIDiscovery2045 你的不行 可以远程下我们的呀，Mac到底需要多大的配置才行

      @user-rm8td8el6r@user-rm8td8el6r2 күн бұрын

    • @@user-rm8td8el6r 至少M1

      @AIDiscovery2045@AIDiscovery20452 күн бұрын

    • @@AIDiscovery2045 我的是m2 mini 就是打开虚拟环境不知道怎么进入虚拟环境安装

      @user-rm8td8el6r@user-rm8td8el6r2 күн бұрын

    • @@user-rm8td8el6r source venv\scripts\activate

      @AIDiscovery2045@AIDiscovery2045Күн бұрын

  • 请问，是否对电脑配置有要求？

    @artlinehua7087@artlinehua708713 күн бұрын

    • 如果使用的模型是7B，6G显存；如果在线接入gpt或者其他在线的大模型，普通CPU也能跑

      @AIDiscovery2045@AIDiscovery204513 күн бұрын

    • @@AIDiscovery2045 完了 我的4g没用了

      @user-ws6eu2kl9f@user-ws6eu2kl9f13 күн бұрын

  • 大佬，怎么更改网页端的logo信息？

    @haipiday@haipiday7 күн бұрын

    • docker下安装改不了哈

      @AIDiscovery2045@AIDiscovery20457 күн бұрын

    • @@AIDiscovery2045 目前只有docker这一种安装方式吗

      @haipiday@haipiday7 күн бұрын

  • 6G显卡指的是专用内存还是可以包含共享GPU内存，笔记本专用GPU内存4G，共享GPU内存7.8G可以布置吗？

    @mikeyu7271@mikeyu727111 күн бұрын

    • 可以跑，但稍有点慢。6G指的是专用内存

      @AIDiscovery2045@AIDiscovery204510 күн бұрын

    • @@AIDiscovery2045 感谢

      @mikeyu7271@mikeyu727110 күн бұрын

  • 求教大佬，这个支持API吗，我想用其他app来调用

    @longlim3418@longlim34183 күн бұрын

    • 暂不支持。但可以在第三方系统中无缝嵌入知识库的应用网址

      @AIDiscovery2045@AIDiscovery20453 күн бұрын

  • 在模型设置里，添加模型，不能下载，提示失败，不知道是怎么回事

    @sbyszw7785@sbyszw778510 күн бұрын

    • 那可以等ollama命令窗口下载完以后再到MaxKBj里添加；

      @AIDiscovery2045@AIDiscovery204510 күн бұрын

  • rror code: 500 - {'error': {'message': 'error starting the external llama server: exec: "ollama_llama_server.exe": executable file not found in %PATH% ', 'type': 'api_error', 'param': None, 'code': None}} 提示这个是什么原因呀，怎么解决呢

    @kezhu2484@kezhu248411 күн бұрын

    • ollama重新安装下，别安装在中文目录里

      @AIDiscovery2045@AIDiscovery204511 күн бұрын

  • 越看越想搞，最后止步于显卡，每次都如此。能否讲讲怎样云端部署，尤其colab，毕竟人人都有谷歌。

    @user-gw4xo1cj5u@user-gw4xo1cj5u13 күн бұрын

    • 云平台要花钱的

      @user-ws6eu2kl9f@user-ws6eu2kl9f13 күн бұрын

    • 谷歌colab现在收费了

      @user-mv6hn2px9e@user-mv6hn2px9e2 күн бұрын

  • 大神，我苹果电脑，两个api域名都提示失效，怎么办😅

    @muyi8539@muyi85399 күн бұрын

    • 换成本机的IP试试，一般都是192.168.开头的

      @AIDiscovery2045@AIDiscovery20459 күн бұрын

    • ​@@AIDiscovery2045 原来重启电脑，忘了打开ollama了！~

      @muyi8539@muyi85399 күн бұрын

  • 提示127.0.0.拒绝连接

    @leochen238@leochen2387 күн бұрын

    • 要加端口号

      @AIDiscovery2045@AIDiscovery20457 күн бұрын

  • 没显卡是不是跑不起来

    @LeBem-qe4vd@LeBem-qe4vd3 күн бұрын

    • 可以跑，但体验不好，模型回复会非常慢。

      @AIDiscovery2045@AIDiscovery20453 күн бұрын

  • API域名总是显示无效，求解答！

    @user-nd9vd1si7s@user-nd9vd1si7sКүн бұрын

    • host.docker.internal:11434 也不行吗

      @AIDiscovery2045@AIDiscovery2045Күн бұрын

    • @@AIDiscovery2045 是啊，很郁闷

      @user-nd9vd1si7s@user-nd9vd1si7s6 сағат бұрын

  • 删除后 在新建 出现Failed to run image. (HTTP code 500) server error - invalid volume specification: '/run/desktop/mnt/host/d/Maxkb: /var/lib/postgresql/data': invalid mount config for type "bind": invalid mount path: ' /var/lib/postgresql/data' mount path must be absolute

    @user-rs3up3js4p@user-rs3up3js4p7 күн бұрын

    • 和你一样的错误信息，就是这个复制的路径，已经是绝对路径了，但还是不对

      @lacovovo@lacovovoКүн бұрын
KZhead