所有这个词经由需要准备三个软件：物联网软件开发公司

小程序开发Ollama。用于驱动土产货大模子。如果使用闭源大模子的API，则不需要装配Ollama。Docker。用于驱动AnythingLLM。AnythingLLM。学问库驱动平台，提供学问库构建及驱动的功能。1 装配Ollama下载Ollama（网址：https://ollama.com/download）

图片物联网软件开发公司

下载后胜仗装配，然后启动大喊行窗口输入大喊加载模子。大喊不错通过点击官网Models后，搜索并礼聘所需要的模子后稽查。

图片

搜索框输入qwen

图片

安队第2024079期双色球遗漏分析：(热码：遗漏0-3期，温码遗漏4-9期，冷码遗漏10期及以上)

龙头分析：在最近10期奖号数据中，奇偶比为7：3，整体来看奇数奖号走势较热，本期龙头关注偶数号：02。

礼聘模子后，拷贝对应的大喊

图片

注：Ollama复旧加载驱动GGUF神气的大模子，这个自行稽查官网。

”启动大喊行窗口，拷贝大喊并驱动，要是第一次驱动，Ollama会自动下载模子并启动模子。如本机上已装配了qwen:14b模子，则输入大喊后会胜仗启动此模子。

图片

至此，Ollama装配已矣。

2 装配Docker

Docker 是一个开源的哄骗容器引擎，让路发者不错打包他们的哄骗以及依赖包到一个可移植的镜像中，然后发布到任何流行的操作系统的机器上，从而完结假造化。

装配Docker Desktop（下载网址：https://www.docker.com/products/docker-desktop/）

图片

下载后胜仗双击装配即可，Docker的装配经由相等疏忽，莫得什么参数需要修复，做个物联网软件要多少钱一王人next即可。

3 装配AnythingLLM

AnythingLLM不错在Docker上装配。

启动Docker Desktop。第一次启动可能需要注册账号，也不错胜仗使用google、github账号登陆。点击顶部的搜索框或输入快捷键Ctrl + K 灵通搜索窗口，输入anythingllm进行搜索，如下图所示，点击 Pull 按钮拉取镜像

图片

模子拉取已矣后，点击 Images 并在右侧的镜像列表中点击anythingllm后的 Run 按钮启动镜像

图片

如下图所示，输入容器称呼和端标语，这个不错果决输入，但不可和其他已有的容器名或端标语重迭（如果有的话）

图片

镜像启动后不错点击如下图所示位置的一语气，或者胜仗在浏览器中输入localhost:3001启动AnythingLLM

图片

4 建设AnythingLLM点击按钮 Get started 投入修复向导界面

图片

礼聘大模子。如下图所示修复使用Ollama，然后修复参数指定Ollama Base URL为 http://host.docker.internal:11434指定Chat Model Selection为 qwen:14b指定Token context window为 4096

图片

注：AnythingLLM复旧使用闭源模子的API。

”礼聘默许的AnythingLLM Embedder

图片

礼聘选择默许的LanceDB行动向量数据坑

图片

如下图所示修复

图片

检讨并阐明前边的修复

图片

为使命空间指命称呼，并投入下一步

图片

如下图所示，点击一语气upload a document灵通文档上传界面

图片

文档上传界面如图所示

图片

不错添加我方的文档，并将文档移入使命区

图片

文档移入后如下图所示

图片

image-20240420232939913点击按钮 Save and Embed 处理文档

图片

文档处理已矣后不错进行测试，如下图所示

图片

5 学问库科罚不错点击左下角的修复按钮灵通修复面板

图片

如下图所示不错修复语料分割参数

图片

也不错点击左上角的按钮，如下图所示

图片

其中第一个按钮灵通的是文档科罚对话框

图片

第二个按钮灵通的是模子修复面板

图片

具体修复轨范不错参阅文档。进步学问库性能的一些轨范包括：

使用更强大的底座模子。底座模子用于数据的输入和输出。使用GPT4恶果详情要比使用小界限的开源模子。AnythingLLM复旧以API样式调用如GPT4、Claude3、Gemini Pro等大模子。当今似乎还莫得提供国内大模子的接口。使用更好的Embedding模子。当今AnythingLLM内置了一个镶嵌模子。其也复旧调用如OpenAI、Ollama等提供的其他镶嵌模子。分词参数。用于分割数据。这个参数转念需要尝试。使用更高效的向量库。风雅的原始数据。6 关闭Docker

当不使用大模子时，为了大致资源，不错礼聘关闭容器。

点击 Containers ，点击关闭按钮不错关闭容器

图片

(完）

图片

本站仅提供存储劳动，所有骨子均由用户发布，如发现存害或侵权骨子，请点击举报。

• 搭建
• 物联网软件开发公司
• 基于
• AnythingLLM
• Ollama