西安网站设计哪家公司好android聊天功能开发
西安网站设计哪家公司好,android聊天功能开发,建设项目查询网站,物流平台大家好#xff0c;我是笑小枫#xff0c;在代码和人生之间#xff0c;寻找优雅的解。最近有朋友在问#xff0c;如何在Windows系统上搭建一套AI应用开发环境。今天不造轮子#xff0c;直接使用Dify进行快速搭建。
本文讲解Ollama、Docker Desktop和Dify的安装配置#xf…大家好我是笑小枫在代码和人生之间寻找优雅的解。最近有朋友在问如何在Windows系统上搭建一套AI应用开发环境。今天不造轮子直接使用Dify进行快速搭建。本文讲解Ollama、Docker Desktop和Dify的安装配置以及Dify如何整合Ollama运行的模型。先看效果展示通过本文你可以在本地去搭建一套Dify应用并去创建你需要的AI应用。是不是很酷而且整个过程完全免费让我们开始吧。环境说明说明不使用本地Ollama跑模型配置要求不高可选择服务商接口调用。电脑环境系统Windows 11 家庭中文版处理器i9-14900HX显卡RTX 5080 16G跑本地模型需要网络需要科学上网可以私聊咨询安装Docker容器需要软件环境Ollama0.17.0Docker Desktop4.62.0Dify仓库最新版本DeepSeek-R1:8bbge-m3安装Ollama什么是Ollama简单来说Ollama就是一个让你能在本地轻松运行大模型的工具支持Llama、DeepSeek、Qwen等主流模型。如果使用服务商的接口可以跳过这部分。安装步骤1. 下载安装程序打开浏览器访问Ollama官网https://ollama.com/download下载Windows版本。2. 快速安装双击下载好的安装程序点击安装就行。3. 安装结果验证打开命令行WinR输入cmd输入以下命令ollama --version成功展示版本号说明安装成功。4. 验证服务是否启动打开浏览器访问 http://localhost:11434/看到下图就说明Ollama正常运行下载模型安装完成后使用系统菜单栏的搜索直接搜索Ollama找到程序双击打开下载模型可以直接点击界面上的模型下载或者使用命令行下载例如下载bge-m3的模型知识库需要用到ollama pull bge-m3查看下载的模型列表ollama list运行模型测试ollama run deepseek-r1:8b安装Docker Desktop为什么要装DockerDify官方推荐用Docker部署这样可以避免各种环境配置问题。安装步骤1. 下载Docker Desktop访问 https://www.docker.com/products/docker-desktop/ 下载Windows对应的版本2. 开始安装双击安装包等待加载完成点击OK继续3. 重启电脑安装完成后需要重启电脑4. 完成最后配置重启后打开Docker Desktop如果提示更新WSL直接回车更新即可最后登录Docker账号需要科学上网安装Dify什么是DifyDify是一个开源的LLM应用开发平台可以让你像搭积木一样构建AI应用支持工作流编排、知识库管理、API集成等功能。安装步骤1. 下载Dify源码如果有Git直接克隆gitclone https://github.com/langgenius/dify.git没有Git的话可以直接去GitHub下载ZIP包。2. 启动Dify进入docker目录并启动# 进入docker目录cddify/docker# 复制环境配置Windows用copy命令copy .env.example .env# 启动Dify下载镜像需要切换国内镜像源或者科学上网docker-composeup -d# 等待2-3分钟查看服务状态docker-composeps看到所有的服务状态都是运行中就成功了3. 初始化配置打开浏览器访问 http://localhost/首次进入需要设置管理员账号我这里的已经设置完了然后进行登录。登录成功后你就拥有了一个功能强大的AI应用开发平台Dify集成Ollama添加模型供应商点击右上角头像 → 设置如下图所示进入模型供应商页面找到Ollama并点击安装我这里已经安装过了添加LLM模型以DeepSeek为例点击添加模型选择模型类型为LLM填写配置因为Ollama默认是localhost访问Dify在dockerOllama在本地不能使用localhost。所以我们需要设置OLLAMA_HOSTsetx OLLAMA_HOST 0.0.0.0:11434这里设置的是0.0.0.0你也可以根据实际需要进行指定。模型名称deepseek-r1:8b或其它下载的模型服务器URLhttp://xxxx:11434 (xxxx替换成你的ip地址其他配置保持默认添加Embedding模型用于知识库再添加一个bge-m3根据自己需求选择这个对多语言支持比较好我需要用到模型这次选择模型类型为Text Embedding如果配置的不对Dify会报错如果没有报错那么恭喜完成了整个环境的搭建。测试效果现在我们来创建一个应用测试一下进入工作室 → 创建Agent选择deepseek-r1模型输入问题测试看到模型成功回答说明整个环境配置成功啦写在最后整个流程走下来你是不是发现其实并不复杂有了这套环境你就可以搭建企业级智能客服构建个人知识库问答系统开发AI工作流应用测试各种开源大模型下期预告我将深入讲解从零搭建一个完整的智能客服系统包括知识库配置、工作流设计和API对接敬请期待关注我获取更多AI实战教程