公司网站如何宣传推广厦门seo优化多少钱

公司网站如何宣传推广,厦门seo优化多少钱,怎么查个人名下是否注册公司,营销活动方案策划AutoGLM-Phone-9B新手入门指南#xff1a;从零到一搭建智能对话服务 想在自己的服务器上快速搭建一个能看、能听、能聊的智能助手吗#xff1f;今天#xff0c;我们就来手把手教你部署AutoGLM-Phone-9B——一款专为移动端优化的多模态大模型。它只有90亿参数#xff0c;却…AutoGLM-Phone-9B新手入门指南从零到一搭建智能对话服务想在自己的服务器上快速搭建一个能看、能听、能聊的智能助手吗今天我们就来手把手教你部署AutoGLM-Phone-9B——一款专为移动端优化的多模态大模型。它只有90亿参数却融合了视觉、语音和文本处理能力非常适合在资源有限的设备上运行。无论你是想开发一个智能客服机器人还是想给自己的应用加上AI对话功能这篇文章都能帮你快速上手。我们不讲复杂的原理只讲最实用的步骤让你在30分钟内就能让模型跑起来并开始对话。1. 准备工作了解你的新工具在开始动手之前我们先简单了解一下AutoGLM-Phone-9B到底是什么以及它能帮你做什么。1.1 模型能做什么AutoGLM-Phone-9B是一个“多面手”AI模型。简单来说它有三种核心能力看懂图片你给它一张照片它能描述里面的内容。比如上传一张风景照它能告诉你“照片里有蓝天、白云和绿色的山丘”。听懂语音你可以上传一段录音它能转换成文字并理解意思。这很适合做会议记录或者语音助手。智能对话这是它的基础能力你可以像和朋友聊天一样向它提问它会根据上下文给出合理的回答。它的最大特点是“轻量化”。很多强大的AI模型动辄几百亿、上千亿参数需要非常昂贵的显卡才能运行。而AutoGLM-Phone-9B经过精心设计在保持不错能力的前提下把参数量压缩到了90亿让它在高性能的消费级显卡上也能流畅运行。1.2 你需要准备什么要让这个模型跑起来你需要一个足够强大的“电脑”。这里有一个非常重要的硬件要求你需要至少2块英伟达RTX 4090显卡。为什么需要这么高的配置因为模型虽然经过了压缩但它同时处理图片、语音和文本对显存显卡的内存的需求依然很大。单块24GB显存的4090显卡可能刚好够加载模型但无法流畅进行多轮对话或处理复杂任务。使用双卡可以提供足够的显存余量确保服务稳定运行。如果你是在云服务器上操作记得选择配备双4090显卡的实例。如果是在自己的电脑上请确认硬件符合要求。2. 第一步启动模型服务现在我们进入正题开始启动模型服务。你可以把这一步理解为“打开一个智能对话机器人的开关”。2.1 找到启动开关模型的所有启动程序已经预先安装好了我们只需要找到并运行它。首先打开你的终端命令行窗口输入以下命令进入存放启动脚本的目录cd /usr/local/bin这个目录就像是一个“工具箱”里面放着各种可执行的程序文件。我们需要的启动脚本run_autoglm_server.sh就放在这里。2.2 运行启动脚本接下来输入一个简单的命令来启动服务sh run_autoglm_server.sh按下回车后终端会开始输出很多信息。这个过程可能会持续一两分钟因为系统正在把庞大的模型从硬盘加载到显卡的内存里。请耐心等待直到你看到类似下面这样的成功提示INFO: Starting AutoGLM-Phone-9B server... INFO: Loading model weights... INFO: Server running on http://0.0.0.0:8000当你看到Server running on http://0.0.0.0:8000这行字时就说明模型服务已经成功启动并在本机的8000端口上等待你的指令了。这个服务会一直运行在后台直到你关闭终端或手动停止它。如果启动失败怎么办最常见的原因是显存不足。请再次确认你是否拥有至少2块RTX 4090显卡并且没有其他程序占用大量显存。你可以通过命令nvidia-smi来查看显卡的使用情况。3. 第二步验证服务是否正常服务启动后我们怎么知道它真的在正常工作并且能正确回答问题呢最好的方法就是亲自问它一个问题。我们将使用一个名为Jupyter Lab的网页工具来编写和运行测试代码这比在纯命令行里操作要直观方便得多。3.1 打开Jupyter LabJupyter Lab是一个交互式的编程环境你可以在浏览器里编写代码并立即看到运行结果。通常它已经随环境一起安装好了。打开你的浏览器。在地址栏输入你的服务器IP地址和Jupyter Lab的端口号例如http://你的服务器地址:8888/lab。如果提示需要密码或令牌请输入你设置好的信息。成功登录后你会看到一个文件管理界面。点击右上角的“”号选择创建一个新的“Python 3”笔记本。你会看到一个可以输入代码的单元格。3.2 编写测试代码并运行在新的代码单元格里复制并粘贴以下代码。这段代码的作用是连接我们刚刚启动的模型服务并向它发送一个问题。from langchain_openai import ChatOpenAI # 创建一个聊天模型客户端指向我们本地启动的服务 chat_model ChatOpenAI( modelautoglm-phone-9b, # 指定使用哪个模型 temperature0.5, # 控制回答的随机性0.5比较平衡既不死板也不乱说 base_urlhttps://gpu-pod695cce7daa748f4577f688fe-8000.web.gpu.csdn.net/v1, # 注意这里需要替换成你实际的Jupyter服务地址和8000端口 api_keyEMPTY, # 因为是本地服务不需要密码 extra_body{ enable_thinking: True, # 让模型展示它的“思考过程”回答会更详细 return_reasoning: True, }, streamingTrue, # 启用流式输出回答会一个字一个字显示体验更好 ) # 向模型提问 response chat_model.invoke(你是谁) # 打印模型的回答 print(response.content)重要提示代码中的base_url需要修改你需要将https://gpu-pod695cce7daa748f4577f688fe-8000.web.gpu.csdn.net/v1替换成你当前Jupyter Lab环境的真实访问地址并确保端口是8000。你可以咨询你的服务器管理员或查看云平台的控制台来获取正确的地址。修改好地址后点击单元格上方的“运行”按钮一个向右的三角形。代码会开始执行并向模型服务发送问题“你是谁”。3.3 查看运行结果如果一切顺利几秒钟后你会在单元格下方看到模型的回答。一个成功的响应可能长这样我是 AutoGLM-Phone-9B一个专为移动端优化的多模态大语言模型。我能够处理和理解文本、图像以及语音信息并在此基础上与用户进行对话和交互。很高兴为您服务看到这个回答恭喜你这意味着你的AutoGLM-Phone-9B智能对话服务已经成功搭建并正常运行了。你现在拥有了一台可以7x24小时回答问题的AI助手。4. 第三步开始你的第一次智能对话基础测试通过后让我们玩点更有趣的。模型服务支持流式输出这意味着你可以看到它“一边思考一边回答”的过程体验更自然。我们来尝试一个多轮对话。4.1 进行流式对话在新的代码单元格中输入以下代码# 我们使用流式调用的方式体验更佳 stream chat_model.stream(请用简单的语言解释一下什么是人工智能。) print(AI: , end, flushTrue) # 先打印“AI: ”不换行 for chunk in stream: if chunk.content is not None: print(chunk.content, end, flushTrue) # 流式打印每个字运行这段代码你会看到模型的回答不是一个完整的句子突然蹦出来而是像真人打字一样逐字逐句地显示在屏幕上。这种体验对于构建聊天应用来说非常重要。4.2 尝试不同的提问方式你可以随意修改invoke或stream方法中的问题来测试模型的能力。例如创意类“写一首关于春天的五言绝句。”逻辑类“如果小明比小红高小红比小兰高那么谁最高”指令类“帮我写一封简洁的会议邀请邮件。”多尝试几种问题观察模型的回答是否合理、通顺。temperature参数可以调整范围0.0到1.0值越低回答越确定和保守值越高则越有创意和随机性。5. 总结你的智能服务已就绪至此你已经完成了从零开始搭建AutoGLM-Phone-9B智能对话服务的全部步骤。让我们简单回顾一下环境确认我们首先明确了需要至少2块RTX 4090显卡的硬件要求这是服务稳定运行的基石。启动服务通过两条简单的命令我们进入了指定目录并启动了模型的后台服务。验证测试在Jupyter Lab中我们编写了测试代码通过询问“你是谁”验证了服务连接和模型响应均正常。初步体验我们尝试了流式对话并了解了如何通过提问与模型进行交互。你现在拥有的是一个功能完整的AI对话后端服务。接下来你可以深入探索查阅模型的官方文档了解它更多的参数和高级功能。集成应用将这里的API调用代码嵌入到你自己的网站、APP或小程序中打造属于你的AI产品。尝试调优如果你有特定的任务数据比如客服问答对可以参考P-tuning等参数高效微调方法让模型更擅长你的业务场景。获取更多AI镜像想探索更多AI镜像和应用场景访问 CSDN星图镜像广场提供丰富的预置镜像覆盖大模型推理、图像生成、视频生成、模型微调等多个领域支持一键部署。