简洁的网站模板,免费app开发工具,网站开发设计费用,武进常州做网站从小白到大模型的第一课#xff08;大模型常识和ollama入门#xff09; 一、初识大模型 1. 大模型核心概念 1.1 什么是大模型 大模型本质上来讲就是一个人工智能的程序#xff0c;基于深度学习#xff08;尤其是 Transformer 架构#xff09;#xff0c;在海量文本、图像…从小白到大模型的第一课大模型常识和ollama入门一、初识大模型1. 大模型核心概念1.1 什么是大模型大模型本质上来讲就是一个人工智能的程序基于深度学习尤其是 Transformer 架构在海量文本、图像、音视频等数据上进行大规模预训练具有海量参数、强大通用理解与生成能力可通过微调、提示等方式适配大量下游任务的巨型人工智能模型。1.2 大模型的分类自然语言处理模型专注于文本理解与生成如 GPT 系列、BERT、通义千问、GLM 等。‌视觉CV模型处理图像或视频数据如 Vision Transformer (ViT)、Stable Diffusion、Sora 等。‌音频模型处理音频数据如‌Kimi-Audio‌、Step-Audio 2 mini‌、FireRedTTS-2等。多模态模型能同时处理文本、图像、音频、视频等多种模态实现跨模态理解与生成如 CLIP、Flamingo、GPT-4V、Kosmos-2 等。‌1.3 大模型的应用场景智能客服与对话系统用于构建聊天机器人、虚拟助手提供24*7的客户支持。目前大模型最广泛应用。文本生成生成文章、故事、代码、营销文案等。机器翻译实现多语言之间的高质量翻译。问答系统提供精准的问答服务如知识库查询、技术支持。图像分类与识别识别图像中的物体、场景或人脸。目标检测与跟踪用于自动驾驶、安防监控等场景。2. 大模型的私有化部署2.1 为什么要私有化部署防止数据外泄保障数据安全高度定制化需求性能要求较高使用量较大降低token调用成本2.2 如何进行私有化部署基于ollama的方案 主要适合开发 和 测试阶段应用不支持多GPU运算基于 LM Studio方案多用于个人日常使用离线聊天、写作、总结、本地知识库等生产环境中建议采用VLLM 或 K8s容器化编排架构方案 支持 多GPU的运算二、 ollama入门1. ollama简介Ollama是一个开源跨平台大模型工具支持下载部署和运行开源大模型。2. 安装ollama2.1 ollama的下载官网地址https://ollama.com/ 选择对应的系统版本进行下载使用。2.2 ollama安装注意事项Mac安装完成后通过终端查看ollama的大模型存放路径可进行本地已有大模型的安装。一进入ollama安装地址cd.ollama二获取安装路径pwd3. ollama的使用命令3.1 ollama的客户端命令serve —Start ollamacreate —Create a model from a Modelfileshow —Show information for a modelrun —Run a modelstop —Stop a running modelpull —Pull a model from a registrypush —Push a model to a registrylist —List modelsps —List running modelscp —Copy a modelrm —Remove a modelhelp —Help about any command注先输入ollama空格再输入上述命令。3.2 ollama的对话指令/set —Set session variables/show —Show model information/load —Load a session or model/save —Save your current session/clear —Clear session context/bye —Exit/?, /help —Help for a command/? shortcuts —Help for keyboard shortcuts快捷键查询命令