企业官网建设流程全解析

南宁网站建设公司业绩,呼和浩特网站建设哪家最便宜,金融企业类网站模板免费下载,关键词挖掘1.Ollama介绍与安装 Ollama 是一款轻量级的大模型本地运行工具#xff0c;支持在 Windows、macOS、Linux 等多种操作系统上快速部署和运行开源大模型#xff08;如 Llama 3、Mistral、Gemini 等#xff09;。相比依赖云端的模型服务#xff0c;Ollama 的优势在于本地化部署…1.Ollama介绍与安装Ollama 是一款轻量级的大模型本地运行工具支持在 Windows、macOS、Linux 等多种操作系统上快速部署和运行开源大模型如 Llama 3、Mistral、Gemini 等。相比依赖云端的模型服务Ollama 的优势在于本地化部署、低延迟、数据隐私保护数据无需上传至云端非常适合对数据安全性要求较高或需要离线运行的场景。1.1 下载访问官网 https://ollama.ai 根据对应平台下载。下面以windows 10 为例系统要求内存建议至少 16GB运行 7B 模型更推荐 32GB。显卡支持 NVIDIA GPUCUDA、AMD GPUROCm、Apple M 系列芯片。如果没有显卡将会使用CPU进行运算效果会很差。硬盘 每个模型约3G~40G,建议预留 50G以上磁盘空间1.2 改变安装目录安装的时候默认会安装到系统盘可以通过在命令行中指定安装位置比如E:\ollama安装的时候默认会安装到系统盘可以通过在命令行中指定安装位置比如E:\ollama# 打开命令行窗口定位到安装文件所在目录然后执行OllamaSetup.exe /DIRE:\ollama这样所有的安装文件都将会安装到E:\ollama目录中1.3 配置环境变量ollama 会拉取模型文件到本地然后加载运行。而模型文件往往比较大可以配置环境变量来指定模型文件存放的目录这里指定模型文件存放的目录为:E:\ollama\models,环境变量名称为OLLAMA_MODELS, 系统重启后生效。1.4 模型操作相关命令打开命令行窗口执行下面的命令# 查看已安装的模型ollama list# 拉取模型,这里作为演示拉取4b的qw3模型大概 2.5GB 左右ollama pull qwen3:4b# 查看模型详情ollama show qwen3:4b# 删除模型ollamarmqwen3:4b# 运行模型 (交互式对话)ollama run qwen3:4b# 带参数运行ollama run llama3\--temperature0.7\# 创造性0-1--top_p0.9\# 采样概率阈值--max_tokens2000# 最大生成长度访问 https://ollama.com/search 可以查询到可以拉取的模型每个模型都列出了相对应的参数。模型运行后就可以向模型发送消息了同时也提供了windows窗口选择下载的模型后就可以对话了2.Ollama 云模型模型在没有显卡的机器上加载其执行速度特别慢。Ollama 新推出的云模型Cloud Models就是为了解决这个问题。首先我们要下载名字后有个-cloud的模型代表模型运行在云端2.1 登录 ollama账号先在ollama网站上注册账号然后在本地服务器上登录ollama signin这个命令执行完毕后会输出一个URL:To sign in, navigate to: https://ollama.com/connect?nameollamakeyc3NoLWVkMjU1MTkgQUFBQUMzTnphQzFsWkRJMU5URTVBQUFBSU1reEp5KzVBejBSMUZQdGQ2bW9vemJiNmtmR2FaSG9yWm1zUxxxxxxxxxxxxxx复制这个URL使用浏览器打开如果显示连接成功那么此时就可以使用-cloud模型了2.2 拉取cloud模型ollama pull qwen3-next:80b-cloud打开Ollama聊天客户端选择qwen3-next:80b-cloud这样就可以使用运行在云端的模型了3.Miniconda安装官网下载地址https://www.anaconda.com/download/success3.1使用 Anaconda Powershell Prompt 终端安装完成后打开终端Anaconda Powershell Prompt如果有看到命令列提示中的base那表示安装成功。# 查看python版本(base)PS C:\Users\Administratorpython--versionPython3.13.11(base)PS C:\Users\Administrator3.2 Conda常用命令-创建虚拟环境conda –help# 查看帮助conda info# 查看 conda 信息conda--version# 查看 conda 版本conda update conda# 更新Conda慎用conda clean –all# 清理不再需要的包conda指令--help# 查看某一个指令的详细帮助conda config--show#查看 conda 的环境配置conda clean-p# 清理没有用没有安装的包conda clean-t# 清理 tarballconda clean--all# 清理所有包和 conda 的缓存文件# 语法 conda activate env_name # 样例 切换到 learn 环境 conda activate learn # 如果要退出此环境回到基础环境可以使用如下命令 conda deactivate # 当电脑上安装了很多台Conda环境的时候可以使用 conda env list 命令查看所有已创建的Conda环境。 # 查看当前电脑上所有的conda环境 conda env list # 删除某个Conda环境 # 语法 conda remove --name env_name --all # 样例 conda remove --name learn --all # 也可以使用 env remove命令删除环境 conda env remove -n hunyuan conda env remove --name hunyuan # 克隆环境 # 语法 conda create --name new_evn_name --clone old_env_name # 样例 conda create --name myclone --clone myenv4.PyCharm中使用Conda环境创建conda虚拟环境langchainconda create-nlangchainpython3.11conda activate langchain创建pyCharm 工程目录E:\workspace\langchain_study然后用PyCharm打开 配置虚拟环境5.安装依赖pipinstalllangchain langchain-ollama# 将依赖包保存到文件中pip freezechapter01/require.txtannotated-types0.7.0 anyio4.12.0 certifi2025.11.12 charset-normalizer3.4.4 h110.16.0 httpcore1.0.9 httpx0.28.1 idna3.11 jsonpatch1.33 jsonpointer3.0.0 langchain1.2.0 langchain-core1.2.5 langchain-ollama1.0.1 langgraph1.0.5 langgraph-checkpoint3.0.1 langgraph-prebuilt1.0.5 langgraph-sdk0.3.1 langsmith0.5.2 ollama0.6.1 orjson3.11.5 ormsgpack1.12.1 packaging25.0 pydantic2.12.5 pydantic_core2.41.5 PyYAML6.0.3 requests2.32.5 requests-toolbelt1.0.0 tenacity9.1.2 typing-inspection0.4.2 typing_extensions4.15.0 urllib32.6.2 uuid_utils0.12.0 xxhash3.6.0 zstandard0.25.0langchain langchain开发框架包langchain-ollama : langchain框架与 ollama 对接的SDK包6.开发一个简单聊天对话fromlangchain.chat_modelsimportinit_chat_modeldefhello():# 模型名称model_nameollama:qwen3-next:80b-cloud# Ollama 安装在本地base_urlhttp://127.0.0.1:11434modelinit_chat_model(modelmodel_name,base_urlbase_url,temperature0.7,timeout30,max_tokens1024)prompt为我写一段五言绝句唐诗forchunkinmodel.stream(prompt):print(chunk.content,end,flushTrue)if__name____main__:hello()注意上面使用的是 langChain 1.0 API的写法输出结果《山行》 云生青嶂外日破白云深。 山鸟忽惊起松风满袖清。 注此诗以五言绝句写山行所见。首句“云生青嶂外”勾勒远山云雾缭绕之景次句“日破白云深”以“破”字显阳光穿透云层的力度动态感十足。后二句转写近处山鸟惊飞而起松风拂过衣袖以“满袖清”收束既写触觉之清凉又暗含心境澄明之意。全诗二十字间远近相映动静相生凝练而意境悠远。