网站首页 > 基础教程 正文
万亿Token成本屠杀战:持续为AI模型API账单买单VS 一键构建企业级私有模型工厂Ollama破局本地化AI基建:零持续性付费+开箱即用国产大模型,实测企业节省推理成本|搭建专属内脑系统实现数据喂养-训练-推理全链路闭环,单容器方案即解决AI大模型接口费率暴涨焦虑。
官网传送门:Ollama官网(https://ollama.com)
支持平台:Mac|Windows|Linux 三端适配
本次选择Docker部署全流程(CentOS版):为什么选择Docker? 纯容器化运行解除依赖捆绑;镜像隔离机制确保数据密闭性;快速回滚版本避免配置污染!
拉取魔法镜像
项目地址:
https://hub.docker.com/r/ollama/ollama
#拉取ollama镜像
docker pull ollama/ollama
温馨提示:当进度条开始奔跑时,正是用随行杯手冲咖啡的最佳时机
启动安全沙箱
#启动容器
docker run -d --gpus=all -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama
Ollama生存自检
#使用docker exec 命令在指定的容器内执行一个命令(出现版本号,表示安装成功)
docker exec -it ollama ollama -v
启动&停止docker容器
#docker启动指定容器docker start <容器ID或容器名称>
docker start ollama
#docker停止指定容器docker stop <容器ID或容器名称>
docker stop ollama
点击速关【IT技术工坊】解锁下期猛料私有化部署DeepSeek+向量库实战/ FastGPT无缝接入技巧!
猜你喜欢
- 2025-04-06 Docker/Compose常用命令整理总结(docker compose的作用)
- 2025-04-06 kubernetes pod为什么需要pause容器?
- 2025-04-06 Docker常用命令大全(常见的docker命令)
- 2025-04-06 docker+jenkins自动部署(jenkins docker-compose)
- 2025-04-06 Ubuntu 常用运维脚本大全(30个干货)
- 2025-04-06 Dify实战:解除Dify知识库上传文件15MB限制的
- 2025-04-06 docker越来越大,心慌,清理一波吧
- 2025-04-06 网易回应“将关闭公有云”(网易云公共邮箱登陆首页)
- 2025-04-06 Docker 容器明文密码问题解决之道
- 2025-04-06 【Docker】Docker删除容器、镜像、网络及数据卷操作命令
- 06-18单例模式谁都会,破坏单例模式听说过吗?
- 06-18Objective-c单例模式的正确写法「藏」
- 06-18单例模式介绍(单例模式都有哪些)
- 06-18前端设计-单例模式在实战中的应用技巧
- 06-18PHP之单例模式(php单例模式连接数据库)
- 06-18设计模式:单例模式及C及C++实现示例
- 06-18python的单例模式(单例 python)
- 06-18你认为最简单的单例模式,东西还挺多
- 最近发表
- 标签列表
-
- jsp (69)
- gitpush (78)
- gitreset (66)
- python字典 (67)
- dockercp (63)
- gitclone命令 (63)
- dockersave (62)
- linux命令大全 (65)
- pythonif (86)
- location.href (69)
- dockerexec (65)
- tail-f (79)
- queryselectorall (63)
- location.search (79)
- bootstrap教程 (74)
- 单例 (62)
- linuxgzip (68)
- 字符串连接 (73)
- html标签 (69)
- c++初始化列表 (64)
- mysqlinnodbmyisam区别 (63)
- arraylistadd (66)
- mysqldatesub函数 (63)
- window10java环境变量设置 (66)
- c++虚函数和纯虚函数的区别 (66)