企业内网私有化部署完整指南
从架构设计到上线运维,手把手完成 DeepMetier 私有化部署。
01 部署前规划
私有化部署需明确:①并发用户数(决定服务器规模)②数据量(决定存储方案)③安全要求(是否等保三级)④模型选型(本地大模型 vs 云端代理)。典型中型企业(200 人)配置:3 台服务器(应用/模型/数据库各 1 台),1 台 GPU 服务器(A100 80G)跑大模型。
02 环境准备
服务器系统推荐 Ubuntu 22.04 LTS 或 CentOS 7.9。前置依赖:Docker 24+、Kubernetes 1.28+(集群部署)、NFS 或 Ceph(共享存储)、Nginx(反向代理与 TLS)。GPU 服务器需安装 NVIDIA Driver 535+ 与 CUDA 12.1+。
03 部署 DeepMetier 平台
获取企业版安装包(联系商务),解压后编辑 docker-compose.yml 配置数据库连接、对象存储、JWT 密钥。执行 `docker compose up -d` 启动应用服务、工作流引擎、知识图谱服务。首次启动约 5 分钟初始化数据库 schema 与默认管理员账号。
04 部署本地大模型
在 GPU 服务器部署 Ollama 或 vLLM:`docker run -d --gpus all -p 8000:8000 vllm/vllm-openai --model qwen2.5-32b-instruct`。然后在 DeepMetier 管理后台"模型管理"添加 vLLM 端点(http://gpu-server:8000)。测试通过后,该模型对全企业用户可用,按需调度。
05 数据接入与知识图谱
在"数据治理"模块接入企业业务系统:配置 ERP/CRM/OA 的数据库只读账号或 API。DeepMetier 会自动抽取 schema 并构建本体知识图谱。管理员可手动定义实体关系(如"客户-订单-产品"),提升 AI 检索准确率。首次全量同步约 2-4 小时(视数据量)。
06 用户与权限
对接企业 SSO(支持 OIDC/SAML/LDAP),员工用域账号登录桌面客户端。按部门/角色配置:可见的智能体、可调用的模型、可访问的数据范围。敏感操作(导出数据、调用高危智能体)需审批。所有操作记录审计日志,满足等保要求。
07 运维与监控
部署 Prometheus + Grafana 监控集群:GPU 利用率、模型推理延迟、并发会话数、磁盘占用。设置告警:GPU 温度过高、推理延迟超 5s、磁盘超 80%。每周自动备份知识图谱数据库与智能体配置到异地存储。版本升级通过 `docker compose pull && up -d` 滚动更新,零停机。
