#078 AI 部署與 MLOps
MLflow (MLOps)
MLflow 開源 MLOps 平台
★★★☆☆ 難度 3/5
開源 MLOps 標準，GenAI 評估框架
工具介紹
MLflow 是由 Databricks 開源的 MLOps 平台，已成為業界最廣泛採用的機器學習生命週期管理標準，支援實驗追蹤、模型版本管理、部署與監控的完整流程。最新版本的 MLflow 大幅強化了 GenAI 支援，推出專屬的 LLM 評估框架，讓團隊能系統化地評估與比較不同 LLM 的輸出品質。其模型登錄表（Model Registry）提供模型版本控制與審批流程，是從實驗到生產的重要治理節點。MLflow 能與 AWS SageMaker、Azure ML、Databricks 等主流雲端平台深度整合，同時保持完全開源的彈性，讓企業避免廠商鎖定。
核心功能
- ✓ 實驗追蹤：自動記錄參數、指標、模型與工件
- ✓ LLM 評估框架：系統化評估與比較生成式 AI 輸出品質
- ✓ 模型登錄表：版本控制、標籤管理與審批工作流
- ✓ 多平台部署：支援 SageMaker、Azure ML、Kubernetes
- ✓ Prompt 工程管理：追蹤與比較不同 Prompt 版本的效果
適用情境
- ● ML 團隊管理數百個實驗，快速找到最佳模型配置
- ● LLM 應用開發中系統化評估不同模型與 Prompt 的效果
- ● 建立 ML 模型審批流程，確保生產部署前的品質把關
- ● 跨團隊共享模型資產，避免重複訓練浪費計算資源
#MLOps
#實驗追蹤
#模型管理