Model URI 路徑

Enterprise Applicable to Enterprise Edition

Deploy Applicable to Deploy Edition

已支援 URIs

Type	Format	Note
Google Cloud Storage	gs://mybucket/path/to/my/model	google cloud storage bucket 需設為公開
PHFS	phfs:///path/to/my/model	此路徑對應到 PrimeHub Notebook 為 /phfs/path/to/the/model 路徑。
MLflow Model	models:/model-name/version	對應到 MLflow Model Registry. version 可以是版號或是階段(stage) 名稱。
NFS	nfs://1.2.3.4/to/my/model	對應到 Model Deployment containers 可存取的 NFS 路徑 /nfs/to/my/model

Model URI 運用原理

當 PrimeHub Deployment 準備要根據 Model URI 來部署模型前，系統會先啟動下載工作，此時下載工作將模型下載至 /mnt/models目錄並與部署工作共用。一旦下載工作結束後，部署工作會接著載入模型並部署服務。

Test GCS Model URI by Docker

Model deployment 採用 gcr.io/kfserving/storage-initializer 映像檔來下載位於 gs:// 模型檔至 /mnt/models 目錄。

範例指令，測試實際網路環境下載是否如預期：

docker run -v ${PWD}/models:/mnt/models --rm  \
  gcr.io/kfserving/storage-initializer \
  gs://primehub-models/pytorch/CIFAR10 \
  /mnt/models