【東東老師 X 思想科技】Vertex AI 核心功能 Model Garden 介紹

一、Model Garden：預先訓練好的模型庫，快速導入 AI 解決方案

你可以把它想像成一個大型的 AI 模型商店，裡面有 Google 自己的模型，也有其他公司的模型，企業可以直接挑選合適的來用。

Model Garden 提供三大模型類別如下表：

我們在 Model Garden 的主畫面上可以看到，它有各種模型的列表，左邊有依照資料格式和工作場景的模型篩選器，和上方可以看到最新消息，例如最近討論熱烈的 DeepSeek 模型，已經可以在這裡找到：

我們選擇 Gemini 1.5 Pro 來看看：

我們選擇在「Vertex AI studio 開啟」： 

我們可以再提示區輸入提示詞，接著模型會再回應區產生回答，同時我們可以再設定區調整參數，看看它的回答是否會不一樣： 

在設定區的部分，我們可以隨時切換成不同的模型而不需要另外打開其他的視窗。而在不同 Region，可以使用的模型可能會不一樣。

在溫度參數的部分，數值越大，代表回答內容的隨機程度越高，你也可以限制每次回應文字的上限。同時你也可以啟用「基準建立」，確保它的回應是有可靠的參考來源。最後你也可以決定讓它輸出純文字或者 JSON 格式的內容。 

我們找到一張範例圖片拖曳進去，並且直接輸入中文的提示詞，請它來描述這張圖片，你會看到在回應區，它提供了詳細的描述資訊：

接下來我請它將照片中的時間和城巿用表格來呈現，它也如預期地整理成完整的表格： 

我們回到主畫面再搜尋「OWL-ViT」，然後點擊該模型： 

這次我們點擊開啟筆記本 （Notebook），這個功能就是「Colab Enterprise」，它是一個幫你設定好的 AI 開發環境，你可以在這裡調整這個模型： 

打開之後你會看到一些程式碼，你可以輸入或調整它的程式碼，同時可以查查看它的執行結果： 

在這裡要特別注意，當我們打開 Notebook 時，它會直接建立一台虛擬機器，規格是 e2-standard-4 和 100 GB 的 SSD Disk，當你沒有在使用記得要關起來喔！ 

我們回到 Model Garden 主畫面，再來看另外一個模型 Imagen 3，它是由 Google 所開發的圖片生成模型。

我們直接在下方輸入要想要生層的圖片描述，同時右邊也有各種參數可以選擇，包含生成的模型、照片的比例，以及產生圖片的數量，當我們按下「傳送」之後，就看到它生成了四隻可愛的倉鼠照片。 

二、為什麼要選擇 Vertex AI？

不用學習 AI 演算法，可立即開發

我們不需要去學習各種 AI 的演算法或程式， Vertex AI 已經準備好簡易的開發環境和直觀的操作介面，你可以在上面輕易的建立、訓練和調整你的模型。 

一站式平台，整合 GCP 各項服務

在開發 AI 模型之前我們必須要收集整和理相關資料， 可以使用 Pub/Sub、Dataflow、Dataproc 等等，當你把資料儲存到 BigQuery 或 Cloud Storage 後，可以直接匯入 Vertex AI 。當模型訓練完成我們還可以直接部署上線，所以整個 AI 模型的生命週期，通通都在 GCP 上完成。不用切換到其他陌生的環境，提升了方便性與安全性。 

整合 Google 強大 AI 技術，提升模型效能

Google 在 AI 領域的領先地位無庸置疑，而 Vertex AI 直接提供 Google 自家 AI 研究的技術，例如：

• AutoML：無需寫程式碼即可訓練高效能機器學習模型，適合行銷人員與資料科學家。
• Gemini：內建 Google 最新的大型語言模型（LLM），適用於自然語言處理（NLP）、對話式 AI、生成式 AI 應用。
• TPU 支援：可使用 Google 自家研發的 Tensor Processing Unit（TPU），提供比 GPU 更快的 AI 訓練與推論效能。

內建 MLOps 工作流程

MLOps（Machine Learning Operations）是現代 AI 開發的重要關鍵，Vertex AI 內建多種 MLOps 工具，幫助企業加速 AI 的開發流程：

• Vertex AI Pipelines：自動化 AI 工作流程，確保模型訓練、部署與更新流程標準化。
• Feature Store：集中管理與重複使用特徵工程的資料，提升模型訓練的效率。
• Model Monitoring：監控模型在生產環境的表現，主動偵測數據漂移（Data Drift；因趨勢改變造成模型不準），確保 AI 訓練工作精準運行。

三、結論與未來發展

一、最新功能 Vertex AI RAG Engine 發布

Vertex AI RAG Engine 能夠整合你公司的內部資料，針對公司內部的問題來回答。一般的 AI（也就是大型語言模型 LLM）只能搜尋網路上公開的資訊，不知道你們公司內部的事，而它能夠尋找公司資料，給你精準的回答（例如去年的公司第四季營收），而不是直接回答「我不知道」。

企業可以將此功能用在客服系統，讓它更智慧的回答客戶問題，也可以讓員工可以直接詢問問題，而不用東翻西找查資料。在知識管理方面，可以集中公司的知識，讓大家學習更快，做好知識的傳承。由於 RAG Engine 才剛發佈，未來此功能必定會持續優化，給企業帶來更多價值。 

二、持續提供更多大型語言模型

目前（截稿前）已經支援超過 160 種模型，除了 Google 自己的 Gemini 和 Imagen 持續改版優化中，還有提供第三方的 Claude 模型，也有開源的 Llama 和 Gemma，甚至最新的 DeepSeek 模型，都以極快的速度收進 Model Garden。未來必定持續擴充，你一定可以找到最適合的模型。

三、更強的客製化能力

Google 計劃進一步提升 Vertex AI 的客製化選項，讓企業能更靈活地調整 AI 模型，以滿足不同產業的需求。例如，在 AutoML 和 MLOps 方面提供更多可以調整的參數，讓開發人員能夠更深入調整模型和部署環境。

四、AI 民主化持續進行

自從當年 AutoML 的推出，讓大家開始能夠在不懂任何 AI 知識的情況下，開發自己的模型，現在生成式 AI 時代的到來，Google 必定會往低程式碼或無程式碼的方向持續發展，讓 AI 民主化更為徹底，達到人人都可以不只使用 AI，還能開發 AI。

結論

整個 AI 領域正在朝著更實用的方向發展。從最早的單純回答問題，到現在能夠處理特定專業領域的問題，甚至能夠主動完成任務。隨著技術越來越成熟，我們看到越來越多好用的工具出現，讓企業能更容易地運用 AI 來改善工作效率。

這些發展讓我們看到 AI 的未來充滿可能性。隨著 AI 變得越來越聰明，相信它們能為各行各業帶來更多便利，讓我們的工作和生活變得更輕鬆。

七、常見問題解答（FAQ）

Vertex AI 與 AI Platform 有什麼不同？

Vertex AI 是 AI Platform 的進化版本，提供了更完整的功能，包括 AutoML 和客製化的訓練，都整合在統一的操作界面上，以及更強大的模型管理和 MLOps 功能。

Vertex AI 適合初學者使用嗎？

適合，像 Agent Builder 和 Model Builder 只需要提供資料和一點點操作就可以建立應用程式和模型；Model Garden 只要選定想要的模型，就可以調整參數來測試 AI 回答的內容。

Vertex AI 適合的產業或應用

Agent Builder 適合任何需要對話機器人，或是搜尋功能的應用；Model Builder 產生的模型可以用來分類、辨識和預測等；Model Garden 則是可以用來生成任何你想要的文字或圖片；不管你在哪一個產業，只要你的工作流程牽涉到上述的應用，都可以使用 Vertex AI。

如何開始使用 Vertex AI？

只要你有一個正式的 GCP 專案環境，都可以立即開始使用 Vertex AI。 不過你也要啟用相關的 API，並且準備好訓練的資料。如果是要客製化模型，也需要熟悉相關的開發工具和 SDK 喔！

Model Garden 的模型可以客製化嗎？

Model Garden 中的許多模型都支援微調，這表示你可以使用自己的資料集來進一步訓練模型，以提高其在特定任務上的效能。你可以將多個模型組合在一起，用來開發出更複雜的系統。當然你還可以通過撰寫程式碼來修改模型的行為。

但是要注意，並非所有模型都支援所有客製化選項，而且客製化模型可能需要一定的技術知識和經驗。

Vertex AI 支援哪些 AI 框架？

目前提供 PyTorch、TensorFlow、scikit-learn 和 XGBoost，在 GCP 的官方文件都有相關的使用教學。

Vertex AI 的是如何計費的？

• Vertex AI 的 Agent，文字聊天 1,000 次輸入為 12 美金，但測試階段不計費。 Vertex AI Search 則是 1000 次 2 美元。
• AutoML，每小時訓練費為 3.465 美元，一次至少 8 小時。
• 自訂模型，主要是依照訓練主機的時數計費，例如台灣 （asis-east1）的 n1-standard-4 是每小時 0.253 美元。
• 以上只是針對常見應用舉例，各項功能可能和價格可能會不定期更新，建議以官方文件為準，使用前多確認相關費用，以免不小心誤開機器或 GPU，造成高額的帳單費用！

如何確保 Vertex AI 上的模型安全性？

因為 Vertex AI 整合在 GCP 上，你可以直接透過 IAM 權限控管、私有的存取服務（Private Access）、VPC Service Control 和加密的儲存等機制來保護模型和資料。

Vertex AI 的模型部署選項有哪些？

提供多種部署選項如線上預測（當做 API 即時呼叫）、批次預測（特定時間開機器來運作）、邊緣部署（部署到手機、IoT 設備或生產線）等。可以選擇虛擬機器或容器化的方式部署。

文章轉載自《東東GCP 教學》網站