Google Cloud Next '24 新聞重點

去年，全世界才開始想像生成式 AI 將為企業帶來怎樣的轉變，如今這些轉變現正逐步展開。而 Google 一直著遵循著相同的原則：打造人人都能受惠的 AI 技術，盡力為更多人帶來更美好的生活。

一個連結雲端、由 AI 驅動的虛擬服務專員（agent）世界
藉由我們豐富多樣的 AI 產品組合，包含基礎架構、Gemini、多種模型與 Vertex AI 等，客戶與合作夥伴得以運用這些產品打造日漸精密的 AI 虛擬服務專員，以服務客戶、支援員工與創造內容等多項工作。

出色的虛擬客服專員可以協助你的客戶透過包含網路、行動裝置、客服中心及銷售據點在內的多種管道，以及運用文字、語音等方式，與你的企業有更順暢的互動。

• 洲際酒店集團將推出由生成式 AI 支援的旅行規劃功能，協助客戶輕鬆規劃下一趟度假行程
• Target 正在優化其 Target 應用程式和 Target.com 上的優惠和路邊提貨（curbside pickup）功能

員工使用的虛擬服務專員可協助你所有的員工工作更有效率，並促進團隊有更好的合作。例如：

• Etsy 使用 Vertex AI 訓練技術來優化他們的搜尋建議與廣告模型，為買家提供更好的商品推薦，並提升銷售額。
• 巴西企業 Dasa 協助醫師更快地偵測出檢測結果的相關發現。

創意虛擬服務專員能成為你強大的設計師與製作團隊，與你一同進行圖片與簡報等相關工作，並探索各種創意想法。我們提供最強大的平台與技術堆疊，協助你打造創意虛擬服務專員。例如：

• Canva 在自家產品 Magic Design for Video 採用 Vertex AI，協助使用者在短短幾秒內製作出引人入勝的影片。
• 家樂福使用 Vertex AI 在不同社群網路建立動態行銷活動，並將作業時間從數個月縮減為數週。

以下是我們在 Cloud Next ‘24 大會上宣布的一系列產品創新，協助各種規模的組織在 AI 時代向前邁進。

運用 AI 優化的基礎架構實現規模化
生成式 AI 需要強大的基礎架構來加以支持，才可迅速推動轉型。為了能支援堆疊中每一階層的客戶，我們進行了多項重要改革：

• A3 mega：我們與 NVIDIA 合作，使用 H100 GPU 所開發的全新 GPU 的執行個體，現在已正式推出，其網路頻寬為 A3 執行個體的兩倍，能支援最嚴苛的工作負載。此外，我們也同步推出 Confidential A3，客戶能夠在訓練和推理過程中更進一步保​​護敏感資料，並確保 AI 工作負載的機密性和完整性。
• NVIDIA HGX B200 與 NVIDIA GB200 NVL72：Google Cloud 將於 2025 年初採用最新的 NVIDIA Blackwell 平台晶片，並提供 HGX B200 和 GB200 兩種選項。B200 專為主流模型的訓練與運作所設計，而 GB200 NVL72 則適用於上兆參數規模模型的即時大型語言模型推理和大規模訓練。
• TPU v5p：我們宣布正式推出 TPU v5p，這是我們最強大、最具擴充性且最靈活的 AI 加速器，可用於訓練和推理，且每個 Pod 的運算能力是上一代的 4 倍。我們也宣布支援 TPU v5p 的 Google Kubernetes Engine（GKE）已經推出；過去一年，在 GKE 上運行的 GPU 和 TPU 使用量成長了超過 900%。
• AI 優化的儲存選項：我們透過 Cloud Storage FUSE 和 Parallelstore 全新的快取功能，加速訓練速度，這些功能可以將資料儲存在更接近客戶的 TPU 或 GPU。我們也推出 Hyperdisk ML （預覽版），這是新一代區塊儲存服務，與常見的替代方案相比，其模型載入時間加速達 3.7 倍。
• 動態工作負載排程（Dynamic Workload Scheduler）的新選項：日曆模式可以協助並確保工作負載在指定時間開始執行，而彈性開始時間模式可提供最佳的經濟效益，協助客戶為複雜的訓練與推理工作有效管理資源。

我們正致力於將 AI 帶到更接近資料生成與運用的位置，包括邊緣、實體隔離（air-gapped）環境、Google 主權雲端和跨雲環境。透過 Google Distributed Cloud （GDC），我們在任何地方啟用 AI ，讓你可以選擇最符合機構特定需求的環境、設定與控制選項。例如，在 26 個國家及地區營運的行動通訊服務供應商 Orange 必須確保當地資料保留在所在國家或地區。他們在 GDC 上運用 AI，以提升網絡性能及客戶體驗。

我們也在今天宣布多項 GDC 的新功能，包括：

• 在 GDC 上提供 NVIDIA GPUs：我們將為採用連線與實體隔離設定的 GDC 提供 NVIDIA GPU，這兩種設定都將支援新的 GPU 型執行個體，能有效率地運行 AI 模型。
• 在 GDC 上提供 GKE 服務：領先的 AI 公司在 Google Cloud 使用的 GKE 技術 ，也將於 GDC 上提供。
• 支援 AI 模型：我們在 GDC 中支援多種開放式 AI 模型，包含 Gemma、Llama 等，為這些模型提供可在實體隔離與連線邊緣環境中執行。
• 在 GDC 上提供 Vector Search：我們也將於 GDC 導入 Vector Search 的功能，你可以針對私密與機密資料進行搜尋及資訊擷取，並享受極低的延遲時間。
• 主權雲端（Sovereign Cloud）：為符合最嚴格的法規規定，我們提供採用完全實體隔離設定的 GDC。這個產品能在本地作業並具備完整存續能力（survivability），可由 Google 或你自行選擇的合作夥伴代管，一切完全由你掌控，並且在法規變更時，我們也可以靈活反應，協助你快速應對。

雖然並非所有工作負載都屬於 AI 工作負載，但你在雲端中執行的每個工作負載都需要進行優化，且每個應用程式的技術需求也有所不同。因此，我們推出全新且通運的運算選項 ，協助客戶獲得最佳效能、確保應用程式之間的互通性，並在達成永續發展目標的同時，也能降低成本。

• Google Axion：是我們專為資料中心設計的第一個 ARMⓇ 架構 CPU，相較於目前最新一代的同等 x86 型執行個體，效能最高可提升 50%、能源效率最高則可提升 60%。
• 我們的一般用途 VM 系列也將推出兩個全新的機器系列：N4 與 C4。C3 機器系列將推出原生裸機機器類型。此外，我們也將正式推出 Hyperdisk Advanced Storage Pools，以及更多新的產品。

我們也將 Vertex AI 上的生成式 AI 靜態資料儲存的資料駐留（data residency）服務範圍，擴大到 11 個新的國家及地區，包含澳洲、巴西、芬蘭、香港、印度、以色列、義大利、波蘭、西班牙、瑞士和台灣。

• 此外，客戶現在使用 Gemini 1.0 Pro 和 Imagen 時，可以將機器學習的運作限制在美國或歐盟境內。
• 與去年我們宣布開始服務的其他 10 個國家一樣，我們協助這些新開放的國家及地區的客戶方便控制資料的儲存位置和存取方式，讓客戶更能符合世界各地政府的監管及安全要求。

運用 Vertex AI 打造虛擬服務專員（agents）
Google Cloud 在 Vertex AI 上提供超過 130 種自家與第三方模型，而我們也將持續提供更多種的模型，為客戶提供最豐富的模型選擇：

• Gemini 1.5 Pro：Gemini 1.5 Pro 提供兩種脈絡長度（context window）：12.8 萬與 1 百萬個 token，目前在公開預覽版階段。客戶現在可利用單一串流處理大量資訊，包含 1 小時的影片、11 小時的音訊、超過 30,000 行的程式碼，或 700,000 個以上的字詞。
• Claude 3：Anthropic 全新一系列的先進模型，目前已供客戶在 Vertex AI 上使用。
• CodeGemma：由 Google DeepMind 打造的 Gemma，是具有輕量且最先進的開放模型。而 CodeGemma，一款 Gemma 全新微調、專為程式碼生成與輔助程式碼編寫等使用場景所設計的模型，現已在 Vertex AI 開放使用。
• Imagen 2：這是我們最先進的文字轉圖像技術，具備多種圖像生成功能，協助企業打造符合品牌需求的客製化圖像。而全新的文字轉即時圖像的功能，讓行銷與創意團隊能輕易生成動畫圖像，例如 GIF 等的動畫圖像，並且配備安全篩選與數位浮水印。此外，我們也宣布推出進階相片編輯功能，包含圖像修復、圖像擴展，以及其他更多功能。
• 數位浮水印：此功能由 Google DeepMind 的 SynthID 技術支援，此功能現在起正式應用於 Imagen 2 生成的 AI 圖像中。

客戶若使用企業數據來增強與連結（grounding）模型，可以發揮模型最大功效並獲取更多價值。今天，我們以兩種方式加強 Vertex AI 的連結資訊來源能力，使其功能更加完善：

• Google 搜尋：以 Google 搜尋作為模型的資訊來源，能結合 Google 最新基礎模型的強大功能，以及存取最新、高品質資訊的能力，能夠大幅提升回應資訊的完整性與準確性。
• 你的資料：運用企業應用程式，如 Workday 或 Salesforce 中的數據作為模型基礎，並輕鬆連結至 Google 資料庫，例如：AlloyDB 和 BigQuery。

當你挑選了合適的模型、加以調整並連結資訊來源後，Vertex 還可以協助您部署、管理與監控模型。今天，我們宣布推出更多機器學習運作營運功能：

• 提示管理工具：這些工具讓你可在內建提示上進行協作，附上註解與目前狀況、追蹤變更紀錄，以及比較不同提示的回覆品質。
• 自動並排比對：Auto SxS 功能現已正式推出，可說明為何某個回應優於另一個，並提供確定性分數，有助於使用者瞭解評估的準確性。
• 快速評估功能：此功能現已推出預覽版，可協助客戶在反覆設計提示時，運用較小的資料集來快速評估模型。

最後，Vertex AI Agent Builder 整合了基礎模型、Google 搜尋和其他開發者工具，讓你輕鬆建構和部署虛擬服務專員（agent）。它提供了無程式碼代理程式生成器控制台的便利性，以及強大的連結資訊來源、編排與擴增能力，使用 Vertex AI Agent Builder，你現在可以快速地建立一系列利用 Google 搜尋和你的組織數據為基礎的生成式 AI 虛擬服務專員。

縮短開發時間

Gemini Code Assist 是 Google 專為企業打造的 AI 程式碼編寫輔助功能解決方案。為支援開發人員，我們宣布推出以下項目：

• Gemini Code Assist 導入 Gemini 1.5 Pro：這項升級提供的脈絡長度極大，達 1 百萬個 token ，甚至在最大型的專案都帶來革命性程式碼編寫方式。Gemini Code Assist 現在提供更準確的程式碼建議、更深入的洞察，以及精簡的工作流程。
• Gemini 雲端輔助功能：此功能可在應用程式生命週期各階段提供 AI 輔助功能，讓使用者更輕鬆地設計、保護、操作與進行疑難排解，並優化應用程式效能與成本效益。

我們將 Gemini Code Assist 部署給一組 Google 內部的開發人員，發現完成一般開發工作所需的時間加快 40%，以及編寫新程式碼的時間縮短 55%。事實上，Gemini Code Assist 支援位於任何位置的私人程式碼集，無論是地端部署、GitHub、GitLab、Bitbucket，甚至是多個位置。

結合資料，釋放龐大 AI 潛能

Google Cloud 讓你可結合最佳的 AI 技術與你的企業資料，同時維持資料的隱私和安全性。我們現在宣布推出全新強化功能，協助組織打造絕佳的資料虛擬服務專員：

• Gemini in BigQuery：Gemini in BigQuery 運用 AI 技術來協助資料團隊準備、探索、分析和治理資料。此外，您將能透過新的 BigQuery Data Canvas 建立與執行資料管道，它結合自然語言與嵌入式圖表，提供了與筆記本類似的全新使用體驗，，兩種目前皆提供預覽版。
• Gemini in Database：你可輕鬆安全地將資料從舊系統中遷出，例如將資料庫轉成 AlloyDB 等現代雲端資料庫。
• Gemini in Looker：我們將推出數項預覽版的新功能，這些功能可輕鬆地將你的資料虛擬服務專員整合到你的工作流程中。我們還新增與 Google Workspace 整合的全新生成式 AI 功能，可讓您與業務資料進行對話。

運用 AI 技術提升網路安全

安全虛擬服務專員可在安全性生命週期的每個階段提供協助，因此生成式 AI 有潛力扭轉局勢，讓抵禦攻擊的一方占上風。Google Cloud 安全性系列產品的創新功能可以提供更強大的安全成果，並使每個組織都能讓 Google Cloud 成為他們安全團隊一員，這些功能包括：

• Gemini in Threat Intelligence：使用自然語言技術，可以針對威脅發動者的行為提供深入的洞察。透過 Gemini，我們能夠分析數量龐大的潛在威脅惡意程式碼樣本。Gemini 擁有範圍更大的脈絡長度，能分析模組之間的互動，針對程式碼的真正意圖提供全新洞察。
• Gemini in Security Operations：全新輔助調查功能可以將自然語言轉換為啟動偵測、總結事件資料、建議採取的行動，並透過對話式聊天引導使用者在平台上操作。

運用 Google Workspace 提升生產力

透過 Gemini for Workspace，企業可直接在 Gmail、Google 文件和試算表等產品中，使用內建的 AI 虛擬服務專員。今天，我們宣布推出 Gemini for Workspace 的下一波創新與功能強化，包含：

• Google Vids：這個由 AI 驅動的影片創作應用程式，結合影片創作、製作及編輯助理於一身，它可以自動生成一個分鏡圖（storyboard）讓你輕鬆編輯，當你選擇好風格後，它會將你的草稿與素材庫中的影音片段、圖片和背景音樂拼湊在一起。它還可以幫助你找到合適的旁白來傳遞訊息，可以選擇我們預設的旁白或是使用你自己的錄音。Vids 將加入我們其他生產力工具的行列，例如：Google 文件、Google 試算表和 Google 簡報等。它擁有簡約且易於使用的介面，讓你能安全地透過瀏覽器協作和分享工作項目。Vids 將於六月於 Workspace Labs 發布。
• AI Meetings and Messaging 外掛程式：這項協作工具提供「幫我記錄」（Take notes for me）與即時通訊摘要功能，以及支援 69 種語言 （相當於 4,600 種語言組合）的即時翻譯功能，每名使用者每月只需支付 10 美元的費用。
• 全新的 AI Security 外掛程式：Workspace 管理員現在能使用專為自家機構訓練、可保護隱私的 AI 模型與資料外洩防護控制選項，來自動分類與保護機密檔案與資料。AI Security 外掛程式的價格為每名使用者每月 10 美元，並可加入到大多數 Workspace 方案中。

回顧過去這一年，看到我們的使用者從最初抱著熱衷嘗試和實驗的心態，一路進展到實際運用 AI 工具並推出早期產品，這確實令人驚嘆，也使我們更加期待他們未來更廣泛的應用。