猶如真人般的自動化客服內容、在任何連網裝置上都能享受到專業工作站的運算效能及電影畫質般的PC遊戲,如今北美、歐洲及亞洲地區的AWS雲端用戶,也能透過全新Amazon EC2 G4執行個體享受到NVIDIA T4 Tensor核心GPU所帶來的多樣功能。

此軟體平台已經針對豐富的應用進行最佳化,包括運用於深度學習的NVIDIA cuDNN、運用於資料分析與機器學習的NVIDIA RAPIDS、運用於雲端工作站繪圖的NVIDIA Quadra虛擬工作站,和運用於雲端遊戲的NVIDIA GeForce。經NVIDIA最佳化後的軟體堆疊亦包括多款API、CUDA及用於特定領域的CUDA-X函式庫,像是TensorRT、NCCL、OptiX及Video Codec SDK。

NVIDIA重新打造推出NVIDIA T4這款第二代Tensor核心GPU,在維持CUDA可編程特性的同時,又能達到AI應用項目的最高效能。其INT8運算效能高達130TOPS,具有混合精度張量處理能力,這是加快因應AI應用項目如影像分類、物體偵測、自然語言理解、自動語音辨識及推薦系統等,不斷發展之創新性、多樣性及複雜性所必需的能力。

Amazon提供NVIDIA GPU以支援即用型NVIDIA NGC容器進行訓練和推論。EC2 P3執行個體搭配NVIDIA V100 Tensor核心GPU,使得客戶可以使用自動混合精度功能,將訓練機器學習的時間,從原本的數日減少到只需數小時便可完成。客戶使用EC2 G4執行個體,就能大規模部署AI服務,又能大幅減少營運成本。

再加上與VMware的合作,使用VMware Cloud on AWS這項服務的客戶很快就能享受全新且極具擴充性和安全性的雲端服務,該雲端服務由NVIDIA T4 GPU以及全新的NVIDIA Virtual Compute Server (vComputeServer)軟體加速的Amazon EC2裸機執行個體所組成。

企業可以藉由此企業級的混合式雲端平台,加快應用程式現代化,並從資料中心到AWS雲端環境一致的VMware基礎設施之間,執行統一的部署、遷移和操作等作業,以支援AI、機器學習和資料分析等這些最需要密集運算的工作內容。

NVIDIA T4同時也是部署在雲端環境裡的NVIDIA RTX光線追蹤GPU。T4 GPU內專用的運算資源RT Core,會用超高效率來計算光線追蹤,如此一來便能捨棄過去昂貴的光線追蹤方法。

新款G4執行個體結合NVIDIA Quadro虛擬工作站(Quadro vWS)與Amazon Machine Images (AMI),以支援最新的光線追蹤API,包括Microsoft DXR、NVIDIA OptiX以及Vulkan。不論是媒體娛樂、建築、製造、石油和天然氣等業界的技術與創意專業人士,皆可以在AWS雲端環境裡運行最新的繪圖軟體應用程式。

T4 GPU背後的Turing架構也將NVIDIA在遊戲方面的強勁實力帶到AWS,這麼一來便能使用GPU的硬體編碼器引擎,對要求最嚴苛的遊戲進行渲染和串流,還能使用Video Codec SDK來設計這個硬體編碼器引擎的程式碼。