NVIDIA 的 AI 專家預測,企業(yè)在 2024 年的工作重點將是“廣交良友”,即與云服務提供商、數(shù)據(jù)存儲和分析公司以及其他擅長高效處理、微調和部署大數(shù)據(jù)的公司建立合作伙伴關系。由于整個生成式 AI 生態(tài)系統(tǒng)都會將安全問題作為核心,預計 AI 技術將變得更加可靠、可信且符合人類的價值觀。
生成式 AI 大模型對數(shù)據(jù)中心網絡的影響主要體現(xiàn)在模型訓練所使用的高性能集群,大模型訓練需要在傳統(tǒng)數(shù)據(jù)中心網絡中為高性能集群的每個POD單獨構建一個高速數(shù)據(jù)交換平面,用于不同服務器上的 GPU 間遠程直接數(shù)據(jù)存取數(shù)據(jù)傳輸。