[新聞] 半導體創新正驅動生成式AI成長養分，生

標題:半導體創新正驅動生成式AI成長養分，生成式AI正強化半導體創新力量，兩者互相正向影 響 新聞來源:iKnow科技產業資訊室 原文網址:https://bit.ly/3AXZXQl 原文: 大型科技公司已經花費了數十億美元，並計劃持續對AI進行投資。IDC預測，到2027年， 企業在生成式AI上的支出將達到1,511億美元。AI的發展迎來了電腦架構的新黃金時代， 推動了對硬體創新的不懈需求，以提高運算能力。 為了訓練AI模型，採用異質運算架構允許CPU和GPU協作移動和處理數據，以因應資料密集 過程，因而激發了廠商開發出更多運算能力、增加記憶體容量和提高記憶體頻寬的研發工 作。 數兆顆電晶體處理器和數千個運算核心，以極快的速度在記憶體中讀取和寫入大量數據， 使這些核心能夠全速運行，因而推出了新型記憶體HBM（高頻寬記憶體）。 高頻寬記憶體(HBM)是一種動態隨機存取記憶體(DRAM)，該標準於 2013年首次製定，其中 晶片垂直堆疊以節省空間並降低功耗。它們是能夠處理生成式AI的先進記憶體晶片。它是 針對AI所使用的GPU的關鍵零組件，有助於處理複雜應用程式產生的大量數據。 全球第二大記憶體晶片製造商SK海力士9月初表示，將於9月底開始量產12層HBM3E晶片， 預計從2025年下半年開始出貨HBM4。 除了海力士尋求台積電合作之外，三星電子也決定和台積電合作開發無緩衝 HBM4記憶體 。 高速互連(High-speed interconnect)在AI處理中同樣重要，因為大量的訓練工作負載被 分配在許多處理器之間並平行運作。當今的異質架構連接了數千個處理單一問題的運算裝 置。這些裝置之間需要快速通訊，以最大限度地縮短訓練AI模型的時間。 隨著資料速率的提高和通訊協定的發展以滿足高速通訊的需求，訊號完整性和可靠性面臨 挑戰。為了滿足生成式AI的互連頻寬需求，PCI Express等主要互連標準都採用PAM4。 PAM4(Four-level pulse amplitude modulation)是一種編碼方案，允許每個時脈週期傳 輸四位元資訊，從而允許互連頻寬在這些互連所施加的物理限制內增加。 另外一個創新是確保生成式AI的安全的創新。強大的加密機制，例如AES(Advanced Encryption Standard)和安全金鑰管理實踐，是建構資料機密性的基礎。必須保護資料集 免受旨在「毒害」訓練過程並損壞生成式AI模型的資料的影響。同樣，必須保護演算法、 方法和模型免遭不必要的存取或盜竊。 總之，要維持生成式AI的快速崛起，就需要半導體技術的進步。如今半導體產業佔據了舞 台的中心，將成為未來AI走到多遠的關鍵呢！ 心得: 大型科技公司對AI的持續投入推動了對硬體的創新，尤其是在記憶體和互連技術方面。 IDC預測，到2027年，企業在生成式AI上的支出將達到1,511億美元。為滿足AI需求，記憶 體技術如高頻寬記憶體(HBM)及其未來版本HBM4，正被迅速開發和量產。高速互連技術如 PAM4也在提升數據傳輸速率以支持大規模AI處理。這些技術的進步對AI的發展至關重要， 未來AI的持續突破將依賴於這些半導體技術的進一步發展。 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 203.145.192.245 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/IA/M.1726108509.A.0D3.html