報告概覽
本報告探討計算能力在人工智慧系統中的關鍵作用。隨著AI模型的規模與複雜度增長，其計算需求正以空前速度提升，在技術、環境、經濟和政策領域引發新的挑戰與影響。
我們分析從硬體元件到資料中心的完整運算基礎設施堆疊，並探討運算限制與資源配置如何影響AI發展進程、參與者資格，以及最終建構的AI系統類型。
關鍵數據指標
運算需求增長
自2012年以來，訓練大型AI模型所需的運算資源每3-4個月便翻倍增長，其速度遠超摩爾定律的預測。
能源消耗
訓練單一大型語言模型消耗的電力，相當於100多戶美國家庭的年度用電量
市場集中度
僅三家公司就掌控了提供AI訓練基礎設施的雲端運算市場超過65%的份額。
Carbon Footprint
到2025年，AI產業的運算需求可能佔全球電力消耗量的3%。
關鍵洞察摘要
運算能力決定AI效能
計算資源的規模直接決定了能開發何種AI模型以及誰能開發它們，形成了巨大的進入障礙。
Environmental Impact
AI系統日益增長的運算需求帶來顯著的環境代價，包括巨大的能源消耗與碳排放量。
供應鏈脆弱性
AI運算依賴於複雜的全球供應鏈，其製造環節高度集中且存在潛在的單點故障風險
政策延遲
現行政策框架未能跟上AI運算基礎設施的快速擴張，導致監管缺口產生。
Hardware Lottery Effect
AI研究方向的發展深受現有硬體影響，適合當前運算基礎架構的方法往往獲得過度關注
地緣政治影響
對計算資源的控制已成為國際競爭的關鍵因素，出口管制與產業政策正形塑著AI能力的取得途徑。
Document Contents
報告內容
1. 緒論：運算資源在AI中的核心地位
運算能力已成為人工智慧能力的基礎決定性因素。有別於早期以演算法創新驅動發展的時代，當代人工智慧的進展越來越依賴大規模運算資源。
這種轉變對於誰能參與尖端人工智慧研究、何種類型的人工智慧系統得以發展，以及人工智慧效益如何在全社會分配，都具有深遠影響。
2. How Compute Demand Shapes AI Development
頂尖人工智慧模型不斷攀升的運算需求築起了高准入門檻，使開發能力集中於資源充足的科技公司手中
這場運算軍備競賽影響著研究方向的優先順序，偏重能隨運算資源擴展的方法，而非可能更高效但運算密集度較低的替代方案
- 新創公司 vs. 既有企業： 大型科技公司的運算優勢創造了顯著的競爭護城河
- 研究方向： 計算密集型方法獲得了不成比例的關注與資金
- 全球分佈： 計算能力在全球分佈不均，影響了哪些地區能夠參與AI開發
3. 大規模AI模型中的計算能力衡量
人工智慧訓練的計算需求通常以浮點運算次數（FLOPs）衡量。當代最先進的模型需要進行訓練的運算量級約在10^23至10^25 FLOPs之間。
這些需求的增長速度遠超硬體效率的提升幅度，導致訓練尖端模型的成本呈指數級增長。
4. AI 運算硬體堆疊
AI 硬體生態系統包含專為平行計算優化的特殊處理器，特別是 GPU 以及日益增多的領域特定架構，例如 TPU 和其他 AI 加速器。
不同的硬體配置針對 AI 生命週期的不同階段進行優化：訓練與推論，具有獨特的效能和效率特性。
5. Hardware Components and Supply Chains
全球AI硬體供應鏈涉及設計、製造、組裝和分銷之間複雜的相互依存關係，且每個階段都具有明顯的地理集中性。
- 晶片設計： 由 NVIDIA、AMD 和 Google 等公司主導
- 製造： 高度集中於台灣（TSMC）和韓國（Samsung）
- 封裝與測試： 主要分佈在東亞與東南亞地區
- 原材料： 對特殊材料的依賴會產生額外的供應鏈脆弱性
6. 資料中心基礎設施
資料中心是容納AI訓練與部署運算資源的實體基礎設施，其地理分佈、能源來源和冷卻系統顯著影響AI運算的經濟效益與環境足跡。
大型科技公司正日益開發專為AI工作負載最佳化的專用資料中心，特別關注電力供應與冷卻系統。
7. Environmental Impact and Sustainability
現代人工智慧系統的計算密集度產生了顯著的環境外部性，包括：
- 訓練與推論過程中的巨量電力消耗
- 資料中心冷卻系統的用水量
- 硬體設備更替產生的電子廢棄物
- 能源生產產生的碳排放
減輕這些影響的努力包括提升運算效率、將資料中心設在可再生能源豐富的地區，以及開發更永續的冷卻技術。
8. 政策因應與治理
現行政策框架難以跟上人工智慧運算基礎設施的快速擴張。關鍵政策考量包括：
- 針對資料中心排放與能源使用的環境法規
- 關於集中式運算資源的反壟斷考量
- 先進運算硬體的出口管制
- 衡量與報告運算效率的標準
- 用於研究的運算基礎設施公共投資
9. 結論與未來方向
運算能力已成為形塑人工智慧發展與部署的關鍵因素。不斷升級的運算需求創造了顯著的進入障礙、環境挑戰與供應鏈脆弱性
因應這些挑戰需要協調各方行動，包括提升效率的技術改良、管理外部性的政策對策，以及確保更廣泛取得運算資源的結構性方法。
未來研究應聚焦於開發低運算需求的AI方法、改進運算效率的衡量指標，並設計運算資源分配與存取的治理機制。