Kuasa Pengkomputeran dan Kecerdasan Buatan

Analisis komprehensif mengenai peranan pengiraan dalam pembangunan AI, keperluan infrastruktur, dan implikasi dasar

By Jai Vipra & Sarah Myers West | AI Now Institute

Diterbitkan: September 2023

Gambaran Keseluruhan Laporan

Laporan ini mengkaji peranan kritikal kuasa pengiraan ("compute") dalam sistem kecerdasan buatan. Apabila model AI meningkat dalam saiz dan kerumitan, keperluan pengiraannya meningkat pada kadar yang tidak pernah berlaku sebelum ini, mewujudkan cabaran dan implikasi baharu merentasi domain teknikal, alam sekitar, ekonomi, dan dasar.

Kami menganalisis timbunan penuh infrastruktur pengiraan—daripada komponen perkakasan ke pusat data—dan meneroka bagaimana kekangan dan peruntukan pengiraan membentuk pembangunan AI, siapa yang boleh menyertainya, dan jenis sistem AI yang dibina.

Titik Data Utama

Pertumbuhan Permintaan Pengkomputeran

Keperluan pengkomputeran untuk melatih model AI besar telah berganda setiap 3-4 bulan sejak 2012, jauh mengatasi Hukum Moore.

Penggunaan Tenaga

Melatih satu model bahasa besar tunggal boleh menggunakan tenaga elektrik setara dengan penggunaan tenaga tahunan 100+ rumah di AS.

Kepekatan Pasaran

Hanya tiga syarikat mengawal lebih 65% pasaran pengkomputeran awan yang menyediakan infrastruktur latihan AI.

Jejak Karbon

Permintaan pengiraan sektor AI boleh menyumbang sehingga 3% daripada penggunaan elektrik global menjelang 2025.

Ringkasan Pandangan Utama

Pengkomputeran Mentakrifkan Keupayaan AI

Skala sumber pengkomputeran secara langsung menentukan jenis model AI yang boleh dibangunkan dan siapa yang mampu membangunkannya, mewujudkan halangan kemasukan yang ketara.

Kesan Alam Sekitar

Keperluan pengkomputeran sistem AI yang semakin meningkat membawa kos alam sekitar yang besar, termasuk penggunaan tenaga dan pelepasan karbon yang signifikan.

Kelemahan Rantaian Bekalan

Pengkomputeran AI bergantung pada rantaian bekalan global yang kompleks dengan pengeluaran tertumpu dan potensi titik kegagalan tunggal.

Kelambatan Dasar

Kerangka dasar semasa gagal mengikuti perkembangan pesat infrastruktur pengiraan untuk AI, menyebabkan wujudnya jurang pengawalseliaan.

Hardware Lottery Effect

Arah penyelidikan dalam AI sangat dipengaruhi oleh perkakasan yang tersedia, dengan pendekatan yang sesuai dengan infrastruktur pengkomputeran semasa menerima perhatian yang tidak seimbang.

Implikasi Geopolitik

Kawalan terhadap sumber pengkomputeran telah menjadi faktor utama dalam persaingan antarabangsa, dengan kawalan eksport dan dasar industri membentuk akses kepada keupayaan AI.

Kandungan Dokumen

Kandungan Laporan

1. Pengenalan: Kepentingan Pengiraan dalam AI

Kuasa pengkomputeran telah menjadi penentu asas bagi keupayaan AI. Berbeza dengan era terdahulu di mana inovasi algoritma mendorong kemajuan, kemajuan AI kontemporari semakin bergantung pada sumber pengkomputeran besar-besaran.

Peralihan ini mempunyai implikasi mendalam terhadap siapa yang boleh menyertai penyelidikan AI terkini, jenis sistem AI yang dibangunkan, dan bagaimana manfaat AI diagihkan dalam masyarakat.

2. How Compute Demand Shapes AI Development

Keperluan pengkomputeran yang semakin meningkat untuk model AI tercanggih mewujudkan halangan kemasukan yang ketara, memusatkan keupayaan pembangunan dalam syarikat teknologi yang mempunyai sumber kewangan yang kukuh.

Perlumbaan senjata pengkomputeran ini mempengaruhi keutamaan penyelidikan, memihak kepada pendekatan yang berskala dengan pengkomputeran berbanding kaedah yang mungkin lebih cekap tetapi kurang intensif dari segi pengiraan.

  • Permulaan lwn. Peneroka Terkini: Kelebihan pengiraan syarikat teknologi besar mencipta parit pertandingan signifikan
  • Arah Penyelidikan: Pendekatan berasaskan pengkomputeran intensif menerima perhatian dan pembiayaan tidak seimbang
  • Taburan Global: Kapasiti pengkomputeran diedarkan secara tidak sekata di peringkat global, menjejaskan kemampuan wilayah untuk menyertai pembangunan AI

3. Measuring Compute in Large-Scale AI Models

Keperluan pengiraan untuk latihan AI biasanya diukur dalam operasi titik terapung (FLOP). Model kontemporari paling maju memerlukan sesi latihan yang diukur dalam lingkungan 10^23 hingga 10^25 FLOP.

Keperluan ini telah berkembang pada kadar yang jauh mengatasi peningkatan dalam kecekapan perkakasan, menyebabkan kenaikan eksponen dalam kos melatih model terkini.

4. AI Compute Hardware Stack

Ekosistem perkakasan AI merangkami pemproses khusus yang dioptimumkan untuk pengiraan selari, terutamanya GPU dan semakin banyak seni bina khusus domain seperti TPU serta pemecut AI lain.

Konfigurasi perkakasan yang berbeza dioptimumkan untuk fasa berlainan dalam kitar hayat AI: latihan berbanding inferens, dengan ciri prestasi dan kecekapan yang berbeza.

5. Komponen Perkakasan dan Rantaian Bekalan

Rantaian bekalan global untuk perkakasan AI melibatkan saling kebergantungan kompleks merentasi reka bentuk, fabrikasi, pemasangan dan pengedaran, dengan penumpuan geografi yang ketara pada setiap peringkat.

  • Reka Bentuk Cip: Dikuasai oleh syarikat seperti NVIDIA, AMD, dan Google
  • Fabrikasi: Tertumpu secara meluas di Taiwan (TSMC) dan Korea Selatan (Samsung)
  • Pemasangan dan Pengujian: Terutamanya terletak di Asia Timur dan Asia Tenggara
  • Bahan Mentah: Kebergantungan terhadap bahan khusus mewujudkan kerentanan tambahan dalam rantaian bekalan

6. Infrastruktur Pusat Data

Pusat data mewakili infrastruktur fizikal yang menempatkan sumber pengiraan untuk latihan dan pelaksanaan AI. Taburan geografi, sumber tenaga, dan sistem penyejukannya memberi kesan signifikan terhadap aspek ekonomi dan jejak alam sekitar pengiraan AI.

Syarikat teknologi utama semakin membangunkan pusat data khusus yang dioptimumkan khusus untuk beban kerja AI, dengan perhatian khusus kepada sistem penghantaran kuasa dan penyejukan.

7. Kesan Alam Sekitar dan Kelestarian

Keamatan pengkomputeran sistem AI moden mencipta eksternaliti alam sekitar yang besar, termasuk:

  • Penggunaan elektrik yang signifikan untuk kedua-dua latihan dan inferens
  • Penggunaan air untuk sistem penyejukan di pusat data
  • Sisa elektronik daripada pertukaran perkakasan
  • Pelepasan karbon daripada penjanaan tenaga

Usaha untuk mengurangkan kesan ini termasuk meningkatkan kecekapan pengiraan, menempatkan pusat data di kawasan dengan tenaga boleh diperbaharui, dan membangunkan teknologi penyejukan yang lebih mampan.

8. Tindak Balas Dasar dan Tadbir Urus

Rangka kerja dasar semasa menghadapi kesukaran untuk mengikuti perkembangan pesat infrastruktur pengiraan untuk AI. Pertimbangan dasar utama termasuk:

  • Peraturan alam sekitar bagi pelepasan dan penggunaan tenaga pusat data
  • Pertimbangan antitrust berkaitan sumber pengiraan yang tertumpu
  • Kawalan eksport ke atas perkakasan pengkomputeran termaju
  • Piawaian untuk mengukur dan melaporkan kecekapan pengiraan
  • Pelaburan awam dalam infrastruktur pengiraan untuk penyelidikan

9. Kesimpulan dan Hala Masa Depan

Kuasa pengkomputeran telah muncul sebagai faktor kritikal yang membentuk pembangunan dan penyebaran kecerdasan buatan. Keperluan pengkomputeran yang semakin meningkat mewujudkan halangan kemasukan yang signifikan, cabaran alam sekitar, dan kerentanan rantaian bekalan.

Menangani cabaran ini memerlukan tindakan terkoordinasi merangkumi peningkatan teknikal dalam kecekapan, respons dasar untuk mengurus eksternaliti, serta pendekatan struktur bagi memastikan akses lebih meluas kepada sumber pengiraan.

Penyelidikan masa depan perlu memberi tumpuan kepada pembangunan kaedah AI kurang intensif pengiraan, penambahbaikan pengukuran kecekapan pengiraan, dan reka bentuk mekanisme tadbir urus untuk peruntukan serta akses pengiraan.