Hesaplama Gücü ve Yapay Zeka

Yapay zeka gelişiminde hesaplama gücünün rolü, altyapı ihtiyaçları ve politika etkileri üzerine kapsamlı bir analiz

By Jai Vipra & Sarah Myers West | AI Now Institute

Yayın Tarihi: Eylül 2023

Rapor Özeti

Bu rapor, yapay zeka sistemlerinde hesaplama gücünün ("compute") kritik rolünü incelemektedir. AI modelleri boyut ve karmaşıklık olarak büyüdükçe, hesaplama gereksinimleri benzeri görülmemiş bir hızla artmakta; teknik, çevresel, ekonomik ve politika alanlarında yeni zorluklar ve etkiler ortaya çıkarmaktadır.

Donanım bileşenlerinden veri merkezlerine kadar hesaplama altyapısının tüm yığınını analiz ediyor; hesaplama kısıtlamaları ve tahsislerinin AI gelişimini, buna kimlerin katılabileceğini ve ne tür AI sistemlerin inşa edildiğini nasıl şekillendirdiğini araştırıyoruz.

Temel Veri Noktaları

Hesaplama Talebi Büyümesi

Büyük AI modellerini eğitmek için gereken hesaplama ihtiyaçları 2012'den beri her 3-4 ayda bir ikiye katlanarak Moore Yasası'nın çok önüne geçmiştir.

Enerji Tüketimi

Tek bir büyük dil modelini eğitmek, 100'den fazla ABD evinin yıllık enerji kullanımına eşdeğer elektrik tüketebilir.

Piyasa Yoğunlaşması

Yapay zeka eğitim altyapısı sağlayan bulut bilişim pazarının %65'inden fazlasını sadece üç şirket kontrol ediyor.

Karbon Ayak İzi

Yapay zeka sektörünün hesaplama talepleri, 2025 yılına kadar küresel elektrik tüketiminin %3'üne varan oranda pay sahibi olabilir.

Temel Görüşler Özeti

Hesaplama Kapasitesi YZ Yeteneklerini Belirler

Hesaplama kaynaklarının ölçeği, hangi yapay zeka modellerinin geliştirilebileceğini ve kimlerin geliştirebileceğini doğrudan belirleyerek önemli giriş engelleri oluşturur.

Çevresel Etki

Yapay zeka sistemlerinin artan hesaplama talepleri, önemli enerji tüketimi ve karbon emisyonları dahil olmak üzere önemli çevresel maliyetlere yol açmaktadır.

Tedarik Zinciri Zafiyetleri

AI compute, yoğunlaşmış üretim ve potansiyel tek hata noktalarına sahip karmaşık küresel tedarik zincirlerine bağlıdır.

Politika Gecikmesi

Mevcut politika çerçeveleri, yapay zeka için hesaplama altyapısının hızlı genişlemesine ayak uyduramayarak düzenleyici boşluklar yaratmıştır.

Hardware Lottery Effect

Yapay zekadaki araştırma yönelimleri mevcut donanımdan yoğun şekilde etkilenmekte, güncel hesaplama altyapısına uygun yaklaşımlar orantısız ilgi görmektedir.

Jeopolitik Etkiler

Hesaplama kaynakları üzerindeki kontrol, ihracat kısıtlamaları ve endüstri politikalarının AI yeteneklerine erişimi şekillendirmesiyle uluslararası rekabette kilit bir faktör haline gelmiştir.

Belge İçeriği

Rapor İçeriği

1. Giriş: Yapay Zekada Hesaplama Gücünün Merkeziliği

Hesaplama gücü, yapay zeka yeteneklerinin temel belirleyicisi haline gelmiştir. İlerlemeyi algoritmik yeniliklerin yönlendirdiği önceki dönemlerin aksine, çağdaş yapay zeka gelişmeleri giderek daha fazla büyük ölçekli hesaplama kaynaklarına bağımlı hale gelmektedir.

Bu değişim, en ileri düzey yapay zeka araştırmalarına kimlerin katılabileceği, ne tür yapay zeka sistemlerinin geliştirileceği ve yapay zekanın faydalarının toplum genelinde nasıl dağıtılacağı konularında derin etkilere sahiptir.

2. Hesaplama Talebi Yapay Zeka Gelişimini Nasıl Şekillendirir

En gelişmiş yapay zeka modelleri için artan hesaplama gereksinimleri, giriş için önemli engeller oluşturarak geliştirme kapasitesini kaynak açısından zengin teknoloji şirketlerinde yoğunlaştırmaktadır.

Bu hesaplama silahlanma yarışı, araştırma önceliklerini etkileyerek potansiyel olarak daha verimli ancak hesaplama açısından daha az yoğun yöntemler yerine hesaplamayla ölçeklenen yaklaşımları tercih etmektedir.

  • Girişimler ve Yerleşik Şirketler: Büyük teknoloji şirketlerinin hesaplama avantajı önemli rekabetçi savunma hatları oluşturur
  • Araştırma Yönleri: Hesaplama yoğun yaklaşımlar orantısız ilgi ve fon alıyor
  • Küresel Dağılım: Hesaplama kapasitesi küresel ölçekte eşitsiz dağılmakta olup bu durum hangi bölgelerin AI geliştirmeye katılabileceğini etkilemektedir

3. Büyük Ölçekli AI Modellerinde Hesaplamanın Ölçülmesi

Yapay zeka eğitimi için hesaplama gereksinimleri tipik olarak kayan nokta işlemleri (FLOPs) cinsinden ölçülür. Günümüzün en gelişmiş modelleri 10^23 ila 10^25 FLOPs aralığında ölçülen eğitim süreçleri gerektirir.

Bu gereksinimler, donanım verimliliğindeki iyileştirmeleri çok geride bırakan bir hızla büyümekte olup, en gelişmiş modellerin eğitim maliyetlerinde katlanarak artışa yol açmaktadır.

4. AI Compute Hardware Stack

Yapay zeka donanım ekosistemi, paralel hesaplama için optimize edilmiş özel işlemcileri, özellikle GPU'ları ve giderek artan şekilde TPU'lar ve diğer yapay zeka hızlandırıcıları gibi alana özgü mimarileri içerir.

Farklı donanım konfigürasyonları, yapay zeka yaşam döngüsünün farklı aşamaları için optimize edilmiştir: eğitime karşı çıkarım, belirgin performans ve verimlilik özellikleriyle birlikte.

5. Donanım Bileşenleri ve Tedarik Zincirleri

Yapay zeka donanımı için küresel tedarik zinciri, tasarım, üretim, montaj ve dağıtım arasında karmaşık karşılıklı bağımlılıklar içerir ve her aşamada önemli coğrafi yoğunlaşma gösterir.

  • Çip Tasarımı: NVIDIA, AMD ve Google gibi şirketlerin hakimiyetinde
  • Üretim: Ağırlıklı olarak Tayvan'da (TSMC) ve Güney Kore'de (Samsung) yoğunlaşmıştır
  • Montaj ve Test: Başlıca Doğu ve Güneydoğu Asya'da konumlanmıştır
  • Ham Maddeler: Uzmanlaşmış malzemelere bağımlılık, tedarik zincirinde ek zafiyetler yaratır

6. Data Center Infrastructure

Veri merkezleri, AI eğitimi ve konuşlandırması için hesaplama kaynaklarını barındıran fiziksel altyapıyı temsil eder. Coğrafi dağılımları, enerji kaynakları ve soğutma sistemleri, AI hesaplamasının ekonomisini ve çevresel ayak izini önemli ölçüde etkiler.

Büyük teknoloji şirketleri, özellikle güç dağıtımı ve soğutma sistemlerine dikkat ederek, AI iş yükleri için özel olarak optimize edilmiş veri merkezleri geliştirmektedir.

7. Environmental Impact and Sustainability

Modern AI sistemlerinin hesaplama yoğunluğu, önemli çevresel dışsallıklar yaratmaktadır:

  • Hem eğitim hem de çıkarım için kayda değer elektrik tüketimi
  • Veri merkezlerindeki soğutma sistemleri için su kullanımı
  • Donanım yenilemeden kaynaklanan elektronik atık
  • Enerji üretiminden kaynaklanan karbon emisyonları

Bu etkileri hafifletme çabaları arasında hesaplama verimliliğini artırma, veri merkezlerini yenilenebilir enerji kaynaklarının bulunduğu bölgelere yerleştirme ve daha sürdürülebilir soğutma teknolojileri geliştirme yer almaktadır.

8. Politika Tepkileri ve Yönetişim

Mevcut politika çerçeveleri, AI için hesaplama altyapısının hızlı genişlemesine ayak uydurmakta zorlanmaktadır. Temel politika değerlendirmeleri şunları içerir:

  • Veri merkezi emisyonları ve enerji kullanımı için çevre düzenlemeleri
  • Yoğunlaşan bilgi işlem kaynakları çevresindeki rekabet hukuku değerlendirmeleri
  • İleri düzey bilgi işlem donanımına yönelik ihracat kontrolleri
  • Hesaplama verimliliğini ölçme ve raporlama standartları
  • Araştırma amaçlı bilgi işlem altyapısına kamu yatırımı

9. Sonuçlar ve Gelecek Yönelimler

Hesaplama gücü, yapay zekanın gelişimini ve konuşlandırılmasını şekillendiren kritik bir faktör haline gelmiştir. Giderek artan hesaplama gereksinimleri, önemli giriş engelleri, çevresel zorluklar ve tedarik zinciri kırılganlıkları yaratmaktadır.

Bu zorlukların üstesinden gelmek; verimlilikte teknik iyileştirmeler, dışsallıkları yönetmek için politika tepkileri ve hesaplama kaynaklarına daha geniş erişimi sağlamak için yapısal yaklaşımlar boyunca koordineli eylem gerektirir.

Gelecekteki araştırmalar, daha az hesaplama yoğunluklu AI yöntemleri geliştirmeye, hesaplama verimliliği ölçümlerini iyileştirmeye ve hesaplama tahsisi ile erişim için yönetişim mekanizmaları tasarlamaya odaklanmalıdır.