Computational Power and Artificial Intelligence

AI विकास, बुनियादी ढांचे की मांगों और नीतिगत प्रभावों में कंप्यूट की भूमिका का एक व्यापक विश्लेषण

By Jai Vipra & Sarah Myers West | AI Now Institute

प्रकाशित: सितंबर 2023

रिपोर्ट अवलोकन

यह रिपोर्ट कृत्रिम बुद्धिमत्ता प्रणालियों में कम्प्यूटेशनल शक्ति ("compute") की महत्वपूर्ण भूमिका की जांच करती है। जैसे-जैसे AI मॉडल आकार और जटिलता में बढ़ रहे हैं, उनकी कम्प्यूटेशनल आवश्यकताएं अभूतपूर्व दर से बढ़ रही हैं, जिससे तकनीकी, पर्यावरणीय, आर्थिक और नीतिगत क्षेत्रों में नई चुनौतियाँ और प्रभाव उत्पन्न हो रहे हैं।

हम कम्प्यूटेशनल बुनियादी ढांचे के पूर्ण स्टैक का विश्लेषण करते हैं—हार्डवेयर घटकों से लेकर डेटा सेंटरों तक—और यह पता लगाते हैं कि कैसे कम्प्यूट की बाधाएँ और आवंटन AI विकास को आकार दे रहे हैं, इसमें कौन भाग ले सकता है, और किस प्रकार की AI प्रणालियाँ निर्मित हो रही हैं।

Key Data Points

कंप्यूट डिमांड ग्रोथ

2012 से बड़े AI मॉडल्स के प्रशिक्षण की कम्प्यूटेशनल आवश्यकताएं हर 3-4 महीने में दोगुनी हो रही हैं, जो मूर के नियम को कहीं पीछे छोड़ रही हैं।

ऊर्जा खपत

एक बड़े भाषा मॉडल को प्रशिक्षित करने में 100+ अमेरिकी घरों की वार्षिक ऊर्जा खपत के बराबर बिजली की खपत हो सकती है।

Market Concentration

केवल तीन कंपनियां AI प्रशिक्षण अवसंरचना प्रदान करने वाले क्लाउड कंप्यूटिंग बाजार के 65% से अधिक पर नियंत्रण रखती हैं।

Carbon Footprint

AI क्षेत्र की कम्प्यूटेशनल मांगें 2025 तक वैश्विक बिजली खपत के 3% तक का हिस्सा हो सकती हैं।

मुख्य अंतर्दृष्टि सारांश

कम्प्यूट AI क्षमताओं को परिभाषित करता है

कम्प्यूटेशनल संसाधनों का पैमाना सीधे तौर पर यह निर्धारित करता है कि किस प्रकार के AI मॉडल विकसित किए जा सकते हैं और उन्हें कौन विकसित कर सकता है, जिससे प्रवेश में महत्वपूर्ण बाधाएं उत्पन्न होती हैं।

पर्यावरणीय प्रभाव

AI प्रणालियों की बढ़ती कम्प्यूटेशनल मांगों के पर्यावरण पर महत्वपूर्ण खर्च होते हैं, जिनमें भारी ऊर्जा खपत और कार्बन उत्सर्जन शामिल हैं।

आपूर्ति श्रृंखला की संवेदनशीलता

AI कम्प्यूट जटिल वैश्विक आपूर्ति श्रृंखलाओं पर निर्भर करता है, जहाँ उत्पादन केंद्रित होने और विफलता के संभावित एकल बिंदु मौजूद होते हैं।

Policy Lag

Current policy frameworks have not kept pace with the rapid expansion of computational infrastructure for AI, creating regulatory gaps.

Hardware Lottery Effect

AI में शोध दिशाएं उपलब्ध हार्डवेयर से काफी प्रभावित होती हैं, जहाँ वर्तमान कम्प्यूटेशनल ढांचे के अनुकूल दृष्टिकोणों को असंतुलित ध्यान मिलता है।

भू-राजनीतिक प्रभाव

कम्प्यूटेशनल संसाधनों पर नियंत्रण अंतर्राष्ट्रीय प्रतिस्पर्धा में एक प्रमुख कारक बन गया है, जहाँ निर्यात नियंत्रण और औद्योगिक नीतियाँ AI क्षमताओं तक पहुँच को आकार दे रही हैं।

Document Contents

रिपोर्ट सामग्री

1. Introduction: The Centrality of Compute in AI

कम्प्यूटेशनल शक्ति AI क्षमताओं का एक मौलिक निर्धारक बन गई है। पहले के दौर के विपरीत जहाँ एल्गोरिदम नवाचारों ने प्रगति को चलाया था, समकालीन AI प्रगति बड़े पैमाने पर कम्प्यूटेशनल संसाधनों पर निर्भर होती जा रही है।

इस बदलाव के गहन प्रभाव हैं कि कौन अत्याधुनिक AI शोध में भाग ले सकता है, किस प्रकार की AI प्रणालियाँ विकसित की जाती हैं, और AI के लाभ समाज में कैसे वितरित होते हैं।

2. How Compute Demand Shapes AI Development

अत्याधुनिक AI मॉडल्स के लिए बढ़ती कंप्यूटेशनल आवश्यकताएँ प्रवेश में महत्वपूर्ण बाधाएँ उत्पन्न करती हैं, जिससे विकास क्षमता संसाधन-संपन्न प्रौद्योगिकी कंपनियों के बीच केंद्रित हो जाती है।

यह कम्प्यूटेशनल हथियारों की दौड़ शोध प्राथमिकताओं को प्रभावित करती है, जो संभावित रूप से अधिक कुशल लेकिन कम कम्प्यूटेशनली गहन तरीकों पर कंप्यूट के साथ स्केल होने वाले दृष्टिकोणों को प्राथमिकता देती है।

  • स्टार्टअप्स बनाम स्थापित कंपनियाँ: बड़ी प्रौद्योगिकी कंपनियों की कम्प्यूटेशनल बढ़त महत्वपूर्ण प्रतिस्पर्धात्मक खाईंयाँ निर्मित करती है
  • शोध दिशाएँ: कम्प्यूटेशनल-गहन दृष्टिकोणों को अत्यधिक ध्यान और धन प्राप्त होता है
  • वैश्विक वितरण: कम्प्यूट क्षमता का वैश्विक वितरण असमान है, जो प्रभावित करता है कि कौन-से क्षेत्र AI विकास में भाग ले सकते हैं

3. बृहत्-स्तरीय AI मॉडलों में कम्प्यूट मापन

AI प्रशिक्षण की कम्प्यूटेशनल आवश्यकताओं को आमतौर पर फ्लोटिंग-पॉइंट ऑपरेशन्स (FLOPs) में मापा जाता है। समकालीन सबसे उन्नत मॉडलों को प्रशिक्षण के लिए लगभग 10^23 से 10^25 FLOPs की आवश्यकता होती है।

ये आवश्यकताएँ हार्डवेयर दक्षता में सुधार से कहीं अधिक तेजी से बढ़ रही हैं, जिसके परिणामस्वरूप अत्याधुनिक मॉडलों के प्रशिक्षण की लागत में चरघातांकी वृद्धि हो रही है।

4. AI Compute Hardware Stack

AI हार्डवेयर इकोसिस्टम में समानांतर कंप्यूटेशन के लिए अनुकूलित विशेष प्रोसेसर शामिल हैं, विशेष रूप से GPU और तेजी से डोमेन-विशिष्ट आर्किटेक्चर जैसे TPU और अन्य AI एक्सेलेरेटर।

विभिन्न हार्डवेयर कॉन्फ़िगरेशन AI लाइफसाइकल के विभिन्न चरणों के लिए अनुकूलित हैं: प्रशिक्षण बनाम अनुमान, जिनकी विशिष्ट प्रदर्शन और दक्षता विशेषताएँ होती हैं।

5. Hardware Components and Supply Chains

AI हार्डवेयर के लिए वैश्विक आपूर्ति श्रृंखला में डिजाइन, निर्माण, असेंबली और वितरण में जटिल अंतर्निर्भरताएं शामिल हैं, जहाँ प्रत्येक चरण में भौगोलिक एकाग्रता महत्वपूर्ण है।

  • चिप डिजाइन: NVIDIA, AMD और Google जैसी कंपनियों का वर्चस्व
  • फैब्रिकेशन: मुख्य रूप से ताइवान (TSMC) और दक्षिण कोरिया (Samsung) में केंद्रित
  • असेंबली और परीक्षण: मुख्यतः पूर्वी और दक्षिण पूर्वी एशिया में स्थित
  • कच्चा माल: विशेष सामग्रियों पर निर्भरता आपूर्ति श्रृंखला में अतिरिक्त कमजोरियाँ पैदा करती है

6. Data Center Infrastructure

डेटा सेंटर भौतिक अवसंरचना का प्रतिनिधित्व करते हैं जो AI प्रशिक्षण और तैनाती के लिए कम्प्यूटेशनल संसाधनों को होस्ट करते हैं। उनका भौगोलिक वितरण, ऊर्जा स्रोत और शीतलन प्रणालियाँ AI कम्प्यूट की अर्थव्यवस्था और पर्यावरणीय प्रभाव को महत्वपूर्ण रूप से प्रभावित करते हैं।

प्रमुख प्रौद्योगिकी कंपनियाँ विशेष रूप से AI वर्कलोड के लिए अनुकूलित विशेष डेटा सेंटर विकसित कर रही हैं, जिसमें विशेष ध्यान बिजली आपूर्ति और कूलिंग सिस्टम पर दिया जा रहा है।

7. Environmental Impact and Sustainability

आधुनिक AI प्रणालियों की कम्प्यूटेशनल तीव्रता पर्यावरणीय बाह्य प्रभाव उत्पन्न करती है, जिनमें शामिल हैं:

  • प्रशिक्षण और अनुमान दोनों के लिए महत्वपूर्ण बिजली खपत
  • डेटा केंद्रों में शीतलन प्रणालियों के लिए जल उपयोग
  • हार्डवेयर टर्नओवर से इलेक्ट्रॉनिक कचरा
  • ऊर्जा उत्पादन से कार्बन उत्सर्जन

इन प्रभावों को कम करने के प्रयासों में कम्प्यूटेशनल दक्षता में सुधार, नवीकरणीय ऊर्जा वाले क्षेत्रों में डेटा केंद्र स्थापित करना और अधिक टिकाऊ कूलिंग प्रौद्योगिकियों का विकास शामिल है।

8. Policy Responses and Governance

वर्तमान नीतिगत ढांचे AI के लिए कम्प्यूटेशनल बुनियादी ढांचे के तीव्र विस्तार के साथ तालमेल बनाए रखने में संघर्ष कर रहे हैं। प्रमुख नीतिगत विचारों में शामिल हैं:

  • डेटा सेंटर उत्सर्जन और ऊर्जा उपयोग के लिए पर्यावरणीय नियम
  • केंद्रित कम्प्यूट संसाधनों के संबंध में एंटीट्रस्ट विचार
  • उन्नत कंप्यूटिंग हार्डवेयर पर निर्यात नियंत्रण
  • कम्प्यूटेशनल दक्षता मापने और रिपोर्टिंग के मानक
  • अनुसंधान के लिए कंप्यूट इंफ्रास्ट्रक्चर में सार्वजनिक निवेश

9. निष्कर्ष और भविष्य की दिशाएँ

कम्प्यूटेशनल शक्ति कृत्रिम बुद्धिमत्ता के विकास और परिनियोजन को आकार देने वाला एक महत्वपूर्ण कारक उभरा है। बढ़ती कंप्यूट आवश्यकताएँ प्रवेश में महत्वपूर्ण बाधाएँ, पर्यावरणीय चुनौतियाँ और आपूर्ति श्रृंखला की कमजोरियाँ पैदा करती हैं।

इन चुनौतियों का समाधान करने के लिए दक्षता में तकनीकी सुधार, बाहरी प्रभावों को प्रबंधित करने के लिए नीतिगत प्रतिक्रियाओं, और कम्प्यूटेशनल संसाधनों तक व्यापक पहुंच सुनिश्चित करने के लिए संरचनात्मक दृष्टिकोणों में समन्वित कार्रवाई की आवश्यकता है।

भविष्य के शोध को कम कम्प्यूटेशनल रूप से गहन AI विधियों के विकास, कम्प्यूटेशनल दक्षता के मापन में सुधार, और कम्प्यूट आवंटन एवं पहुंच के लिए शासन तंत्रों के डिजाइन पर ध्यान केंद्रित करना चाहिए।