दीपसेक की आश्चर्यजनक रूप से सस्ती (अभी तक बड़े पैमाने पर वित्त पोषित) एआई प्रतियोगी
एक चीनी एआई स्टार्टअप दीपसेक ने अपने नए चैटबॉट के साथ लहरें बनाई हैं, जो एक कम लागत पर प्रभावशाली क्षमताओं का दावा करती है। चैटबॉट का परिचय: "हाय, मैं बनाया गया था ताकि आप कुछ भी पूछ सकें और एक उत्तर प्राप्त कर सकें जो आपको आश्चर्यचकित भी कर सकता है," इसकी महत्वाकांक्षा को दर्शाता है। इसका प्रभाव पहले से ही स्पष्ट है, एनवीडिया के स्टॉक मूल्य में एक महत्वपूर्ण गिरावट में योगदान देता है।
चित्र: ensigame.com
दीपसेक वी 3 की सफलता अपने अभिनव वास्तुकला और प्रशिक्षण विधियों से उपजी है, जिसमें शामिल हैं:
- मल्टी-टोकन भविष्यवाणी (एमटीपी): सटीकता और दक्षता को बढ़ावा देने, एक साथ कई शब्दों की भविष्यवाणी करता है।
- विशेषज्ञों का मिश्रण (एमओई): 256 तंत्रिका नेटवर्क का उपयोग करता है, प्रत्येक टोकन के लिए आठ को सक्रिय करता है, प्रशिक्षण में तेजी और प्रदर्शन में सुधार करता है।
- मल्टी-हेड लेटेंट ध्यान (एमएलए): बार-बार प्रमुख वाक्य भागों पर ध्यान केंद्रित करता है, सूचना हानि को कम करता है और बारीक समझ को बढ़ाता है।
दीपसेक ने शुरू में 2048 जीपीयू का उपयोग करके केवल $ 6 मिलियन की प्रशिक्षण लागत का दावा किया था। हालांकि, सेमियालिसिस ने एक बड़ा बुनियादी ढांचा प्रकट किया: लगभग 50,000 एनवीडिया हॉपर जीपीयू (एच 800, एच 100, और एच 20 यूनिट सहित) कई डेटा केंद्रों में फैले, सर्वर निवेश में लगभग 1.6 बिलियन डॉलर और परिचालन खर्चों में $ 944 मिलियन।
चित्र: ensigame.com
हाई-फ्लाइर हेज फंड की एक सहायक कंपनी, डीपसेक अपने डेटा केंद्रों का मालिक है, क्लाउड-रिलेटिक प्रतियोगियों के विपरीत, तेजी से नवाचार और अनुकूलन को बढ़ावा देता है। इसकी स्व-वित्त पोषित प्रकृति चपलता और तेजी से निर्णय लेने में योगदान देती है। कंपनी शीर्ष प्रतिभा को आकर्षित करती है, कुछ शोधकर्ताओं ने मुख्य रूप से चीनी विश्वविद्यालयों से सालाना $ 1.3 मिलियन से अधिक कमाई की।
चित्र: ensigame.com
$ 6 मिलियन का आंकड़ा, केवल पूर्व-प्रशिक्षण GPU लागतों का प्रतिनिधित्व करता है, समग्र निवेश को काफी समझता है, इसकी स्थापना के बाद से $ 500 मिलियन से अधिक है। डीपसेक की दुबली संरचना, हालांकि, बड़े, अधिक नौकरशाही प्रतियोगियों की तुलना में कुशल नवाचार के लिए अनुमति देती है।
चित्र: ensigame.com
दीपसेक की सफलता अच्छी तरह से वित्त पोषित स्वतंत्र एआई कंपनियों की क्षमता पर प्रकाश डालती है। जबकि "क्रांतिकारी बजट" का दावा यकीनन फुलाया जाता है, प्रतियोगियों के सापेक्ष इसकी लागत-प्रभावशीलता (उदाहरण के लिए, R1 के लिए $ 5 मिलियन बनाम CHATGPT4O के लिए $ 100 मिलियन) निर्विवाद है। इसकी उपलब्धि को पर्याप्त निवेश, तकनीकी प्रगति और एक उच्च कुशल टीम के लिए जिम्मेदार ठहराया गया है।
