ডিপসেক এআই উন্নয়নের দাম $ 1.6 বিলিয়ন, ডিবানিং সাশ্রয়ী মূল্যের পৌরাণিক কাহিনী

ডিপসেকের নতুন চ্যাটবট নিজেকে একটি মনোমুগ্ধকর প্রতিশ্রুতি দিয়ে পরিচয় করিয়ে দিয়েছে: "হাই, আমি তৈরি হয়েছিল যাতে আপনি কিছু জিজ্ঞাসা করতে পারেন এবং এমন একটি উত্তর পেতে পারেন যা এমনকি আপনাকে অবাক করে দিতে পারে।" এই বিবৃতিটি প্রতিযোগিতামূলক এআই বাজারে ডিপসেকের লক্ষ্য অর্জনের লক্ষ্যমাত্রার সংমিশ্রণকে আবদ্ধ করে, যা সম্প্রতি এনভিডিয়ার অন্যতম বৃহত্তম স্টক দামের ড্রপ ডিপসেকের প্রভাবের কারণে দেখেছিল।

চিত্র: ensigame.com

ডিপসেকের এআই মডেলটি এর উদ্ভাবনী স্থাপত্য এবং প্রশিক্ষণের পদ্ধতির কারণে দাঁড়িয়ে আছে। এখানে মূল প্রযুক্তিগুলি রয়েছে যা এটি পৃথক করে:

মাল্টি-টোকেন পূর্বাভাস (এমটিপি) : traditional তিহ্যবাহী মডেলগুলির বিপরীতে যা একবারে একটি শব্দের পূর্বাভাস দেয়, ডিপসিকের এমটিপি এক সাথে একাধিক শব্দের পূর্বাভাস দেয় যা একটি বাক্যটির বিভিন্ন অংশ বিশ্লেষণ করে একসাথে একাধিক শব্দের পূর্বাভাস দেয়। এই পদ্ধতিটি কেবল নির্ভুলতা বাড়ায় না তবে মডেলের দক্ষতাও বাড়ায়।

বিশেষজ্ঞদের মিশ্রণ (এমওই) : ডিপসেক ভি 3 প্রতিটি টোকেন প্রসেসিং টাস্কের জন্য আটটি সক্রিয় করে 256 নিউরাল নেটওয়ার্ক ব্যবহার করে একটি এমওই আর্কিটেকচার নিয়োগ করে। এই পদ্ধতির এআই প্রশিক্ষণকে ত্বরান্বিত করে এবং পারফরম্যান্সকে উল্লেখযোগ্যভাবে উন্নত করে।

মাল্টি-হেডের সুপ্ত মনোযোগ (এমএলএ) : এমএলএ বারবার পাঠ্য খণ্ডগুলি থেকে কী বিশদটি বের করে একটি বাক্যটির সর্বাধিক উল্লেখযোগ্য অংশগুলিতে মনোনিবেশ করে। এটি এআইকে গুরুত্বপূর্ণ সূক্ষ্মতা কার্যকরভাবে ক্যাপচার করতে দেয়, গুরুত্বপূর্ণ তথ্য অনুপস্থিত হওয়ার সুযোগকে হ্রাস করে।

মাত্র 2048 গ্রাফিক্স প্রসেসর ব্যবহার করে ডিপসেক ভি 3 প্রশিক্ষণের জন্য million মিলিয়ন ডলার ন্যূনতম বাজেট সহ একটি প্রতিযোগিতামূলক এআই মডেল তৈরি করার দাবি করা সত্ত্বেও, আরও তদন্ত আরও জটিল চিত্র প্রকাশ করেছে।

চিত্র: ensigame.com

সেমিয়ানালাইসিসের বিশ্লেষকরা আবিষ্কার করেছেন যে ডিপসেক প্রায় ৫০,০০০ এনভিডিয়া হপার জিপিইউ সমন্বিত একটি বিশাল গণ্য অবকাঠামো পরিচালনা করে। এর মধ্যে এআই প্রশিক্ষণ, গবেষণা এবং আর্থিক মডেলিংয়ের জন্য একাধিক ডেটা সেন্টারে ছড়িয়ে 10,000 এইচ 800 ইউনিট, আরও 10,000 এইচ 100 এবং অতিরিক্ত এইচ 20 জিপিইউ অন্তর্ভুক্ত রয়েছে। সার্ভারগুলিতে মোট বিনিয়োগ প্রায় 1.6 বিলিয়ন ডলার, অপারেশনাল ব্যয়গুলি অনুমান করে 944 মিলিয়ন ডলার।

ডিপসেক হ'ল চীনা হেজ ফান্ড হাই-ফ্লায়ারের একটি সহায়ক সংস্থা, যা এআই টেকনোলজিসে ফোকাস করার জন্য ২০২৩ সালে স্টার্টআপটি ছড়িয়ে দেয়। ক্লাউড সরবরাহকারীদের উপর নির্ভর করে এমন অনেক স্টার্টআপগুলির বিপরীতে, ডিপসেক তার ডেটা সেন্টারগুলির মালিক, এটি এআই মডেল অপ্টিমাইজেশনের উপর সম্পূর্ণ নিয়ন্ত্রণ দেয় এবং দ্রুত উদ্ভাবন সক্ষম করে। সংস্থাটি স্ব-অর্থায়িত, যা তার নমনীয়তা এবং সিদ্ধান্ত গ্রহণের গতি বাড়ায়।

চিত্র: ensigame.com

ডিপসেক শীর্ষ প্রতিভাও আকর্ষণ করে, কিছু গবেষকরা মূলত শীর্ষস্থানীয় চীনা বিশ্ববিদ্যালয়গুলির কাছ থেকে বার্ষিক ১.৩ মিলিয়ন ডলার উপার্জন করেন। সংস্থাটির সর্বশেষ মডেলটিকে মাত্র million মিলিয়ন ডলারে প্রশিক্ষণের দাবিটি বিস্তৃত প্রসঙ্গটি বিবেচনা করার সময় অবাস্তব বলে মনে হয়। এই চিত্রটি কেবল প্রাক-প্রশিক্ষণের সময় জিপিইউ ব্যবহারের জন্য অ্যাকাউন্ট করে এবং গবেষণা ব্যয়, মডেল পরিশোধন, ডেটা প্রসেসিং এবং সামগ্রিক অবকাঠামোগত ব্যয় বাদ দেয়।

প্রতিষ্ঠার পর থেকে ডিপসেক এআই বিকাশে $ 500 মিলিয়ন ডলারের বেশি বিনিয়োগ করেছে। এর কমপ্যাক্ট কাঠামোটি বৃহত্তর, আরও আমলাতান্ত্রিক সংস্থার বিপরীতে এআই উদ্ভাবনের সক্রিয় এবং কার্যকর বাস্তবায়নের অনুমতি দেয়।

চিত্র: ensigame.com

ডিপসিকের যাত্রা চিত্রিত করে যে একটি ভাল অর্থায়িত স্বতন্ত্র এআই সংস্থা প্রকৃতপক্ষে শিল্প জায়ান্টদের সাথে প্রতিযোগিতা করতে পারে। তবে বিশেষজ্ঞরা নোট করেছেন যে এর সাফল্য এআই উন্নয়নের জন্য "বিপ্লবী বাজেট" না করে যথেষ্ট বিনিয়োগ, প্রযুক্তিগত অগ্রগতি এবং একটি শক্তিশালী দলের কারণে। তা সত্ত্বেও, ডিপসিকের ব্যয়গুলি এর প্রতিযোগীদের তুলনায় উল্লেখযোগ্যভাবে কম রয়েছে। উদাহরণস্বরূপ, যখন ডিপসেক আর 1 এ 5 মিলিয়ন ডলার ব্যয় করেছে, চ্যাটজিপিটি 4 ও এর প্রশিক্ষণের জন্য ব্যয় হয়েছে $ 100 মিলিয়ন।

তবে এটি এখনও এর প্রতিযোগীদের তুলনায় সস্তা।