ডিপসেকের নতুন চ্যাটবট একটি চিত্তাকর্ষক ভূমিকা নিয়ে গর্ব করে: "হাই, আমি তৈরি হয়েছিল যাতে আপনি কিছু জিজ্ঞাসা করতে পারেন এবং এমন একটি উত্তর পেতে পারেন যা আপনাকে অবাক করে দিতে পারে।" এই এআই, চীনা স্টার্টআপ ডিপসেকের একটি পণ্য, দ্রুত একটি বড় বাজারের খেলোয়াড় হয়ে উঠেছে, এমনকি এনভিডিয়ার শেয়ারের দামের উল্লেখযোগ্য হ্রাসে অবদান রেখেছে।

ডিপসিকের সাফল্য তার উদ্ভাবনী স্থাপত্য এবং প্রশিক্ষণ পদ্ধতি থেকে উদ্ভূত। মূল প্রযুক্তিগুলির মধ্যে রয়েছে:

• মাল্টি-টোকেন পূর্বাভাস (এমটিপি): স্বতন্ত্রভাবে শব্দের পূর্বাভাস দেওয়ার পরিবর্তে, এমটিপি একসাথে একাধিক শব্দের পূর্বাভাস দেয়, নির্ভুলতা এবং দক্ষতা বাড়িয়ে তোলে।
• বিশেষজ্ঞদের মিশ্রণ (এমওই): এই আর্কিটেকচারটি একাধিক নিউরাল নেটওয়ার্ক ব্যবহার করে, প্রশিক্ষণকে ত্বরান্বিত করে এবং কর্মক্ষমতা উন্নত করে। ডিপসেক ভি 3 প্রতিটি টোকেনের জন্য আটটি সক্রিয় করে 256 টি নেটওয়ার্ক ব্যবহার করে।
• মাল্টি-হেডের সুপ্ত মনোযোগ (এমএলএ): এমএলএ গুরুত্বপূর্ণ বাক্য অংশগুলিতে মনোনিবেশ করে, তথ্য ক্ষতি হ্রাস করতে এবং সূক্ষ্ম সূক্ষ্মতাগুলি ক্যাপচার করতে বারবার মূল বিশদটি বের করে।

যদিও ডিপসেক প্রাথমিকভাবে মাত্র 2048 জিপিইউ ব্যবহার করে ডিপসেক ভি 3 এর জন্য $ 6 মিলিয়ন ডলার উল্লেখযোগ্যভাবে কম প্রশিক্ষণ ব্যয় দাবি করেছিলেন, সেমিয়ানালাইসিসটি আরও বেশি পরিমাণে অবকাঠামো প্রকাশ করেছে: প্রায় 50,000 এনভিডিয়া হপার জিপিইউ (10,000 এইচ 800, 10,000 এইচ 100, এবং অতিরিক্ত এইচ 20 জিপিইউ সহ) একাধিক ডেটা সেন্টারে ছড়িয়ে পড়ে। এটি প্রায় $ 1.6 বিলিয়ন এবং প্রায় 944 মিলিয়ন ডলারের অপারেশনাল ব্যয়ের একটি সার্ভার বিনিয়োগকে অনুবাদ করে।

চাইনিজ হেজ ফান্ড হাই-ফ্লায়ারের সহায়ক সংস্থা ডিপসেক তার ডেটা সেন্টারের মালিক, অপ্টিমাইজেশন এবং দ্রুত উদ্ভাবন বাস্তবায়নের উপর নিয়ন্ত্রণ সরবরাহ করে। এই স্ব-অর্থায়িত পদ্ধতির নমনীয়তা এবং সিদ্ধান্ত গ্রহণকে বাড়িয়ে তোলে। সংস্থাটি শীর্ষ প্রতিভাও আকর্ষণ করে, কিছু গবেষক মূলত চীনা বিশ্ববিদ্যালয় থেকে বার্ষিক ১.৩ মিলিয়ন ডলার আয় করেন।

ডিপসেকের প্রাথমিক $ 6 মিলিয়ন প্রশিক্ষণ ব্যয়ের দাবি বিভ্রান্তিকর; এটি কেবল গবেষণা, পরিমার্জন, ডেটা প্রসেসিং এবং অবকাঠামো বাদ দিয়ে প্রাক-প্রশিক্ষণ জিপিইউ ব্যবহার প্রতিফলিত করে। এআই উন্নয়নে সংস্থার মোট বিনিয়োগ $ 500 মিলিয়ন ছাড়িয়েছে। তবে এর পাতলা কাঠামোটি বৃহত্তর, আরও আমলাতান্ত্রিক সংস্থার তুলনায় দক্ষ উদ্ভাবন বাস্তবায়নের অনুমতি দেয়।

ডিপসিকের সাফল্য শিল্প জায়ান্টদের সাথে প্রতিযোগিতা করার জন্য একটি ভাল অর্থায়িত স্বতন্ত্র এআই সংস্থার সম্ভাবনা প্রদর্শন করে। যদিও এর "বিপ্লবী বাজেট" দাবিগুলি অতিরঞ্জিত, তবে এর সাফল্য অনস্বীকার্যভাবে যথেষ্ট বিনিয়োগ, প্রযুক্তিগত অগ্রগতি এবং একটি শক্তিশালী দলের সাথে যুক্ত। প্রশিক্ষণের ব্যয়ের তুলনা করার সময় বিপরীতে সম্পূর্ণ: ডিপসেক আর 1-তে প্রায় 5 মিলিয়ন ডলার ব্যয় করেছে, যখন চ্যাটজিপিটি -4 এর জন্য আনুমানিক $ 100 মিলিয়ন ব্যয় হয়েছে। এমনকি এর যথেষ্ট বিনিয়োগ বিবেচনা করেও ডিপসেক তার প্রতিযোগীদের তুলনায় উল্লেখযোগ্যভাবে সস্তা।