Chatbot ใหม่ของ Deepseek มีการแนะนำที่น่าประทับใจ: "สวัสดีฉันถูกสร้างขึ้นเพื่อให้คุณสามารถถามอะไรก็ได้และรับคำตอบที่อาจทำให้คุณประหลาดใจ" AI นี้ซึ่งเป็นผลิตภัณฑ์ของการเริ่มต้นของจีน Deepseek ได้กลายเป็นผู้เล่นในตลาดรายใหญ่อย่างรวดเร็วแม้กระทั่งมีส่วนทำให้ราคาหุ้นของ Nvidia ลดลงอย่างมีนัยสำคัญ

ความสำเร็จของ Deepseek เกิดจากสถาปัตยกรรมที่เป็นนวัตกรรมและวิธีการฝึกอบรม เทคโนโลยีที่สำคัญ ได้แก่ :

• การทำนายแบบมัลติเทน (MTP): แทนที่จะทำนายคำแต่ละคำ MTP คาดการณ์หลายคำพร้อมกันเพิ่มความแม่นยำและประสิทธิภาพ
• ส่วนผสมของผู้เชี่ยวชาญ (MOE): สถาปัตยกรรมนี้ใช้เครือข่ายประสาทหลายเครือข่ายเร่งการฝึกอบรมและปรับปรุงประสิทธิภาพ Deepseek V3 ใช้ 256 เครือข่ายเปิดใช้งานแปดสำหรับแต่ละโทเค็น
• ความสนใจแฝงหลายหัว (MLA): MLA มุ่งเน้นไปที่ชิ้นส่วนประโยคที่สำคัญการสกัดรายละเอียดสำคัญซ้ำ ๆ เพื่อลดการสูญเสียข้อมูลและจับความแตกต่างเล็กน้อย

ในขณะที่ Deepseek เริ่มแรกอ้างว่ามีค่าใช้จ่ายในการฝึกอบรมที่ต่ำอย่างน่าทึ่งที่ $ 6 ล้านสำหรับ Deepseek V3 โดยใช้ GPU เพียง 2048 แต่ Semianalysis เปิดเผยโครงสร้างพื้นฐานที่สำคัญกว่า: GPU NVIDIA Hopper ประมาณ 50,000 NVIDIA (รวมถึง 10,000 H800, 10,000 H100 และ H20 GPU เพิ่มเติม) สิ่งนี้แปลว่าการลงทุนเซิร์ฟเวอร์ประมาณ 1.6 พันล้านเหรียญสหรัฐและค่าใช้จ่ายในการดำเนินงานประมาณ $ 944 ล้าน

Deepseek ซึ่งเป็น บริษัท ในเครือของกองทุนป้องกันความเสี่ยงของจีนที่มีการบินสูงเป็นเจ้าของศูนย์ข้อมูลให้การควบคุมการเพิ่มประสิทธิภาพและการใช้นวัตกรรมที่เร็วขึ้น วิธีการที่ได้รับการสนับสนุนตนเองนี้ช่วยเพิ่มความยืดหยุ่นและการตัดสินใจ บริษัท ยังดึงดูดความสามารถสูงสุดโดยนักวิจัยบางคนมีรายได้มากกว่า 1.3 ล้านเหรียญสหรัฐต่อปีส่วนใหญ่มาจากมหาวิทยาลัยจีน

การเรียกร้องค่าใช้จ่ายการฝึกอบรมเริ่มต้นของ Deepseek ครั้งแรกของ Deepseek นั้นทำให้เข้าใจผิด มันสะท้อนให้เห็นถึงการใช้งาน GPU ก่อนการฝึกอบรมไม่รวมการวิจัยการปรับแต่งการประมวลผลข้อมูลและโครงสร้างพื้นฐาน การลงทุนทั้งหมดของ บริษัท ในการพัฒนา AI เกิน $ 500 ล้าน อย่างไรก็ตามโครงสร้างแบบลีนช่วยให้สามารถใช้นวัตกรรมที่มีประสิทธิภาพเมื่อเทียบกับ บริษัท ที่มีขนาดใหญ่และมีระบบราชการมากขึ้น

ความสำเร็จของ Deepseek นำเสนอศักยภาพของ บริษัท AI อิสระที่ได้รับการสนับสนุนอย่างดีในการแข่งขันกับยักษ์ใหญ่ในอุตสาหกรรม ในขณะที่การเรียกร้อง "งบประมาณปฏิวัติ" เกินจริงความสำเร็จของมันเชื่อมโยงอย่างปฏิเสธไม่ได้กับการลงทุนที่สำคัญความก้าวหน้าทางเทคนิคและทีมที่แข็งแกร่ง ความแตกต่างนั้นสิ้นเชิงเมื่อเปรียบเทียบค่าใช้จ่ายในการฝึกอบรม: Deepseek ใช้เงินประมาณ 5 ล้านดอลลาร์ใน R1 ในขณะที่ CHATGPT-4 มีค่าใช้จ่ายประมาณ $ 100 ล้าน แม้จะพิจารณาจากการลงทุนที่สำคัญ Deepseek ยังคงถูกกว่าคู่แข่งอย่างมีนัยสำคัญ