Deepseek'in yeni sohbet botu etkileyici bir tanıtımla övünüyor: "Merhaba, yaratıldım, böylece bir şey sorabilir ve sizi şaşırtabilecek bir cevap alabilirsiniz." Çin girişiminin bir ürünü olan bu AI, hızla büyük bir pazar oyuncusu haline geldi ve hatta Nvidia'nın hisse senedi fiyatında önemli bir düşüşe katkıda bulundu.

Deepseek'in başarısı yenilikçi mimari ve eğitim yöntemlerinden kaynaklanmaktadır. Anahtar teknolojiler şunları içerir:

• Çoklu Tahmini Tahmin (MTP): Kelimeleri ayrı ayrı tahmin etmek yerine, MTP aynı anda birden fazla kelimeyi tahmin ederek doğruluğu ve verimliliği artırır.
• Uzmanların Karışımı (MOE): Bu mimari, eğitimi hızlandırarak ve performansı artırarak birden fazla sinir ağı kullanıyor. Deepseek V3 256 ağ kullanır ve her jeton için sekiz etkinleştirilir.
• Çok Baş Gizli Dikkat (MLA): MLA, bilgi kaybını en aza indirmek ve ince nüansları yakalamak için önemli ayrıntıları tekrar tekrar çıkararak önemli cümle parçalarına odaklanır.

Deepseek başlangıçta sadece 2048 GPU kullanan Deepseek V3 için 6 milyon dolarlık bir eğitim maliyeti iddia ederken, yarı. Çok daha önemli bir altyapı ortaya çıkardı: yaklaşık 50.000 NVIDIA hopper GPU'ları (10.000 H800, 10.000 H100 ve ek H20 GPU'lar dahil) çoklu veri merkezlerine yayıldı. Bu, yaklaşık 1,6 milyar dolarlık bir sunucu yatırımına ve yaklaşık 944 milyon dolarlık operasyonel giderlere dönüşüyor.

Çin Hedge Fonu High-Flyer'in bir yan kuruluşu olan Deepseek, optimizasyon ve daha hızlı inovasyon uygulaması üzerinde kontrol sağlayan veri merkezlerinin sahibidir. Bu kendi kendine finanse edilen yaklaşım esnekliği ve karar almayı geliştirir. Şirket ayrıca en iyi yetenekleri çekiyor ve bazı araştırmacılar yılda 1.3 milyon doların üzerinde, öncelikle Çin üniversitelerinden.

Deepseek'in ilk 6 milyon dolarlık eğitim maliyet talebi yanıltıcıdır; Yalnızca araştırma, iyileştirme, veri işleme ve altyapı hariç, eğitim öncesi GPU kullanımını yansıtır. Şirketin AI gelişimine toplam yatırımı 500 milyon doları aşıyor. Bununla birlikte, yalın yapısı, daha büyük, daha bürokratik şirketlere kıyasla verimli inovasyon uygulamasına izin verir.

Deepseek'in başarısı, iyi finanse edilen bağımsız bir AI şirketinin endüstri devleriyle rekabet etme potansiyelini sergiliyor. "Devrimci bütçe" iddiaları abartılı olsa da, başarısı inkar edilemez bir şekilde önemli yatırımlar, teknik gelişmeler ve güçlü bir ekiple bağlantılıdır. Eğitim maliyetlerini karşılaştırırken kontrast keskindir: Deepseek R1'e yaklaşık 5 milyon dolar harcadı, ChatGPT-4'ü tahmini 100 milyon dolara mal oldu. Önemli yatırımı göz önüne alındığında bile, Deepseek rakiplerinden önemli ölçüde daha ucuzdur.