Deepseeks neuer Chatbot bietet eine beeindruckende Einführung: "Hallo, ich wurde erstellt, damit Sie alles fragen und eine Antwort erhalten können, die Sie sogar überraschen könnte." Diese KI, ein Produkt des chinesischen Startups Deepseek, ist schnell zu einem wichtigen Marktteilnehmer geworden, der sogar zu einem erheblichen Rückgang des Aktienkurs von NVIDIA beiträgt.

Der Erfolg von Deepseek beruht auf seinen innovativen Architektur- und Trainingsmethoden. Schlüsseltechnologien umfassen:

• Multi-Token-Vorhersage (MTP): Anstatt Wörter einzeln vorherzusagen, prognostiziert MTP mehrere Wörter gleichzeitig, steigern Sie die Genauigkeit und Effizienz.
• Mischung von Experten (MOE): Diese Architektur verwendet mehrere neuronale Netzwerke, beschleunigt das Training und die Verbesserung der Leistung. Deepseek V3 verwendet 256 Netzwerke und aktiviert acht für jedes Token.
• Multi-Head Latent Achtung (MLA): MLA konzentriert sich auf wichtige Satzteile und extrahiert wiederholt wichtige Details, um den Informationsverlust zu minimieren und subtile Nuancen zu erfassen.

Während Deepseek zunächst einen bemerkenswert niedrigen Schulungskosten von 6 Millionen US -Dollar für Deepseek V3 unter Verwendung von nur 2048 GPUs beanspruchte, ergab die semianalyse eine weitaus wesentlichere Infrastruktur: ungefähr 50.000 NVIDIA Hopper -GPUs (einschließlich 10.000 H800, 10.000 H100 und zusätzliches H20 -GPUs). Dies führt zu einer Serverinvestition von rund 1,6 Milliarden US -Dollar und Betriebskosten von ca. 944 Millionen US -Dollar.

Deepseek, eine Tochtergesellschaft des chinesischen Hedgefonds-High-Flyer, besitzt seine Rechenzentren und bietet Kontrolle über Optimierung und schnellere Innovationsimplementierung. Dieser selbstfinanzierte Ansatz verbessert die Flexibilität und Entscheidungsfindung. Das Unternehmen zieht auch Top -Talente an, wobei einige Forscher jährlich über 1,3 Millionen US -Dollar verdienen, hauptsächlich von chinesischen Universitäten.

Deepseeks anfängliche Schulungskosten in Höhe von 6 Millionen US -Dollar ist irreführend. Es spiegelt nur die Nutzung der GPU vor dem Training wider, ohne Forschung, Verfeinerung, Datenverarbeitung und Infrastruktur. Die Gesamtinvestition des Unternehmens in die KI -Entwicklung beträgt 500 Millionen US -Dollar. Die magere Struktur ermöglicht jedoch eine effiziente Implementierung von Innovationen im Vergleich zu größeren, bürokratischeren Unternehmen.

Der Erfolg von Deepseek zeigt das Potenzial eines gut finanzierten unabhängigen KI-Unternehmens, mit Branchenriesen zu konkurrieren. Während seine "revolutionären Haushaltsansprüche" übertrieben sind, ist sein Erfolg unbestreitbar mit erheblichen Investitionen, technischen Fortschritten und einem starken Team verbunden. Der Kontrast ist im Vergleich der Schulungskosten stark: Deepseek gab ungefähr 5 Millionen US-Dollar für R1 aus, während Chatgpt-4 schätzungsweise 100 Millionen US-Dollar kostete. Selbst angesichts seiner erheblichen Investitionen bleibt Deepseek nach wie vor deutlich billiger als seine Konkurrenten.