Il nuovo chatbot di Deepseek vanta un'impressionante introduzione: "Ciao, sono stato creato in modo da poter chiedere qualsiasi cosa e ottenere una risposta che potrebbe persino sorprenderti." Questa intelligenza artificiale, un prodotto della startup cinese Deepseek, è rapidamente diventata un importante giocatore di mercato, contribuendo anche a un calo significativo del prezzo delle azioni di Nvidia.

Il successo di Deepseek deriva dalla sua architettura innovativa e metodi di formazione. Le tecnologie chiave includono:

• Multi-token Prediction (MTP): Invece di prevedere le parole individualmente, MTP prevede contemporaneamente più parole, aumentando l'accuratezza ed efficienza.
• Miscela di esperti (MOE): questa architettura utilizza più reti neurali, accelerare la formazione e migliorare le prestazioni. DeepSeek V3 utilizza 256 reti, attivando otto per ogni token.
• Attenzione latente multi-testa (MLA): MLA si concentra su parti di frasi cruciali, estraendo ripetutamente dettagli chiave per ridurre al minimo la perdita di informazioni e acquisire sottili sfumature.

Mentre DeepSeek inizialmente ha rivendicato un costo di allenamento notevolmente basso di $ 6 milioni per DeepSeek V3 utilizzando solo 2048 GPU, la semianalisi ha rivelato un'infrastruttura molto più sostanziale: circa 50.000 GPU di Hopper Nvidia (inclusi 10.000 H800, 10.000 H100 e GPU H20 aggiuntivi) diffusi su più center di dati. Ciò si traduce in un investimento di server di circa $ 1,6 miliardi e spese operative di circa $ 944 milioni.

DeepSeek, una consociata dell'hedge fund cinese High-Flyer, possiede i suoi data center, fornendo controllo sull'ottimizzazione e un'implementazione più rapida dell'innovazione. Questo approccio autofinanziato migliora la flessibilità e il processo decisionale. La società attira anche i migliori talenti, con alcuni ricercatori che guadagnano oltre $ 1,3 milioni all'anno, principalmente dalle università cinesi.

La richiesta di costo di allenamento iniziale di $ 6 milioni di Deepseek è fuorviante; Riflette solo l'utilizzo della GPU pre-allenamento, escluso la ricerca, il raffinamento, l'elaborazione dei dati e l'infrastruttura. L'investimento totale della società nello sviluppo dell'IA supera i $ 500 milioni. Tuttavia, la sua struttura snella consente un'implementazione di innovazione efficiente rispetto alle aziende più grandi e burocratiche.

Il successo di Deepseek mostra il potenziale di una società di intelligenza artificiale indipendente ben finanziata per competere con i giganti del settore. Mentre le sue affermazioni sul "bilancio rivoluzionario" sono esagerate, il suo successo è innegabilmente legato a investimenti sostanziali, progressi tecnici e una squadra forte. Il contrasto è netto quando si confronta i costi di formazione: DeepSeek ha speso circa $ 5 milioni su R1, mentre CHATGPT-4 costano circa $ 100 milioni. Anche considerando il suo investimento sostanziale, DeepSeek rimane significativamente più economico dei suoi concorrenti.