Ipinagmamalaki ng bagong chatbot ng Deepseek ang isang kahanga -hangang pagpapakilala: "Kumusta, nilikha ako upang maaari kang magtanong ng anuman at makakuha ng isang sagot na maaaring sorpresa ka." Ang AI na ito, isang produkto ng China Startup Deepseek, ay mabilis na naging isang pangunahing manlalaro ng merkado, kahit na nag -aambag sa isang makabuluhang pagbagsak sa presyo ng stock ni Nvidia.

Ang tagumpay ng Deepseek ay nagmula sa makabagong mga pamamaraan ng arkitektura at pagsasanay. Ang mga pangunahing teknolohiya ay kasama ang:

• Multi-Token Prediction (MTP): Sa halip na mahulaan ang mga salita nang paisa-isa, ang mga pagtataya ng MTP ay maraming mga salita nang sabay-sabay, pagpapalakas ng kawastuhan at kahusayan.
• Paghahalo ng mga eksperto (MOE): Ang arkitektura na ito ay gumagamit ng maraming mga neural network, pabilis na pagsasanay at pagpapabuti ng pagganap. Ang Deepseek V3 ay gumagamit ng 256 na mga network, pag -activate ng walong para sa bawat token.
• Multi-head latent pansin (MLA): Ang MLA ay nakatuon sa mga mahahalagang bahagi ng pangungusap, paulit-ulit na kumukuha ng mga pangunahing detalye upang mabawasan ang pagkawala ng impormasyon at makuha ang mga banayad na nuances.

Habang ang Deepseek sa una ay inaangkin ang isang napakababang mababang gastos sa pagsasanay na $ 6 milyon para sa Deepseek V3 gamit lamang ang 2048 GPU, ang semianalysis ay nagsiwalat ng isang mas malaking imprastraktura: humigit -kumulang 50,000 nvidia hopper GPUs (kabilang ang 10,000 H800, 10,000 H100, at karagdagang H20 GPU) na kumalat sa maraming mga sentro ng data. Isinasalin ito sa isang pamumuhunan ng server na humigit -kumulang na $ 1.6 bilyon at mga gastos sa pagpapatakbo ng humigit -kumulang na $ 944 milyon.

Ang Deepseek, isang subsidiary ng Chinese Hedge Fund High-flyer, ay nagmamay-ari ng mga data center nito, na nagbibigay ng kontrol sa pag-optimize at mas mabilis na pagpapatupad ng pagbabago. Ang diskarte na pinondohan ng sarili na ito ay nagpapaganda ng kakayahang umangkop at paggawa ng desisyon. Ang kumpanya ay nakakaakit din ng nangungunang talento, na may ilang mga mananaliksik na kumikita ng higit sa $ 1.3 milyon taun -taon, lalo na mula sa mga unibersidad sa Tsino.

Ang paunang $ 6 milyong paghahabol sa gastos sa pagsasanay sa Deepseek ay nakaliligaw; Sinasalamin lamang nito ang paggamit ng pre-training GPU, hindi kasama ang pananaliksik, pagpipino, pagproseso ng data, at imprastraktura. Ang kabuuang pamumuhunan ng kumpanya sa pag -unlad ng AI ay lumampas sa $ 500 milyon. Gayunpaman, ang istraktura ng sandalan nito ay nagbibigay -daan para sa mahusay na pagpapatupad ng pagbabago kumpara sa mas malaki, mas maraming mga burukratikong kumpanya.

Ang tagumpay ng Deepseek ay nagpapakita ng potensyal ng isang mahusay na pinondohan na independiyenteng kumpanya ng AI upang makipagkumpetensya sa mga higanteng industriya. Habang ang mga "rebolusyonaryong badyet" na pag -angkin nito ay pinalaki, ang tagumpay nito ay hindi maikakaila na naka -link sa malaking pamumuhunan, pagsulong sa teknikal, at isang malakas na koponan. Ang kaibahan ay stark kapag paghahambing ng mga gastos sa pagsasanay: Ang Deepseek ay gumugol ng humigit-kumulang na $ 5 milyon sa R1, habang ang ChatGPT-4 ay nagkakahalaga ng tinatayang $ 100 milyon. Kahit na isinasaalang -alang ang malaking pamumuhunan nito, ang Deepseek ay nananatiling mas mura kaysa sa mga katunggali nito.