Deepseekの手頃な価格は神話です。革新的なAIは実際には16億ドルの費用がかかります。

Deepseekの新しいチャットボットには、印象的な紹介があります。中国のスタートアップDeepseekの製品であるこのAIは、すぐに主要なプレーヤーになり、Nvidiaの株価の大幅な低下に貢献しています。

Deepseekの成功は、革新的なアーキテクチャとトレーニング方法に由来しています。重要なテクノロジーには次のものがあります。

• マルチトークン予測（MTP）：複数の単語を同時に予測し、精度と効率を高めます。
• 専門家の混合（MOE）： 256のニューラルネットワーク（トークンごとに8つの活性化）、トレーニングの加速、パフォーマンスの向上。
• マルチヘッドの潜在的注意（MLA）：テキストから重要な詳細を繰り返し抽出し、重要な情報が見逃されないようにします。

DeepSeekは当初、2048 GPUを使用してDeepSeek V3で600万ドルのトレーニングコストが非常に低いと主張していましたが、Semianalysisは、はるかに広範なインフラストラクチャを明らかにしました。これは、サーバー総投資の約16億ドルと9億4,400万ドルと推定される運用費用につながります。

中国のヘッジファンドハイフライヤーの子会社であるDeepseekは、データセンターを所有しており、最適化とより高速なイノベーションの実装を管理しています。その自己資金による性質は、柔軟性と意思決定速度を向上させます。同社はまた、トップの才能を引き付け、一部の研究者は年間130万ドル以上を稼ぎ、主に中国の大学から募集しています。

Deepseekの最初の600万ドルの数値は、研究、洗練、データ処理、インフラストラクチャを除く、トレーニング前のGPUコストのみを表しています。同社のAI開発への総投資は5億ドルを超えています。ただし、その無駄のない構造により、より大きな官僚的企業と比較して、効率的なイノベーションの実装が可能になります。

Deepseekの成功は、資金提供された独立したAI企業が業界の巨人と競争する可能性を強調しています。ただし、その成果は、実質的な投資、技術的ブレークスルー、および強力なチームに根ざしています。したがって、モデル開発の「革新的な予算」の請求は、単純化しすぎです。それにもかかわらず、そのコストは競合他社よりも大幅に低いままです。たとえば、DeepseekのR1モデルは、ChatGPT4の1億ドルと比較して、500万ドルのトレーニングにかかります。