DeepSeek의 새로운 챗봇은 인상적인 소개를 자랑합니다. "안녕하세요, 나는 당신이 무엇이든 물어보고 당신을 놀라게 할 수있는 답을 얻을 수 있도록 만들어졌습니다." 중국 스타트 업 Deepseek의 제품인이 AI는 빠르게 주요 선수가되어 Nvidia의 주가가 크게 하락하기까지했습니다.
Deepseek의 성공은 혁신적인 건축 및 훈련 방법에서 비롯됩니다. 주요 기술에는 다음이 포함됩니다.
- 다중 점화 예측 (MTP) : 여러 단어를 동시에 예측하여 정확도와 효율성을 높입니다.
- 전문가 혼합 (MOE) : 256 개의 신경망 (토큰 당 8 개 활성화)을 활용하여 교육 가속화 및 성능 향상.
- 멀티 헤드 잠재주의 (MLA) : 텍스트에서 주요 세부 정보를 반복적으로 추출하여 중요한 정보를 놓치지 않도록합니다.
DeepSeek은 처음에는 2048 GPU를 사용하여 DeepSeek V3에 대해 6 백만 달러의 매우 낮은 교육 비용을 주장했지만 Semianalysis는 훨씬 더 광범위한 인프라를 나타 냈습니다. 약 50,000 NVIDIA HOPPER GPU (10,000 H800, 10,000 H100 및 추가 H20 GPU)가 여러 데이터 센터에 퍼져있었습니다. 이는 약 16 억 달러의 총 서버 투자와 9 억 9,400 만 달러로 추정되는 운영 비용으로 이어집니다.
중국 헤지 펀드 High-Flyer의 자회사 인 DeepSeek는 데이터 센터를 소유하여 최적화와 더 빠른 혁신 구현에 대한 제어를 제공합니다. 자체 자금 지원 자연은 유연성과 의사 결정 속도를 향상시킵니다. 이 회사는 또한 최고의 인재를 유치하며 일부 연구자들은 매년 130 만 달러 이상을 벌어 주로 중국 대학에서 주로 채용합니다.
DeepSeek의 초기 6 백만 달러는 연구, 개선, 데이터 처리 및 인프라를 제외한 사전 훈련 GPU 비용을 나타냅니다. 회사의 AI 개발에 대한 총 투자는 5 억 달러를 초과합니다. 그러나 린 구조는 더 큰 관료적 회사에 비해 효율적인 혁신 구현을 허용합니다.
DeepSeek의 성공은 잘 자금을 지원하는 독립 AI 회사가 업계 거인과 경쟁 할 수있는 잠재력을 강조합니다. 그러나 그 성과는 상당한 투자, 기술 혁신 및 강력한 팀에 뿌리를두고 있습니다. 따라서 모델 개발에 대한 "혁신적인 예산"주장은 지나치게 단순화 된 것입니다. 그럼에도 불구하고, 그 비용은 경쟁 업체보다 훨씬 저렴합니다. 예를 들어, DeepSeek의 R1 모델은 ChatGPT4의 1 억 달러에 비해 훈련하는 데 5 백만 달러가 들었습니다.
최신 다운로드
Downlaod
주요 뉴스
