DeepSeek AI Development의 비용은 16 억 달러로 경제성 신화를 폭로했습니다

DeepSeek의 새로운 챗봇은 매력적인 약속으로 스스로를 소개했습니다. "안녕하세요, 나는 당신이 무엇이든 물어보고 당신을 놀라게 할 수있는 답을 얻을 수 있도록 만들어졌습니다." 이 진술은 DeepSeek가 경쟁력있는 AI 시장에서 달성하고자하는 것을 목표로하는 본질을 요약합니다. 최근 Deepseek의 영향으로 인해 Nvidia의 가장 큰 주가 중 하나가 하락한 것을 보았습니다.

이미지 : ensigame.com

DeepSeek의 AI 모델은 혁신적인 아키텍처 및 교육 방법으로 인해 두드러집니다. 차별화되는 주요 기술은 다음과 같습니다.

MTP (Multi-Token Prediction) : 한 번에 한 단어를 예측하는 전통적인 모델과 달리 DeepSeek의 MTP는 문장의 다른 부분을 분석하여 여러 단어를 동시에 예측합니다. 이 방법은 정확도를 높일뿐만 아니라 모델의 효율성을 향상시킵니다.

전문가 혼합 (MOE) : DeepSeek V3는 256 개의 신경망을 사용하여 각 토큰 처리 작업에 대해 8 개의 신경 네트워크를 사용하여 MOE 아키텍처를 사용합니다. 이 접근법은 AI 교육을 가속화하고 성능을 크게 향상시킵니다.

멀티 헤드 잠재주의 (MLA) : MLA는 텍스트 조각에서 주요 세부 정보를 반복적으로 추출하여 문장의 가장 중요한 부분에 중점을 둡니다. 이로 인해 중요한 정보가 누락 될 가능성이 줄어들어 AI가 중요한 뉘앙스를 효과적으로 캡처 할 수 있습니다.

2048 개의 그래픽 프로세서를 사용하여 DeepSeek V3 교육을 위해 최소 6 백만 달러의 경쟁력있는 AI 모델을 개발했다고 주장했지만 추가 조사 결과보다 복잡한 그림이 나타납니다.

이미지 : ensigame.com

Semianalysis의 분석가들은 DeepSeek가 약 50,000 NVIDIA HOPPER GPUS를 포함하는 광범위한 계산 인프라를 운영한다는 것을 발견했습니다. 여기에는 10,000 H800 단위, 또 다른 10,000 H100 및 추가 H20 GPU가 AI 교육, 연구 및 재무 모델링을 위해 여러 데이터 센터에 퍼져 있습니다. 서버에 대한 총 투자는 약 16 억 달러이며 운영 비용은 9 억 9,400 만 달러로 추정됩니다.

DeepSeek은 중국 헤지 펀드 하이 플라이어의 자회사로, 2023 년에 AI 기술에 중점을두기 위해 스타트 업을 시작했습니다. 클라우드 제공 업체에 의존하는 많은 신생 기업과 달리 DeepSeek은 데이터 센터를 소유하고있어 AI 모델 최적화를 완전히 제어하고 빠른 혁신을 가능하게합니다. 회사는 자체 자금을 지원하여 유연성과 의사 결정 속도를 향상시킵니다.

이미지 : ensigame.com

Deepseek은 또한 최고의 인재를 유치하며 일부 연구자들은 주로 중국 대학에서 주로 130 만 달러 이상을 벌고 있습니다. 이 회사의 최신 모델을 최신 모델을 6 백만 달러에 훈련 한 주장은 더 넓은 맥락을 고려할 때 비현실적으로 보입니다. 이 수치는 사전 훈련 중 GPU 사용을 설명하며 연구 비용, 모델 개선, 데이터 처리 및 전체 인프라 비용을 제외합니다.

DeepSeek은 처음부터 AI 개발에 5 억 달러 이상을 투자했습니다. 소형 구조는 더 큰 관료적 회사와 달리 AI 혁신의 적극적이고 효과적인 구현을 허용합니다.

이미지 : ensigame.com

Deepseek의 여정은 잘 자금을 지원하는 독립 AI 회사가 실제로 업계 거인과 경쟁 할 수 있음을 보여줍니다. 그러나 전문가들은 그 성공이 AI 개발을위한 "혁신적인 예산"보다는 상당한 투자, 기술 혁신 및 강력한 팀 때문이라고 지적합니다. 그럼에도 불구하고 DeepSeek의 비용은 경쟁 업체의 비용보다 훨씬 저렴합니다. 예를 들어, DeepSeek은 R1에 5 백만 달러를 소비했지만 ChatGpt4o의 교육 비용은 1 억 달러입니다.

그러나 경쟁사보다 여전히 저렴합니다.