DeepSeek, известный китайский стартап, сделал значительные волны в индустрии искусственного интеллекта со своим последним чатботом, который может похвастаться уникальным введением: «Привет, я был создан, чтобы вы могли спросить что угодно и получить ответ, который может даже удивить вас». Это смелое заявление отражает инновационные технологии, лежащие в основе моделей AI DeepSeek, которые способствовали одному из крупнейших падений цен на акции Nvidia из -за их конкурентного преимущества на рынке.

Выдающиеся особенности ИИ DeepSeek включают:

• Multi-Token Prediction (MTP) : в отличие от традиционных моделей, которые прогнозируют по одному слову за раз, модель DeepSeek прогнозирует несколько слов одновременно, повышая как точность, так и эффективность, анализируя различные части предложения.
• Смесь экспертов (MOE) : эта архитектура использует 256 нейронных сетей, причем восемь активированы для каждой задачи обработки токенов, ускоряя обучение ИИ и улучшая производительность.
• Многоугольное скрытое внимание (MLA) : этот механизм фокусируется на важных частях предложения, неоднократно извлекая ключевые детали, чтобы минимизировать вероятность отсутствия важной информации, тем самым эффективно снимая нюансированные данные.

DeepSeek утверждает, что обучил свою мощную нейронную сеть Deepseek V3, всего за 6 миллионов долларов, используя всего 2048 графических процессоров. Тем не менее, более глубокое исследование по полуализации выявило более обширную инфраструктуру, в том числе приблизительно 50 000 графических процессоров Nvidia Hopper в нескольких центрах обработки данных. Это включает в себя 10000 единиц H800, 10 000 H100 и дополнительные графические процессоры H20, используемые не только для обучения искусственным интеллекту, но и для исследования и финансового моделирования. Общая инвестиция компании в серверы составляет около 1,6 млрд. Долл. США, а эксплуатационные расходы оцениваются в 944 млн. Долл. США.

Как дочерняя компания китайского хедж-фонда, DeepSeek работает независимо, владея своими центрами обработки данных. Эта автономия обеспечивает более быстрое инновации и реализацию, поскольку компания самофинансируется и не увязывает внешние бюрократические процессы. DeepSeek также привлекает лучшие таланты от ведущих китайских университетов, а некоторые исследователи зарабатывают более 1,3 миллиона долларов в год.

Несмотря на претензию на стоимость обучения в размере 6 миллионов долларов, эта цифра охватывает использование графических процессоров только во время предварительного обучения и не включает более широкие расходы, такие как исследования, уточнение модели, обработка данных или затраты на инфраструктуру. С момента своего создания DeepSeek инвестировала более 500 миллионов долларов в разработку ИИ, используя свою компактную структуру для стимулирования эффективных инноваций ИИ.

Путешествие Deepseek подчеркивает, как хорошо финансируемая независимая компания по искусству может бросить вызов отраслевым гигантам. Тем не менее, успех компании связан с существенными инвестициями, техническими прорывами и сильной командой, а не «революционным бюджетом». Несмотря на то, что затраты конкурентов заметно выше - Deepseek потратил 5 миллионов долларов на R1 по сравнению с Catgpt4o на 100 миллионов долларов - Deepseek остается грозным игроком в ландшафте ИИ.

Изображение: Ensigame.com

Изображение: Ensigame.com

Изображение: Ensigame.com

Изображение: Ensigame.com