Във вторник, китайски производител на GPU (графичен процесор). Moore Threads обяви бързото разгръщане на услугите за дестилирани моделни изводи на DeepSeek, което позволява възможностите на широкомащабни модели да бъдат прехвърлени към по-малки, по-ефективни версии за високопроизводителни изводи на домашни GPU.
Защо има значение: Това внедряване укрепва китайската AI екосистема чрез интегриране на местен AI хардуер (GPU) с местни големи модели, което спомага за намаляване на зависимостта от чуждестранни технологии.
подробности: Въз основа на своя собствено разработен графичен процесор, Moore Threads бързо внедри услуги за изводи за дестилирания модел DeepSeek чрез подход с двоен двигател, който съчетава технологии с отворен код и патентовани технологии.
- Според съобщението, Moore Threads е внедрила дестилирания модел DeepSeek-R1-Distill-Qwen-7B, базиран на рамката с отворен код Ollama. Този модел демонстрира подобрена производителност при различни китайски задачи и потвърждава гъвкавостта на своя собствено разработен GPU и неговата съвместимост с CUDA (Compute Unified Device Architecture), каза компанията.
- Производителят на GPU твърди, че неговата самостоятелно разработена високопроизводителна инферентна машина подобрява изчислителната ефективност на модела и използването на ресурсите чрез персонализирано операторско ускорение и управление на паметта. Този двигател гарантира ефективната работа на дестилирания модел на DeepSeek, като същевременно полага здрава основа за бъдещи широкомащабни внедрявания на модели, добави компанията.
- Moore Threads заяви, че има за цел да даде възможност на повече разработчици в иновациите на AI, използвайки своя графичен процесор чрез внедряване на услуги за изводи за дестилирания модел DeepSeek.
Контекст: В рамките на само 20 дни след старта, ежедневните активни потребители (DAU) на DeepSeek надхвърлиха 20 милиона, местна медия Sina Tech съобщи днес. В глобалната класация на DAU за AI продукти ChatGPT води с 53,23 милиона потребители, следван от DeepSeek с 22,15 милиона, докато Doubao на ByteDance се нарежда на трето място с 16,95 милиона.
Свързани
Нашия източник е Българо-Китайска Търговско-промишлена палaта