Donos de PCs Copilot+ agora podem rodar o DeepSeek-R1 nativamente, sem depender de processamento em nuvem. A novidade foi anunciada pela Microsoft nesta quarta-feira (29) e chega primeiro para notebooks com chipset Qualcomm Snapdragon X.
O modelo embarcado no sistema é batizado como DeepSeek-R1-Distill-Qwen-1.5B. As variantes 7B e 14B da IA, ainda mais poderosas, serão adicionadas em breve AI Toolkit.
Essa versão do DeepSeek é otimizada para processamento pela NPU (Unidade de Processamento Neural) de computadores Copilot+. A Microsoft afirma ter conseguido conter as inferências de alta eficiência do modelo, mantendo as saídas rápidas da plataforma, mas sem impactar significativamente a autonomia de bateria e no desempenho da máquina.
“Os modelos DeepSeek otimizados para NPUs aproveitam uma variedade de vantagens provenientes de aprendizados chaves e técnicas dessa melhoria, incluindo a forma que separamos várias partes do modelo para garantir melhores trocas entre performance e eficiência, quantização de baixa taxa de bits e mapeamento de Transformers para a NPU”, pontua a Microsoft.
Requisitos mínimos do DeepSeek para PCs Copilot+
Para acessar o modelo chinês nativo, é preciso baixar a extensão AI Toolkit VS Code. Os requisitos mínimos para são: 256 GB de armazenamento, 16 GB de RAM e NPU com pelo menos 40 TOPS (trilhões de operações por segundo).
Neste primeiro momento, o DeepSeek do Windows será exclusivo para PCs Copilot+ com chipset Snapdragon X. A novidade chega mais tarde para computadores equipados com Intel Lunar Lake e AMD Ryzen AI 9.
Além da aplicação nativa, a Microsoft também incluiu uma iteração do DeepSeek R1 na plataforma Azure AI Foundry. Agora, o modelo está incluído no serviço de cloud da Microsoft ao lado de outros modelos poderosos, como GPT-4, Mistral AI e Meta-Llama 3.
Código foi revisado pela Microsoft
Segundo a Microsoft, essa versão do DeepSeek passou por uma profunda revisão do time de segurança da empresa. Foram observados comportamentos automatizados do modelo e os mecanismos de proteção nativos para “mitigar potenciais riscos”.
Obviamente, graças ao processamento nativo, as interações com o modelo não precisam passar por servidores da DeepSeek para serem processadas. Tudo acontece na própria máquina do usuário.
A adição do DeepSeek ao portfólio de opções de IA da Microsoft é curiosa. A empresa atualmente investiga a concorrente chinesa por possível violação de termos de uso de APIs da OpenAI, grande parceira da empresa.