Microsoft VP Scott Hanselman lançou uma nova ferramenta open-source chamada gputaskman, capaz de monitorar o uso da VRAM, processos GPU e até cargas de trabalho de IA e LLM.
Scott Hanselman, vice-presidente da Microsoft, revelou uma nova ferramenta open-source chamada gputaskman, desenvolvida para monitorar o uso da GPU, VRAM e até cargas de trabalho de inteligência artificial (IA) e modelos linguísticos grandes (LLM). Disponível para Windows, Linux e macOS, o projeto é compartilhado no GitHub sob licença MIT, permitindo que usuários e desenvolvedores explorem e contribuam para o software.
Funcionalidades da ferramenta
A ferramenta oferece uma visão detalhada de como os processos estão utilizando a GPU, incluindo o consumo de VRAM, runtimes ativos e estatísticas adicionais. Um dos destaques é a capacidade de quebrar down cargas de trabalho específicas de IA e LLM, mostrando informações como o uso de pesos, cache KV (Key-Value) e número de parâmetros.
Em testes iniciais, Hanselman destacou que a ferramenta revela, por exemplo, que o gerenciador de janelas do sistema operacional pode ser o maior consumidor de VRAM em alguns casos. Além disso, aplicações relacionadas a IA, como llama-server.exe, também são monitoradas com detalhes específicos.
Experiência prática e disponibilidade
Disponível na versão 0.3.0, a ferramenta pode ser baixada para Windows, Linux e macOS. Em testes, o autor demonstrou o uso do Unigine Valley para estimular a GPU e observar o comportamento do sistema. Os gráficos em tempo real, que mostram carga da GPU, uso de VRAM e temperatura, são apresentados de forma clara e intuitiva.
Na página do GitHub, o código-fonte e mais informações sobre o funcionamento interno da ferramenta estão disponíveis. Hanselman também deixou pistas de que funcionalidades de monitoramento de GPU poderão ser integradas ao Windows no futuro.
Fonte: TomsHardware
