A Apple está utilizando um sistema interno chamado ‘Minions’ para transformar Macs ociosos em uma nuvem virtual de GPU, conforme revelado em um artigo publicado recentemente por pesquisadores da empresa. O sistema permite que tarefas de inteligência artificial (IA), que antes demoravam mais de 10 horas para serem processadas, sejam distribuídas entre dispositivos da rede, reduzindo o tempo de espera para minutos.
Funcionamento do sistema ‘Minions’
O sistema ‘Minions’ opera com três componentes principais: o ‘Minion Server’, responsável por dividir tarefas em subtarefas e armazená-las em um banco de dados PostgreSQL; o ‘Minion Executor’, que executa as subtarefas em cada Mac; e o ‘Minion Watchdog’, que monitora o status dos dispositivos e recupera subtarefas pendentes em caso de falhas.
As tarefas processadas pelo sistema incluem geração de textos com modelos de linguagem grandes (LLMs) e embeddings usando modelos de transformadores da Hugging Face. Cada Mac executa uma tarefa completa em sua própria GPU, sem dividir modelos entre dispositivos. A infraestrutura não exige novos pedidos de GPU, eliminando custos de infraestrutura e permitindo uma escalabilidade orgânica.
Desafios e preocupações
Apesar dos benefícios, o sistema levanta preocupações sobre a segurança de dados, especialmente quando tarefas são processadas em dispositivos fora do grupo de uma equipe. A Apple busca mitigar isso com implantações limitadas a equipes e organizações, usando bancos de dados separados e pools de Macs distintos.
Além disso, o uso de Macs ociosos como capacidade de IA adicional dentro da empresa não considera custos de eletricidade ou desgaste de hardware. A participação no sistema é informal, com membros de equipes solicitando por meio de mensagens no Slack que outros usuários temporariamente atuem como executores.
Contexto e futuro do sistema
O sistema ‘Minions’ surge em um momento em que a capacidade computacional se torna um gargalo para tarefas de IA. A Apple reconhece isso em seu relatório trimestral de julho, destacando a dependência de recursos computacionais suficientes em um ecossistema com fornecimento limitado e custos crescentes.
Enquanto isso, a Apple também está utilizando GPUs da Nvidia no Google Cloud para o lado de servidor do Apple Intelligence, como anunciado durante a WWDC de junho. Isso ocorre após um aumento repentino na demanda por IA local em dispositivos Mac, com o ex-CEO Tim Cook destacando atrasos potenciais na produção de modelos como Mac mini e Mac Studio.
Os autores do artigo mencionam que, em trabalhos futuros, o sistema ‘Minions’ será expandido para treinamento distribuído de modelos. Eles também sugerem que, se Macs ociosos de organizações ou até da comunidade global puderem ser federados de forma segura, poderão formar uma piscina compartilhada de GPU.
Fonte: TomsHardware
