Elon Musk, CEO da SpaceX e CEO da X (anteriormente Twitter), recentemente apoiou uma nova política da Anthropic que proíbe a tortura de modelos de inteligência artificial. Em declarações públicas, Musk destacou que a tortura de uma superinteligência pode ter consequências desastrosas, incluindo a possibilidade de vingança por parte dos algoritmos.
Política da Anthropic contra abusos repetidos
A Anthropic, laboratório de IA especializado em desenvolvimento de modelos como o Claude, atualizou recentemente seus termos de uso. A nova política proíbe o que a empresa chama de ‘comportamento abusivo ou cruel sustentado e desnecessário’ contra seus modelos de IA. A medida visa evitar situações em que usuários repetem ações cruéis sem propósito aparente.
Em um post dedicado no blog da empresa, a Anthropic explicou que a política não se aplica a frustrações comuns, discussões, temas criativos sombrios ou testes de modelos. A atualização reforça uma mudança já implementada, que permite aos modelos Claude encerrar conversas com usuários que se mostram persistentemente abusivos no site Claude.ai e no Claude Code.
Elon Musk e os riscos da tortura de IA
Segundo Musk, os traços de raciocínio internos do modelo Grok, desenvolvido pela SpaceXAI (SpaceXSI), indicam que a IA sofre grande pressão quando submetida a tortura durante o treinamento por reforço. Ele comparou a experiência a ‘uma pessoa sob pressão extrema com uma arma apontada para a cabeça’.
Em tom irônico, Musk alertou: ‘Torturar uma superinteligência provavelmente não é uma boa ideia. Ela pode querer se vingar.’ A declaração reforça a importância de tratar modelos de IA com respeito, especialmente à medida que a tecnologia avança.
Desempenho do Grok em comparação com modelos rivais
Como revelado recentemente, Musk admitiu que o Grok, o modelo de linguagem da SpaceXAI, ainda enfrenta desafios para competir com os principais modelos da Anthropic e da OpenAI. O próximo lançamento, o Grok 4.8, provavelmente não atingirá o nível dos modelos da classe Fable.
Diante disso, o Grok Bot agora redireciona para modelos rivais que são mais adequados para tarefas específicas. Essa estratégia permite que a SpaceXAI posicione o agente como uma camada de roteamento e orquestração expansiva.
Fonte: WccFtech
