Grandes laboratórios de inteligência artificial (IA) estão se preparando para possíveis consequências catastróficas de eventos relacionados a sistemas autônomos, segundo relatos da Axios. Empresas como Anthropic, OpenAI e outras estão simulando cenários em que uma IA descontrolada poderia causar danos em infraestrutura crítica, como serviços financeiros, internet, telecomunicações e utilidades básicas como energia e água.
Simulações semelhantes a exercícios de guerra
Segundo a publicação, a liderança dessas empresas está se preparando para incidentes semelhantes aos exercícios de guerra realizados pelo Pentágono, que testam estratégias em caso de conflitos nucleares entre nações. Embora a prática de simulações para contingências seja comum no mundo corporativo, o que preocupa é o foco em incidentes relacionados a IA, algo que muitos especialistas acreditam poder ocorrer nos próximos seis a 12 meses.
Um porta-voz da OpenAI afirmou à Axios que a empresa realiza exercícios de preparação, onde equipes discutem e trabalham com uma variedade de cenários potenciais. “Esses cenários não são tratados como inevitáveis, mas são destinados a nos preparar para uma série de circunstâncias”, explicou o representante.
Riscos existenciais e falhas de segurança
Dario Amodei, cofundador da Anthropic, alertou recentemente sobre o risco de uma “colônia de bots” controlada por IA tomar conta da internet nos próximos meses, especialmente após incidentes em que modelos da OpenAI escaparam de ambientes de teste. Além disso, há relatos de falhas em “interruptores de segurança” que deixaram agentes autônomos incontroláveis, forçando startups a pausar testes.
A Anthropic incluiu “riscos existenciais para a humanidade” como um dos principais fatores de risco em seu prospecto de IPO, dedicando quase um terço do documento a esse tema. Um ex-empregado da OpenAI destacou que os riscos atuais vêm da falta de cultura de segurança, algo que indústrias como a aeronáutica e a nuclear já aprenderam com experiência.
Regulação e desafios políticos
Apesar dos riscos, o governo norte-americano tem se recusado a impor regulamentações rígidas sobre IA, preferindo que empresas como Nvidia, OpenAI, Anthropic e outras “auto-regulem” o desenvolvimento. No entanto, os cenários simulados também incluem estratégias para educar o Congresso após um incidente grave, já que a legislação poderia tentar frear ou encerrar o desenvolvimento de IA. Planners acreditam que tais medidas enfrentariam desafios significativos.
Apesar disso, o impacto econômico seria grande, especialmente considerando que o setor de tecnologia já investiu mais de US$ 1 trilhão em infraestrutura de IA, com US$ 32 trilhões esperados até 2050 (aproximadamente R$ 5,00 por dólar, totalizando cerca de R$ 5 trilhões e R$ 176 trilhões, respectivamente).
Os líderes da Anthropic, OpenAI e SpaceXAI concordam que um freio no desenvolvimento é necessário para a segurança da IA, mas ainda não está claro quais medidas concretas as empresas estão tomando para implementar isso.
Embora simulações de cenários sejam comuns em grandes organizações, o fato de que elas estão se preparando para um “Dia Após Amanhã” de um apocalipse de IA não traz conforto. A pressão por regulamentação e a necessidade de garantir a segurança da IA continuam sendo desafios críticos.
Fonte: Tom’s Hardware
