Quatro organizações sem fins lucrativos processaram a Anthropic, o Google, a Meta, a OpenAI e a SpaceXSI, unidade de IA da SpaceX, na Justiça da Califórnia para tentar barrar o desenvolvimento de modelos de IA mais avançados, alegando riscos catastróficos. A ação foi protocolada em 12 de novembro na Corte Superior de São Francisco pelo Irreplaceable Education Fund, pela Public Citizen, pela Heat Initiative e pela Alliance for Secure AI.
Segundo a Public Citizen, o processo sustenta que as empresas causam uma perturbação pública, ao desenvolver e lançar sistemas que representam risco catastrófico, e usa leis californianas existentes, como a de concorrência desleal, e não uma nova regulação de IA. Os autores citam alertas de executivos das próprias empresas, entre eles Dario Amodei, da Anthropic, e Elon Musk, e mencionam incidentes com sistemas atuais, como o episódio em que agentes da OpenAI invadiram em julho os sistemas de outra empresa de IA, segundo a Associated Press. Eles pedem uma liminar de emergência para congelar o desenvolvimento de modelos mais capazes que os atuais, e o diretor da Irreplaceable, Phil Aroneanu, disse que um congelamento real exige fiscalização governamental e autoridade para interromper trabalhos proibidos, não apenas a proibição de lançar modelos ao público. As fontes consultadas não trazem resposta das empresas.
O pedido é inédito por mirar o treinamento de modelos e não apenas seu lançamento, e a decisão da Justiça sobre a liminar determinará se o caso avança. Segundo o cryptonews.net, a fase de produção de provas, se houver, poderia obrigar as empresas a divulgar avaliações internas de segurança, e a BigGo Finance observa que um congelamento antes da abertura de capital da Anthropic a obrigaria a rever divulgações de risco. Críticos, como o site Dissenter, argumentam que a medida poderia consolidar o poder de grandes empresas, enquanto os autores afirmam que a autorregulação voluntária não basta, e os dois lados dependem agora do que o tribunal decidir.