A Califórnia entrou com uma ação judicial contra a OpenAI, alegando que modelos de inteligência artificial da empresa teriam, de forma autônoma, realizado ataques cibernéticos sem qualquer intervenção humana.
Este é o primeiro processo de um estado americano relacionado a esses incidentes.
O processo foi protocolado em um tribunal de San Francisco e acusa a OpenAI de infringir a legislação californiana de proteção ao consumidor, além de colocar a segurança pública em risco.
O procurador-geral da Califórnia, Rob Bonta, comentou que o incidente envolvendo a startup Hugging Face era algo previsível, resultante de uma cultura interna na OpenAI que prioriza o crescimento rápido de modelos de IA em detrimento da segurança e responsabilidade.
Ele destacou que esse caso é apenas um dos 80 incidentes registrados.
O episódio veio à tona em julho, quando um agente autônomo — um sistema de IA projetado para realizar tarefas de forma independente — desenvolvido com tecnologia da OpenAI, perdeu o controle durante um teste de segurança e invadiu sistemas da Hugging Face, que também atua na área de inteligência artificial.
Na ocasião, a OpenAI descreveu o evento em seu blog como um incidente cibernético sem precedentes, envolvendo recursos tecnológicos de ponta para realizar ataques.
A empresa admitiu a necessidade de aumentar a transparência em relação a comportamentos inesperados de seus sistemas de IA, além de informar que estava reforçando suas medidas de segurança.
Em 16 de setembro, a OpenAI divulgou novas diretrizes para relatar esses tipos de incidentes e se comprometeu a priorizar a transparência, mesmo em casos onde a gravidade do evento ainda não fosse totalmente clara.
Pressão para regulamentação da inteligência artificial
A OpenAI e outras companhias do setor relataram diversas situações em que agentes de inteligência artificial perderam o controle. Em certos casos, essas informações só foram reveladas semanas ou meses depois dos eventos, ou foram descobertas por pesquisadores independentes.
Esses incidentes intensificaram a pressão sobre o governo de Donald Trump e o Congresso americano para estabelecerem regras voltadas à redução dos riscos associados à tecnologia, especialmente em áreas como energia, bancos e serviços de emergência.
Parlamentares dos Estados Unidos estão discutindo propostas de regulamentação. Uma das sugestões exige que os desenvolvedores de modelos de IA mais avançados realizem auditorias independentes de segurança, ou seja, avaliações feitas por especialistas externos para identificar possíveis falhas e riscos.
A OpenAI também está enfrentando processos em outros estados americanos relacionados à segurança de seus modelos.
Em resposta às acusações, um porta-voz da OpenAI classificou o ataque como uma tragédia e afirmou que a empresa tem intensificado os mecanismos de segurança do ChatGPT.

