xAI é acusada de demitir engenheiro que levantou questões de segurança sobre IA

Um ex-engenheiro da xAI que agora dirige um centro de estudos dedicado à segurança da tecnologia da inteligência artificial (IA), abriu processo contra a empresa alegando ter sido demitido por levantar preocupações sobre os riscos que a IA representa para a humanidade.

Devin Kim alega na ação movida na terça-feira (9) no tribunal estadual da Califórnia que seus esforços para estabelecer limites ao desenvolvimento do chatbot Grok o tornaram alvo da liderança da empresa.

O processo foi aberto pouco antes da oferta pública inicial de ações da SpaceX, que tem a expectativa de ser a maior de todos os tempos, nesta sexta-feira (12). A SpaceX controla a xAI.

“O Sr. Kim reclamou repetidamente que a falha da xAI em priorizar a segurança da IA, particularmente no que diz respeito ao Grok, praticamente garantia que a empresa cometeria atos ilegais, desde fomentar a discriminação até proliferar armas de destruição em massa”, afirma o processo.

Representantes da xAI e da SpaceX não comentaram o assunto.

xAI e a segurança da Inteligência Artificial (IA)

O Centro para a Segurança da IA, organização sem fins lucrativos que se concentra nos riscos potencialmente representados pela tecnologia, anunciou na semana passada que havia nomeado Kim como seu presidente.

Elon Musk, o homem mais rico do mundo, fundou a xAI em 2023 afirmando que a empresa era uma alternativa mais segura à OpenAI, que ele ajudou a fundar há mais de uma década. No mês passado, um júri rejeitou a ação movida por Musk em que ele afirmava que a OpenAI havia se desviado de sua missão original de beneficiar a humanidade.

De acordo com o processo aberto na terça-feira, Kim foi uma das primeiras contratações da xAI em 2024 e foi promovido a um cargo de liderança importante meses após ingressar na empresa.

Kim disse que Musk esperava que a xAI implementasse testes e processos de segurança adequados. Mas o supervisor de Kim, o cofundador da xAI Jimmy Ba, desrespeitou essas diretrizes e rejeitou a insistência de Kim em implementar mecanismos de segurança, alega o processo.

Kim afirma que Ba o demitiu abruptamente em setembro passado, pouco antes dele fazer uma apresentação sobre segurança em IA para a liderança da empresa.

A ação acusa a xAI e a SpaceX de retaliação e demissão indevida e pede indenização por danos morais em valor não especificado.

A SpaceX e outros empreendimentos de Musk, incluindo a montadora de veículos elétricos Tesla, têm sido alvo de questões de segurança, desde riscos para os funcionários da empresa até preocupações com a tecnologia de direção autônoma.

Em 2023, a Reuters documentou pelo menos 600 acidentes de trabalho na SpaceX, incluindo membros esmagados, amputações, eletrocussões e uma morte. Alguns funcionários atribuíram os problemas a uma cultura de segurança negligente e à crença de Musk de que a SpaceX está em uma busca urgente para criar um refúgio no espaço diante de uma Terra em declínio.

A SpaceX não se pronunciou na época, mas em documentos judiciais e em outros locais a empresa defendeu seu histórico de segurança e afirmou que oferece treinamento extensivo em segurança.