Sam Altman deixa comitê de segurança da OpenAI em meio a críticas e mudanças estruturais

Sam Altman, CEO da OpenAI, anunciou sua saída do Comitê Interno de Segurança e Proteção da empresa.

A decisão do empresário surge em um momento de grande escrutínio por parte de legisladores dos Estados Unidos e ex-funcionários, que levantaram preocupações sobre a segurança e a conformidade legal da empresa por trás do ChatGPT.

O Comitê de Segurança e Proteção passará a funcionar como um comitê de nível diretivo separado.

Zico Kolter, professor da Carnegie Mellon University, foi designado como o novo presidente do comitê, que também contará com a presença de Adam D’Angelo, CEO da Quora, do General Paul Nakasone, aposentado do Exército dos EUA, e de Nicole Seligman, ex-executiva da Sony.

O grupo manterá a autoridade para adiar o lançamento de modelos de IA até que preocupações de segurança sejam resolvidas.

Críticos questionam prioridades da OpenAI com saídas de pessoal chave

Em um post no blog após a saída de Altman, a OpenAI destacou que o comitê havia aprovado anteriormente a segurança do modelo GPT-4. O grupo continuará recebendo informações periódicas da equipe de segurança e proteção da empresa para se manter atualizado sobre os futuros lançamentos de modelos de inteligência artificial.

A OpenAI também planeja aprimorar suas medidas de segurança, adotando revisões técnicas e objetivos bem definidos para os lançamentos dos modelos.

No entanto, críticos da empresa apontaram que mais da metade da equipe responsável por lidar com as consequências de longo prazo da IA deixou a companhia. Alguns afirmaram que Altman está mais focado no aspecto comercial da inteligência artificial do que na regulamentação da tecnologia.