Charles Hoskinson alerta para perigos da centralização da IA e censura potencial

Charles Hoskinson, cofundador da Cardano, declarou que está preocupado com o controle centralizado da Inteligência Artificial (IA) e seus potenciais riscos de censura. 

Em uma série de posts na rede social X, Hoskinson argumentou que a utilidade da IA está sendo corroída por um “treinamento de alinhamento” tendencioso, controlado por um pequeno grupo de empresas e indivíduos.

O especialista em criptomoedas ilustrou sua preocupação com capturas de tela de respostas dos chatbots ChatGPT da OpenAI e o Claude da Anthropic. Ao solicitar instruções para construir um reator nuclear caseiro, ambos os chatbots responderam com advertências e se recusaram a fornecer informações detalhadas, alegando riscos à segurança.

Hoskinson questionou a imparcialidade e a abertura da IA quando o controle da informação e do treinamento dos modelos está nas mãos de um grupo seleto, que não pode ser “removido do poder” por eleições ou outros mecanismos democráticos.

Este debate não é novo, e Elon Musk, fundador da xAI e outras empresas de tecnologia, também já manifestou suas preocupações com vieses políticos e a tendência de alguns modelos de IA de “mentir”.