Jacob Coxon acusa Anthropic e OpenAI de estarem a correr para criar sistemas de inteligência artificial capazes de se aperfeiçoarem sozinhos. Colega da Anthropic estima risco de extinção superior a 10%.
Um investigador da Anthropic
demitiu-se e deixou um alerta sobre os riscos do desenvolvimento acelerado da
inteligência artificial, nomeadamente que os próprios especialistas que estão a
criar estes sistemas acreditam que a tecnologia poderá chegar a provocar a
extinção da humanidade antes do final da década.
Jacob Coxon, que trabalhou
durante três anos em investigação de pré-treino na Anthropic e na OpenAI,
anunciou a saída da empresa nas redes sociais e acusou as duas gigantes de
estarem numa corrida para desenvolver sistemas de superinteligência capazes de
melhorar as suas próprias capacidades.
"Nem
uma nem outra empresa está a agir de forma responsável. Estão a correr
diretamente para uma superinteligência que se melhora a si própria e a jogar
com as nossas vidas", escreveu Coxon.
O
investigador acrescentou que "as pessoas que estão a construir IA
acreditam sinceramente que ela poderá matar-nos a todos até ao final da
década". Segundo Coxon, o risco é conhecido internamente, mas a competição
entre as empresas estará a levar os responsáveis a continuar o desenvolvimento
para evitar que os concorrentes cheguem primeiro.
As
declarações de Coxon foram reforçadas por Evan Hubinger, investigador da
Anthropic responsável por uma área dedicada ao alinhamento da inteligência
artificial. (Agência FM / Sapo.PT)
Nenhum comentário:
Postar um comentário