Um homem amplamente visto como o padrinho da inteligência artificial (IA) deixou o emprego, alertando para os crescentes perigos dos desenvolvimentos no campo.
Geoffrey Hinton, 75, anunciou sua demissão do Google em um comunicado ao New York Times, dizendo que agora se arrependia de seu emprego.
Ele disse à BBC que alguns dos perigos dos chatbots de IA eram “bastante assustadores”.
“No momento, eles não são mais espertos do que nós, pelo que sei. Mas acho que logo serão.”
A pesquisa pioneira do Dr. Hinton sobre aprendizado profundo e redes neurais abriu o caminho para os sistemas de IA atuais, como o ChatGPT.
Mas o computador britânico-canadense e psicólogo cognitivo disse à BBC que o chatbot poderia em breve ultrapassar o nível de informação contida em um cérebro humano.
“No momento, o que estamos vendo é que coisas como GPT-4 superam uma pessoa na quantidade de conhecimento geral que ela tem e a supera muito. Em termos de raciocínio, não é tão bom, mas já faz o raciocínio. Simples .
“E, dada a taxa de progresso, esperamos que as coisas melhorem rapidamente. Portanto, temos que nos preocupar com isso.”
No artigo do New York Times, o Dr. Hinton se referiu a “maus atores” que tentariam usar IA para “coisas ruins”.
Questionado pela BBC para elaborar sobre isso, ele respondeu: “Este é apenas o pior cenário, uma espécie de cenário de pesadelo.
“Você pode imaginar, por exemplo, algum ator ruim como [Russian President Vladimir] Putin decidiu dar aos robôs a capacidade de criar seus próprios objetivos secundários.”
O cientista alertou que isso poderia eventualmente “criar objetivos secundários como ‘preciso obter mais energia'”.
Ele acrescentou: “Cheguei à conclusão de que o tipo de inteligência que estamos desenvolvendo é muito diferente da inteligência que temos.
“Nós somos sistemas biológicos e estes são sistemas digitais. E a grande diferença é que com os sistemas digitais, você tem muitas cópias do mesmo conjunto de pesos, do mesmo modelo do mundo.
“E todas essas cópias podem aprender separadamente, mas compartilham seu conhecimento instantaneamente. Portanto, é como se você tivesse 10.000 pessoas e toda vez que uma pessoa aprende algo, todos automaticamente sabem. E é assim que esses chatbots podem saber muito mais do que qualquer outra pessoa.” .
O Dr. Hinton também disse que havia vários outros motivos para deixar o emprego.
“Uma é que tenho 75 anos. Então é hora de me aposentar. A outra é que quero dizer algumas coisas boas sobre o Google. E elas terão mais credibilidade se eu não trabalhar para o Google.”
Ele enfatizou que não queria criticar o Google e que a gigante da tecnologia havia sido “muito responsável”.
Em um comunicado, o cientista-chefe do Google, Jeff Dean, disse: “Continuamos comprometidos com uma abordagem responsável da IA. Estamos aprendendo continuamente a entender os riscos emergentes enquanto inovamos com ousadia”.