Bando de doidos: "Padrinho da IA" deixa o Google e fala em arrependimento

Publicação compartilhada do BLOG DO ORLANDO TAMBOSI, de 1 de maio de 2023

Bando de doidos: "Padrinho da IA" deixa o Google e fala em arrependimento.

Geoffrey Hinton pediu demissão da gigante de tecnologia para falar abertamente sobre o perigo das IAs. Eita, mundo doido, falta uma dose de filosofia pra essa gente. Cade Metz para o NYT, com tradução para o Estadão:

Geoffrey Hinton, um pioneiro da inteligência artificial (IA) e especialista da área no Google deixou a empresa após mais de uma década de trabalho em prol da liberdade para falar criticamente sobre o assunto. Considerado o “padrinho” da IA, Hinton afirmou que se arrepende de ter contribuído para o avanço maior da tecnologia.

O cientista se juntou, nesta segunda-feira, 1º., oficialmente a um coro crescente de críticos que afirmam que essas empresas estão correndo em direção ao perigo com sua campanha agressiva para criar produtos baseados em IA generativa, a tecnologia que alimenta chatbots populares como o ChatGPT.

Em seu tempo no Google, Hinton tornou-se uma das vozes mais respeitadas no campo, mas renunciou ao posto para poder falar livremente sobre os riscos da IA. Parte dele, segundo ele, agora lamenta seu trabalho de vida.

“Eu me consolo com a desculpa normal: se eu não tivesse feito isso, outra pessoa teria feito”, disse Hinton durante uma longa entrevista realizada pelo jornal americano The New York Times.

A jornada de Hinton de pioneiro da IA a anunciador do apocalipse marca um momento notável para a indústria de tecnologia em talvez seu ponto de inflexão mais importante em décadas. Os líderes do setor acreditam que os novos sistemas de IA poderiam ser tão importantes quanto a introdução do navegador da web no início dos anos 1990 e poderiam levar a avanços em áreas que vão desde pesquisa de medicamentos até educação.

Mas muitos insiders da indústria estão preocupados que estão lançando algo perigoso no mundo. A IA generativa já pode ser uma ferramenta para a desinformação. Em breve, pode ser um risco para empregos. Em algum momento, os maiores preocupados da tecnologia dizem, pode ser um risco para a humanidade.

“É difícil ver como você pode impedir que os atores ruins o usem para coisas ruins”, disse Hinton.

Depois que a startup de San Francisco OpenAI lançou uma nova versão do ChatGPT em março, mais de mil líderes e pesquisadores de tecnologia assinaram uma carta aberta pedindo uma moratória de seis meses no desenvolvimento de novos sistemas porque as tecnologias de IA representam “riscos profundos para a sociedade e a humanidade”.

Vários dias depois, 19 líderes atuais e antigos da Associação para o Avanço da Inteligência Artificial, uma sociedade acadêmica de 40 anos, divulgaram sua própria carta alertando sobre os riscos da IA. Esse grupo incluía Eric Horvitz, cientista-chefe da Microsoft, que implantou a tecnologia da OpenAI em uma ampla gama de produtos, incluindo seu mecanismo de busca Bing.

Hinton não assinou nenhuma dessas cartas e disse que não queria criticar publicamente o Google ou outras empresas até sair do emprego. Ele notificou a empresa no mês passado de que estava renunciando, e na quinta-feira, 28, falou por telefone com Sundar Pichai, CEO da empresa controladora do Google, a Alphabet. Ele se recusou a discutir publicamente os detalhes de sua conversa com Pichai.

O cientista-chefe do Google, Jeff Dean, disse em um comunicado: “Permanecemos comprometidos com uma abordagem responsável da IA. Estamos continuamente aprendendo a entender os riscos emergentes ao mesmo tempo em que inovamos audaciosamente”.

No Google, Hinton tornou-se uma das vozes mais respeitadas no campo da IA 

Carreira

Hinton, um britânico expatriado de 75 anos, é um acadêmico vitalício cuja carreira foi impulsionada por suas convicções pessoais sobre o desenvolvimento e uso da IA. Em 1972, como estudante de pós-graduação na Universidade de Edimburgo, Hinton adotou uma ideia chamada rede neural. Uma rede neural é um sistema matemático que aprende habilidades analisando dados. Na época, poucos pesquisadores acreditavam na ideia. Mas isso se tornou o trabalho de sua vida.

Na década de 1980, Hinton foi professor de ciência da computação na Universidade Carnegie Mellon, mas deixou a universidade para o Canadá porque disse que relutava em aceitar financiamento do Pentágono. Na época, a maioria da pesquisa de IA nos Estados Unidos era financiada pelo Departamento de Defesa. Hinton é profundamente contra o uso de IA no campo de batalha - o que ele chama de “soldados robôs”.

Em 2012, Hinton e dois de seus alunos em Toronto, Ilya Sutskever e Alex Krishevsky, construíram uma rede neural que poderia analisar milhares de fotos e ensinar a si mesma a identificar objetos comuns, como flores, cães e carros.

O Google gastou US$ 44 milhões para adquirir uma empresa iniciada por Hinton e seus dois alunos. E seu sistema levou à criação de tecnologias cada vez mais poderosas, incluindo novos chatbots como ChatGPT e Google Bard. Sutskever tornou-se tornou cientista-chefe da OpenAI. Em 2018, Hinton e outros dois colaboradores de longa data receberam o prêmio Turing, frequentemente chamado de “Nobel da computação”, por seu trabalho em redes neurais.

Ao mesmo tempo, o Google, a OpenAI e outras empresas começaram a construir redes neurais que aprendiam a partir de enormes quantidades de texto digital. Hinton achava que era uma maneira poderosa para as máquinas entenderem e gerarem linguagem, mas era inferior à maneira como os humanos lidavam com a linguagem.

No ano passado, enquanto o Google e a OpenAI construíam sistemas usando quantidades muito maiores de dados, a visão de Hinton mudou. Ele ainda acreditava que os sistemas eram inferiores ao cérebro humano de certas maneiras, mas pensava que estavam superando a inteligência humana em outras. “Talvez o que está acontecendo nesses sistemas”, disse ele, “seja realmente muito melhor do que o que está acontecendo no cérebro”.

À medida que as empresas melhoram seus sistemas de inteligência artificial, ele acredita que eles se tornam cada vez mais perigosos. “Olhe como era há cinco anos e como é agora”, disse ele sobre a tecnologia de IA. “Pegue a diferença e propague para frente. Isso é assustador.”

Hinton disse que, quando as pessoas costumavam perguntar como ele poderia trabalhar em uma tecnologia potencialmente perigosa, ele parafraseava Robert Oppenheimer, que liderou o esforço dos EUA para construir a bomba atômica: “Quando você vê algo que é tecnicamente atraente, você segue em frente e faz”.

Ele não diz mais isso.

Texto e imagem reproduzidos do blog: otambosi.blogspot.com