Por que é preciso proibir que manipulem nosso cérebro...

Publicado originalmente no site do jornal EL PAÍS BRASIL, em 13 de fevereiro de 2020

Por que é preciso proibir que manipulem nosso cérebro antes que isso seja possível

O cientista Rafael Yuste, que comanda projeto de pesquisa do cérebro, pede que os governos criem novas leis contra os riscos da neurotecnologia

Por Javier Salas

“Temos uma responsabilidade histórica. Estamos num momento em que podemos decidir que tipo de humanidade queremos.” São palavras de peso, tanto quanto o desafio ao qual se propõe Rafael Yuste. Esse neurocientista espanhol, catedrático da Universidade Columbia (EUA), escuta sussurrarem em sua consciência os fantasmas de outros grandes cientistas da história que abriram a caixa de Pandora. Ele, que impulsionou a iniciativa BRAIN, a maior aposta já feita na descoberta dos segredos do cérebro, não foge à sua responsabilidade: “Carrego isso como um dever”, afirma. Yuste sabe bem o que seu campo, a neurotecnologia, já é capaz de ver e fazer em nossas mentes. E teme que isso escape de nossas mãos se não for regulado. Por isso reivindica aos governos de todo o mundo que criem e protejam direitos inéditos: os neurodireitos. O Chile deverá ser o primeiro país a incluí-los em sua Constituição, e já há negociações para que esse espírito se reflita na estratégia do Governo espanhol para a inteligência artificial.

No ano passado, Yuste conseguiu manipular o comportamento de ratos. Fez isso intervindo nos pequenos cérebros desses roedores, adestrados para sorver suco quando viam listras verticais numa tela. Yuste e sua equipe haviam observado os neurônios específicos que eram acionados nesse momento e os estimularam diretamente quando não havia barras aparecendo na tela. Os ratos sorviam o suco como se tivessem visto aquele gatilho. “Aqui em Columbia meu colega desenvolveu uma prótese visual sem fio para cegos com um milhão de eletrodos, que permite conectar uma pessoa à rede. Mas também se pode usar para criar soldados com supercapacidades”, adverte Yuste. Esse aparelho, financiado pelo DARPA (a agência de pesquisa científica do Exército dos EUA), poderia estimular até 100.000 neurônios, propiciando habilidades sobre-humanas.

Quando Yuste começou a trabalhar na iniciativa dos neurodireitos, há dois anos, era quase uma colocação abstrata, de ficção científica. “Mas a urgência da situação aumentou, há problemas bastante sérios que estão vindo com tudo; as empresas tecnológicas estão se metendo nisto de cabeça porque pensam, acertadamente, que o novo iPhone vai ser uma interface cérebro-computador não invasiva”, diz Yuste. O homem que impulsionou um projeto de seis bilhões de dólares nos EUA para investigar o cérebro enumera com preocupação os movimentos dos últimos meses. O Facebook investiu um bilhão de dólares (4,36 bilhões de reais) em uma empresa que trabalha na comunicação entre cérebros e computadores. E a Microsoft desembolsou outro bilhão na iniciativa de inteligência artificial de Elon Musk, que investe 100 milhões na Neuralink, uma companhia que implantará fios finíssimos no cérebro de seus usuários para aumentar suas competências. E Yuste tem informações de que o Google está sigilosamente fazendo esforços semelhantes. Chegou a era do neurocapitalismo.

“A privacidade máxima de uma pessoa é o que ela pensa, mas agora já começa a ser possível decifrar isso”, alerta Yuste

“Estas grandes empresas tecnológicas estão ficando nervosas para não ficarem atrás com o novo iPhone cerebral. Para evitar abusos, temos que recorrer diretamente à sociedade e a quem faz as leis”, afirma. A tecnologia impulsionada por Musk pretende ajudar pacientes com paralisia ou extremidades amputadas a controlarem sua expressão e movimentos e a verem e ouvirem sozinhos, apenas com o cérebro. Mas não oculta que o objetivo final é o de nos conectar diretamente com as máquinas para melhorarmos graças à inteligência artificial. A iniciativa do Facebook é similar: uma empresa com um histórico questionável de respeito à privacidade, como a de Zuckerberg, acessando os pensamentos de seus usuários.

Essas pretensões parecem de ficção científica, mas uma simples olhada em alguns feitos da neurociência nos últimos tempos revela que elas estão ao alcance da mão. Em 2014, cientistas espanhóis conseguiram transmitir “oi” diretamente do cérebro de um indivíduo ao de outro, situado a 7.700 quilômetros de distância, por meio de impulsos elétricos. Em vários laboratórios foi possível recriar uma imagem mais ou menos nítida do que uma pessoa está vendo apenas analisando as ondas cerebrais que ela produz. Graças à eletroencefalografia, cientistas puderam ler diretamente do cérebro palavras como “colher” e “telefone” quando alguém pensava nelas. Também serviu para identificar estados de ânimo. Na Universidade de Berkeley, foram capazes de identificar a cena que os voluntários estavam vendo graças à nuvem de palavras que seu cérebro gerava ao vê-las: cachorro, céu, mulher, falar... Uma tecnologia que poderia servir para descobrir sentimentos, dependendo das palavras que surjam ao ver uma imagem: por exemplo, seria possível ler “ódio” ao ver a imagem de um ditador.

Alguns desses marcos já completaram uma década, e desde então bilhões de dólares foram investidos em monumentais projetos privados e governamentais, do Facebook à DARPA, passando pela Academia de Ciências da China. “Pense que o projeto chinês é três vezes maior que o norte-americano, e vai diretamente ao assunto, ao fundir as duas vertentes: inteligência artificial e neurotecnologia”, adverte Yuste, que se diz otimista quanto aos benefícios da neurotecnologia, daí seu desejo de regulá-la.

 “Em curto prazo, o perigo mais iminente é a perda de privacidade mental”, adverte Yuste, que lançou sua iniciativa pelos neurodireitos após debater o assunto em Columbia com uma equipe de 25 especialistas em neurociência, direito e ética, denominado Grupo Morningside. Várias empresas já desenvolveram aparelhos, geralmente em forma de tiara, para registrar a atividade cerebral de usuários que queiram controlar mentalmente drones e carros, ou medir o nível de concentração e estresse dos trabalhadores, como acontece com motoristas de ônibus na China. Lá também existem aplicações nas escolas: a tiara lê as ondas cerebrais dos alunos e uma luzinha mostra ao professor seu nível de concentração. O problema é que a companhia que os vende, a BrainCo, pretende conseguir assim a maior base de dados desse tipo de atividade cerebral. Quanto mais dados ela tiver, melhores e mais valiosas serão suas leituras, claro. Como a indústria tecnológica está há uma década extraindo todos os dados que possam obter do uso de aplicações e dispositivos, a possibilidade de espremer cada neurônio é um filão irresistível.

Potencial de desastre

A regulação proposta pelo grupo de Yuste tem dois enfoques. Um de autorregulação, com um juramento tecnocrático que submeta deontologicamente engenheiros, programadores e outros especialistas dedicados à neurotecnologia. Neste sentido, há uma negociação com as autoridades espanholas para levar o espírito desse juramento à Estratégia Nacional de Inteligência Artificial, atualmente em preparação pelo Governo. Por outro lado, Yuste aspira a que os neurodireitos sejam incorporados à Declaração de Direitos Humanos, e que os governos estabeleçam um marco jurídico que evite os abusos. O pioneiro será o Chile, com cujo Governo o grupo tem quase fechada uma legislação específica e sua inclusão na nova Constituição.

“O que me preocupa com mais urgência é a decodificação dos dados neurológicos: a privacidade máxima de uma pessoa é o que ela pensa, mas agora já começa a ser possível decifrar isso”, avisa Yuste. “Estamos fazendo isso diariamente nos laboratórios com ratos, e quando as empresas privadas tivessem acesso a esta informação você vai rir dos problemas de privacidade que tivemos com celulares até agora. Por isso precisamos de neurodireitos, porque é um problema de direitos humanos”, resume. O neurocientista quer alertar à população que “não há nada de regulação, e isso afeta os direitos humanos básicos”.

“Existe um potencial para o desastre se deixarmos que continue escapando das nossas mãos, porque há uma total falta de regulação”, avisa Martínez-Conde

A neurobióloga Mara Dierssen, que não está envolvida na iniciativa de Yuste, destaca os problemas bioéticos decorrentes das possibilidades de melhora do ser humano pela neurotecnologia. Embora afirme haver muito sensacionalismo e arrogância em torno de empresas como a de Musk, Dierssen ressalta que “em longo prazo se pretende que os implantes possam entrar no campo da cirurgia eletiva para quem quiser ‘potencializar seu cérebro com o poder de um computador’”. “Que consequências pode ter a neuromelhoria em um mundo globalizado, biotecnificado e socioeconomicamente desigual? Inevitavelmente surge a grande pergunta de em que medida essas técnicas seriam acessíveis a todos”, questiona Dierssen, pesquisadora do Centro de Regulação Genômica e ex-presidenta da Sociedade Espanhola de Neurociência.

Para a neurocientista Susana Martínez-Conde, trata-se de uma iniciativa “não só positiva como também necessária”. “Estamos dando conta como sociedade de que os avanços tecnológicos vão muito além do que estamos preparados filosófica e legalmente. Enfrentamos situações sem experiência prévia na história”, afirma Martínez-Conde, diretora do laboratório de Neurociência Integrada da Universidade do Estado de Nova York. “É necessário que prestemos atenção, porque a neurotecnologia tem repercussões diretas sobre o que significa ser humano. Existe um potencial para o desastre se deixarmos que continue escapando das nossas mãos, porque há uma total falta de regulação. É hora de agir antes de um desastre em escala global”, avisa.

Este desastre tem ressonâncias históricas. Enquanto conversa de seu escritório de Columbia, Yuste observa o edifício onde foi lançado o projeto Manhattan, que desembocou no lançamento das bombas atômicas sobre Hiroshima e Nagasaki. “Esses mesmos cientistas foram depois os primeiros na linha de batalha para que se regulasse a energia nuclear. A mesma gente que fez a bomba atômica. Nós estamos ao lado, impulsionando uma revolução neurocientífica, mas também somos os primeiros que temos que alertar a sociedade.”

Os novos neurodireitos

O grupo impulsionado por Rafael Yuste desenvolve suas preocupações em torno de cinco neurodireitos:

1 - Direito à identidade pessoal. Esses especialistas temem que ao conectar os cérebros aos computadores a identidade das pessoas se dilua. Quando os algoritmos ajudarem a tomar decisões, o eu dos indivíduos pode se esfumar.

2 - Direito ao livre-arbítrio. Este neurodireito está muito ligado ao da identidade pessoal. Quando contarmos com ferramentas externas que interfiram em nossas decisões, a capacidade humana de decidir seu futuro poderá ser posta em xeque.

3 - Direito à privacidade mental. As ferramentas de neurotecnologia que interagem com os cérebros terão capacidade para reunir todo tipo de informação sobre os indivíduos no âmbito mais privado que possamos imaginar: seus pensamentos. Os especialistas consideram essencial preservar a inviolabilidade dos neurodados gerados pelos cérebros humanos.

4 - Direito ao acesso equitativo às tecnologias de ampliação. Yuste acredita que as neurotecnologias trarão inumeráveis benefícios para os humanos, mas teme que se multipliquem as desigualdades e privilégios de alguns poucos que terão acesso a estas novas capacidades humanas.

5 - Direito à proteção contra vieses e discriminação. Nos últimos anos, vieram à tona vários casos em que os programas e algoritmos multiplicam os preconceitos e vieses. Este direito pretende que essas falhas sejam buscadas antes de sua implantação.

Texto e imagem reproduzidos do site: brasil.elpais.com