Sei que este artigo vai parecer, num primeiro olhar, ficção científica. Ocorre que já estamos vivendo nessa ficção científica. Desde a última semana está comprovado que as máquinas podem ler pensamentos.
Ultimamente todas as notícias parecem orbitar em torno de polêmicas, brigas e bizarrices. Exatamente por isso vale muito partilhar com vocês esta descoberta científica, que chega a ser emocionante.
A história é uma união de cientistas em diversos países com pesquisas avançadas sobre interface entre a neurologia humana e as máquinas.
O ponto de união é uma jovem família alemã. O pai, que hoje tem 36 anos, tem ELA, Esclerose Lateral Amiotrófica. É uma doença degenerativa progressiva que elimina todo controle de movimentos musculares.
Ocorre que não elimina nem a consciência nem a cognição. É uma prisão solitária para a qual os cientistas tentam há muitos anos algum tipo de alívio. A doença ficou mundialmente conhecida no viral do desafio do balde de gelo na internet.
Em 2018, quando ainda movia os olhos, o pai entrou num grupo experimental da Universidade de Tübingen, na Alemanha. Eles trabalhavam com a comunicação computadorizada por meio dos olhos, que escolhiam frases e palavras para formar sentenças.
Houve uma possibilidade de avanço, essa totalmente inédita e de riscos incalculáveis. Talvez, por meio de um implante cerebral, fosse possível continuar escolhendo letras e formando frases mesmo depois de perder o movimento dos olhos.
O pai manifestou o desejo de correr o risco da cirurgia porque queria continuar se comunicando com a mulher e o filho. Ela assinou o termo de consentimento da cirurgia experimental, que foi feita com sucesso.
Conseguir fazer o equipamento funcionar já era uma outra questão completamente diferente. Em teoria, os eletrodos de 3,2 milímetros de diâmetro seriam capazes de ler as ondas cerebrais e gerar processos de escolhas de letras para formar frases.
Foram 3 meses inteiros testando diferentes métodos para fazer o sistema funcionar, sem sucesso. Então tentaram fazer o paciente controlar as próprias ondas cerebrais utilizando uma medida sonora.
Quando os disparos elétricos dos eletrodos nos neurônios eram mais rápidos, o som ficava alto. Quando os disparos elétricos eram lentos, o som ficava baixo. O paciente podia controlar a velocidade utilizando algum artifício de pensamento que ele próprio precisaria inventar.
Esse artifício seria uma forma de regular voluntariamente os impulsos elétricos dentro do cérebro para que eles interagissem com os eletrodos implantados. No primeiro dia, o paciente já conseguiu alterar o som.
Foram 12 dias de treinamento até que o paciente conseguisse deixar o som exatamente no tom em que ele desejava usando apenas recursos de controle dos impulsos cerebrais. É ciência, mas parece milagre.
O engenheiro biomédico Ujwal Chaudhary, que trabalha na ALS Voice, instituição benemérita alemã, relata o momento como se fosse ouvir música. O paciente conseguia em pouco menos de duas semanas, dominar o sistema de som controlando as próprias ondas cerebrais.
E como ele usaria isso para se comunicar? Mantendo o som alto ou baixo, ele ia dizendo sim ou não primeiro para um grupo de letras, depois para uma derivação do grupo, até chegar a letras individuais. Cada sim é uma letra que vai formar palavras até chegar numa sentença.
Foram 3 semanas até a primeira frase. O paciente estava desconfortável e pediu para ser reposicionado na cama. A esta altura, ele já havia perdido também o movimento dos olhos.
Durante um ano, ele produziu diversas frases. A velocidade, ainda mais nessa era da hipercomunicação, parece uma verdadeira tortura. Uma letra por minuto. Entre as primeiras frases estava “I love my cool son”. Emocionante.
O paciente conseguiu explicar à equipe que modulava o som quando tentava mexer os olhos. No entanto, não era um processo perfeito. O estudo durou 135 dias. Em 107 deles, o paciente conseguiu controlar o tom com 80% de acerto. Em apenas 44 dias ele conseguiu produzir frases inteligíveis.
Pensamentos e liberdades individuais
Até aqui, falei do milagre. Agora começo a provocar você sobre a delicadeza e profundidade do processo de proteção das liberdades individuais neste contexto.
O paciente em questão realmente estava empenhado em todo o processo, tinha vontade de manter a comunicação com a mulher e o filho mesmo após a perda de todos os movimentos. A liberdade de escolha dele foi respeitada.
Começa aí o primeiro dilema ético colocado pelos neurologistas: a impossibilidade de desistir no meio do caminho. Suponha que, por alguma razão, após o implante do chip ele não quisesse mais se submeter a tudo aquilo.
Não tinha como parar, ele só iria conseguir comunicar isso à equipe se passasse por todo o processo de aprender a controlar o equipamento e formar frases.
Suponha que ele resolvesse enfrentar isso apenas para comunicar que quer interromper a experiência. Ele poderia fazer uma frase como “tirem esse implante”, certo? Sim. Mas daí a decisão correta seria tirar ou não?
Ainda é um dilema. Não é possível saber, por exemplo, se a sentença era apenas parte de outra que se perdeu por variáveis como ondas cerebrais não tão potentes para formar o início da frase. E se ele realmente tiver dito “por favor, nunca tirem esse implante”?
Outro ponto é como garantir que aquela leitura de ondas cerebrais se trata de uma manifestação de vontade. O paciente poderia estar dormindo e ter formulado isso em um sonho.
Daí entramos no dilema da privacidade. Suponha que, em um sonho, a máquina consiga ler segredos que, na verdade, ele não queria partilhar com as pessoas. Ainda não é claro como isso seria evitado.
Esse tipo específico de máquina de leitura cerebral ainda está muito longe de ser uma solução comercial. São necessárias centenas de horas de trabalho de dezenas de cientistas para fazer um modelo que só funciona em uma pessoa.
Além disso, o equipamento precisa ser calibrado diariamente de acordo com o progresso da interface com o paciente. É algo absurdamente caro para ser oferecido como solução para todos. Por enquanto.
Vamos a um exemplo de equipamento que hoje já é utilizado por mais pessoas, o membro eletrônico. Quem perde um braço ou uma perna pode ter a chance de utilizar uma prótese controlada por um implante cerebral.
Suponha que um paciente tenha conseguido essa chance e esteja no processo de treinamento do uso do braço eletrônico. É algo complexo e que leva algum tempo. O implante lê as ondas elétricas do cérebro e converte as decisões em movimentos do braço, da mão e dos dedos.
O paciente está muito feliz com a possibilidade de usar o braço eletrônico, mas não suporta uma pessoa da equipe que o atende no treinamento. Não há nenhuma razão, ele simplesmente não suporta a pessoa.
Caso não queira mais estar no mesmo ambiente que a pessoa, o progresso do tratamento será comprometido. É um preço alto demais a pagar por uma bobagem. Ele respira fundo e segue em frente no seu objetivo.
Vez ou outra, quando a pessoa fala com ele, fantasia que tampa a boca com a mão para não ter mais de ouvir a voz irritante. Respira fundo de novo e prossegue no tratamento, sabe que uma hora ele acaba. Um dia, o braço eletrônico realmente ataca a pessoa. De quem é a culpa? Qual seria a solução?
É aí que entra o conceito de Direitos Neurais. Proteger as liberdades individuais exige uma série de regras no campo na neurotecnologia e da Inteligência Artificial.
Nesse caso específico do braço eletrônico, o implante cerebral precisa, de alguma forma, fazer a distinção entre o que são pensamentos e o que são decisões tomadas pela pessoa.
Direitos Neurais
Este exemplo do braço eletrônico é parte da publicação “Quatro prioridades éticas em neurotecnologia e Inteligência Artificial”, assinada em conjunto por diversos cientistas.
“Estamos no caminho para um mundo em que será possível decodificar os processos mentais das pessoas e manipular diretamente os mecanismos cerebrais subjacentes às suas intenções, emoções e decisões; onde os indivíduos podem se comunicar com outros simplesmente pensando; e onde poderosos sistemas computacionais ligados diretamente aos cérebros das pessoas auxiliam em suas interações com o mundo de tal forma que suas habilidades mentais e físicas são bastante aprimoradas. Esses avanços podem revolucionar o tratamento de muitas doenças, desde lesão cerebral e paralisia até epilepsia e esquizofrenia, e transformar a experiência humana para melhor. Mas a tecnologia também pode exacerbar as desigualdades sociais e oferecer às corporações, hackers, governos ou qualquer outra pessoa novas maneiras de explorar e manipular as pessoas.“, diz o documento (grifo meu).
O estudo foi o embrião da iniciativa Neurorights, da Universidade de Columbia, capitaneada pelo neurocientista Rafael Yuste. A primeira ideia é a de colocar na Declaração Universal dos Direitos Humanos cinco Direitos Neurais:
- Direito à identidade, a habilidade de controlar a própria integridade física e mental.
- Direito de ação, ou a liberdade de pensamento e vontade para escolher as próprias ações.
- Direito à privacidade mental, a habilidade de manter seus pensamentos protegidos contra a revelação a quem quer que seja.
- Direito a acesso justo a reforço mental, garantia de que o acesso aos benefícios das melhorias da capacidade mental e sensorial por meio da neurotecnologia sejam distribuídos de maneira justa entre a população.
- Direito à proteção de vieses dos algoritmos, a habilidade para garantir que as tecnologias não implementem preconceitos no cérebro de quem as utiliza.
Na mentalidade do Estado-babá, isso funcionaria deixando a tecnologia se desenvolver livremente e apelando ao Poder Judiciário quando houvesse alguma infração de direitos.
Estamos acostumados ao conceito de lei que pega e lei que não pega. Mas há como pavimentar um caminho ao respeito de alguns princípios. Ele foi tentado agora no processo da nova Constituição do Chile, a primeira do mundo a ter os Direitos Neurais.
Em conjunto com a elaboração da legislação, foi feito um treinamento de todos os que trabalham com neurotecnologia e inteligência artificial. Todas essas profissões passam a ter um código de princípios e um Juramento Tecnocrático, feito à semelhança do Juramento de Hipócrates.
O projeto foi conduzido pela Neurorights Foundation junto com a Universidade Católica do Chile, a Universidad do Desenvolvimento, Xabi Uribe-Etxebarria – da gigante de Inteligência Artificial Sherpa -, a IBM e o Facebook.
Os empregados dessas empresas passarão pelo treinamento e farão o juramento ético que, à semelhança do que fazem os médicos, ocorre em uma solenidade pública com a presença de amigos e familiares.
Os 7 princípios éticos básicos da neurotecnologia são:
- Não maleficência, ou seja, não há intenção de causar danos com a tecnologia aplicada.
- Beneficência, intenção de contribuir para o bem comum com o trabalho realizado
- Autonomia, que estabelece que nada pode ser feito sem o consentimento voluntário de quem intervém em determinada situação.
- Justiça. Busca garantir que a aplicação da neurotecnologia gere resultados justos e imparciais, evitando, por exemplo, vieses algorítmicos.
- Dignidade. Todas as pessoas devem ser tratadas com respeito ter sua integridade garantida.
- Privacidade, que defende a remoção de todas as informações confidenciais e identificáveis dos dados coletados pela tecnologia.
- Transparência, cujo objetivo é garantir que os algoritmos usados sejam tão transparentes e corrigíveis quanto possível.
O juramento solene já foi elaborado. É o seguinte:
“Em todos os aspectos do meu trabalho, assegurarei que meu conhecimento não seja usado para prejudicar as pessoas; garantirei que meu conhecimento seja usado para o benefício dos usuários; vou buscar consentimento e respeitar a vontade daqueles que confiaram em mim; maximizarei a equidade dos resultados, evitando qualquer discriminação ou promoção injusta de certas pessoas em detrimento de outras; vou me certificar de respeitar a dignidade dos usuários, protegendo seus direitos humanos; não violarei a privacidade de informações confidenciais de indivíduos; vou maximizar a transparência dos algoritmos que gerar e usar.
Eu faço este juramento livremente, em minha honra, e assumo qualquer responsabilidade caso eu tenha de quebrá-lo.”
Apelar à honra e responsabilidade individual será capaz de levar a ética ao universo digital e da Inteligência Artificial? É uma aposta e os resultados serão medidos.
O que definitivamente sabemos é que existe a necessidade de dar atenção a este tema. A tecnologia cada vez mais cria mecanismos capazes de controlar e manipular pessoas. Certamente haverá quem se interesse por eles e mercado para isso.
Os defensores das liberdades individuais e coletivas precisam estar atentos ao desenvolvimento tecnológico. Ele precisa ser, cada vez mais, centrado no ser humano.
