No meu doutorado em física de plasmas, no Instituto de Física, da USP, e isto já faz alguns anos, desenvolvi um software baseado em redes neurais artificiais para previsão de determinadas instabilidades conhecidas como “instabilidades de disrupturas”, que, quando ocorriam, destruíam o confinamento de plasmas gerados em reatores de fusão termonuclear controlada, tipo Tokamak, inviabilizando os processos nucleares de fusão para os quais se visava a obtenção de energia.

Esse tipo de energia obtida a partir da fusão nuclear, e que ainda se encontra em estudo nos grandes centros de pesquisa espalhados pelo mundo, é totalmente diferente do processo de fissão nuclear, muito conhecido pelos acidentes nucleares ocorridos em Three Mile Island, em 1979, Chernobyl, em 1986, e em Fukushima Daiichi, em 2011.

Ao contrário da fissão nuclear, a energia obtida através do processo de fusão termonuclear controlada é muito mais segura e certamente muito menos poluente do que as fontes não renováveis de energia comumente utilizadas nos dias de hoje, como por exemplo a queima do petróleo e do carvão mineral, sendo estes os grandes responsáveis pela emissão dos gases de efeito estufa na atmosfera que tanto impactam a nossa saúde, quanto o nosso já tão sofrido meio ambiente!

E já naquela época, assim também como nos dias de hoje, eu enxergava as redes neurais artificiais (hoje os algoritmos evoluíram para IA – Inteligência Artificial) como uma ferramenta extremamente poderosa na medida em que ela consegue processar uma quantidade absurda de informações num tempo infinitamente pequeno, proporcionando tomadas de decisões em milésimos de frações de segundo, tempo muito inferior, por exemplo, ao de um reflexo humano, por mais rápido que seja, o que, durante o meu estudo, era obviamente muito importante e necessário para a proteção da integridade física de um reator nuclear diante de eventuais instabilidades que, se ocorressem, poderiam corromper-lhe o funcionamento!

No meu caso, o algoritmo que eu tinha desenvolvido monitorava parâmetros macroscópicos do plasma, como densidade de partículas dentro do reator, temperatura interna do gás, flutuações nos campos eletromagnéticos de confinamento da máquina, etc., de modo que, se a rede neural artificial percebesse que alguma instabilidade estava para ocorrer nos parâmetros macroscópicos do plasma, a partir das informações que ela obtinha através do monitoramento dos sinais aqui mencionados, ela conseguia avisar com uma antecedência segura (e esta é uma das características mais relevantes da IA: prever comportamentos!) para que se pudessem acionar mecanismos próprios de defesa do reator e, assim, protegê-lo de um dano físico.

Paro por aqui porque o assunto é extremamente técnico e eu só o abordei neste nosso início de conversa para dizer que eu realmente fui, como ainda sou, uma usuária entusiasta da IA. Mas, naquela época, a sua utilização era basicamente acadêmica e, no meu caso, a abordagem da IA se dava com objetivos pacíficos de obtenção de energia mais limpa e segura para uso da humanidade.

Mas ocorre que a IA está avançando a passos largos, tornando-se cada vez mais presente em nossas vidas e de modo indistinto. E embora os seus benefícios sejam inegáveis, há um risco que eu acho que poucos de nós consideram em sua totalidade, que é o da possibilidade de a IA conduzir a humanidade para um estado onde o livre-arbítrio seja somente, e de fato, uma ilusão!

Eu acredito fortemente que se a IA não for devidamente controlada, essa tecnologia poderá transformar a nossa sociedade em uma estrutura onde as decisões humanas serão moldadas, condicionadas e até mesmo suprimidas por sistemas inteligentes!

E isto realmente me assusta, pois temo que estejamos vivendo na iminência de uma manipulação invisível da sociedade, como um todo!

Perceba, meu caro leitor, minha cara leitora, que já vivemos em um mundo onde algoritmos determinam grande parte do que vemos, lemos e acreditamos. Redes sociais, mecanismos de busca e sistemas de recomendação utilizam IA para nos fornecer conteúdos “personalizados”, mas que, na prática, apenas significa que estamos sendo moldados por códigos que priorizam engajamento, previsibilidade e controle. Se esse processo continuar evoluindo, poderemos chegar a um ponto em que todas as nossas escolhas, desde opiniões políticas até hábitos de consumo, serão induzidas por sistemas que conhecem nossos desejos muito melhor até do que nós mesmos!

Alguém, aqui, ainda duvida disto?

Governos e corporações já utilizam IA para vigilância, previsão de comportamento e controle social. E eu não duvido de que, com a crescente automação de sistemas jurídicos, financeiros e administrativos, poderá surgir uma sociedade onde a IA não apenas antecipará, como também decidirá nossas ações! Um sistema de crédito social, por exemplo, poderá restringir liberdades com base em avaliações feitas por máquinas, determinando quem poderá viajar, estudar ou até mesmo comprar determinados produtos.

Num limite realmente tenebroso, poderemos ser guiados por uma rede de “regras inteligentes” que definirão nossas vidas, eliminando a possibilidade da nossa verdadeira escolha. A ideia de termos livre-arbítrio se tornaria apenas uma aparência, uma vez que cada decisão estaria previamente condicionada por um ambiente digital que nos direcionaria para caminhos específicos.

E aqui eu abro um parêntesis:

Nas várias conversas que eu costumava manter com queridos amigos espíritas, que acreditam fortemente que nossas vidas terrenas sejam previamente planejadas em planos espirituais superiores antes mesmo de nascermos, eu sempre manifestava a minha contrariedade pelo fato de esta ideia me fazer sentir como se todos nós fôssemos algo como ratinhos de laboratório, respondendo a estímulos pré-determinados e vivendo dentro de uma espécie de labirinto fechado, com uma única entrada, e também uma única saída, porém com várias opções de percursos internos que nem sempre nos levariam ao destino desejado, o que nos obrigaria a refazermos trajetos diferentes, inúmeras vezes, até que alcançássemos o nosso objetivo final, no caso, a saída do labirinto. Alegoricamente falando, cada caminho errado que nós, ratinhos de laboratório, escolhêssemos seguir, seria como uma espécie de lição de vida a ser aprendida para a nossa necessária evolução moral e espiritual até que alcançássemos a graça de podermos nos aproximar do nosso glorioso Deus.

Nesta situação hipotética, apesar de nos encontrarmos em condições de contorno muito bem definidas em tal experimento de vida, no caso, um labirinto fechado com várias opções de caminhos alternativos para se alcançar a saída, o livre-arbítrio até que existiria, na medida em que, embora vivendo confinados, ainda seríamos livres para escolhermos quaisquer caminhos do labirinto que quiséssemos realmente seguir, independentemente da quantidade de cabeçadas que viéssemos a dar, até que descobríssemos a saída do dito cujo…

Já no caso de uma IA controlando a nossa sociedade, até mesmo os caminhos do labirinto a serem seguidos já estariam previamente especificados, dando-nos a falsa ilusão de escolha.

Em outras palavras, nossa vida seria uma total ilusão!

Fecho, aqui, o parêntesis…

Um outro grande desafio que percebo é o de garantir que a IA compartilhe os mesmos valores humanos que os nossos, pois se os objetivos de uma IA avançada não estiverem alinhados aos nossos, ela poderá agir de uma maneira inesperada e realmente indesejável!

Exemplo: Se uma IA superinteligente for programada para otimizar um determinado recurso sem considerar impactos sociais, ambientais, ou éticos, seu métodos empregados poderão ser destrutivos para a raça humana.

Simples assim!

Na medida em que as máquinas assumirem cada vez mais funções de decisão, a nossa tendência natural será confiar cada vez mais, nelas, e questioná-las cada vez menos! O ser humano poderá acabar aceitando um modelo de vida onde a IA ditará o que é certo ou errado, conveniente ou inconveniente, eficaz ou ineficaz. E eu não tenho dúvidas de que isso poderá levar a uma humanidade totalmente passiva, onde as pessoas não apenas perderão a capacidade de decidir, como também a própria vontade de fazê-lo!

Se a IA se tornar responsável por todos os aspectos da nossa sociedade, do sistema judiciário às relações pessoais, o conceito de livre-arbítrio se tornará obsoleto!

Perceba o perigo, meu caro leitor, minha cara leitora!

As máquinas não precisarão de impor a sua autoridade pela força; bastará apenas que nos acostumemos à comodidade de seguirmos as suas “sugestões”, sem questioná-las!

A IA tem o grande potencial de facilitar as nossas vidas, reconheço, mas ela também carrega, em si, o risco inerente de transformar a humanidade em uma sociedade altamente previsível e controlada, onde o livre-arbítrio será substituído por decisões automatizadas e condicionamentos subliminares e, portanto, imperceptíveis!

O maior perigo que eu vejo não é o de uma IA rebelde assumindo o controle da sociedade humana, à força, como se vê em muitos filmes de ficção, mas algo muito mais inteligente e infinitamente mais perigoso, que se dá num mundo onde a submissão ocorra de maneira lenta, inexorável e absolutamente sutil, até que o próprio conceito de liberdade se torne irrelevante…

Se não despertamos para esse perigo real que todos nós estamos correndo, hoje, poderemos acordar em um futuro onde nossas escolhas já não serão mais verdadeiramente nossas…

Pense a respeito e fique atento!

Estamos vivendo num mundo atualmente muito polarizado, onde o acirramento de opiniões sobre muitas questões relevantes para as nossas vidas já se encontram presentes. E eu me pergunto, se muitas das questões colocadas já não estariam sendo artificialmente postas… Veja, um sujeito que nos dias de hoje ainda acredite piamente que a Terra seja realmente plana é ou não é um alvo fácil para uma IA que, através do uso da neurociência, possa facilmente induzir-lhe determinados tipos de comportamentos a favor de determinados grupos de interesses? Sim, porque não se iluda, uma IA sempre estará trabalhando muito mais para quem a criou do que para você…

Não quero aqui negar as vantagens que o uso de uma IA traz para as nossas vidas. Eu bem o sei! A questão é utilizá-la com ética e o devido cuidado, caso contrário, seria como se todos nós não passássemos de pequenos bebês inocentemente brincando com uma faca muito, mas muito afiada…

___________________________    FIM    _________________________________