Os impasses éticos e morais do uso de Inteligência Artificial

Em “Vingadores: A Era de Ultron”, produzido pela Marvel, o empresário Tony Stark, decide criar um sistema de inteligência artificial (IA) que combateria os perigos da humanidade. No entanto, o projeto falha e o robô conclui que a paz mundial só seria atingida com a exterminação da vida humana. Fora da ficção, problemas como os retratados no filme já são cogitados por cientistas que temem a acelerada evolução da IA. Assim, impasses éticos e morais quanto à utlização dessa tecnologia precisam ser discutidos, a saber: a intensificação dos preconceitos da sociedade, bem como a liberdade ilusória oferecida à população.

Nota-se, inicialmente, que um dos principais impasses quanto à utilização da inteligência artificial é a possível intensificação de preconceitos. Isso ocorre, pois, para o seu funcionamento, é necessário que uma coletânea de dados seja concedida à máquina a fim de servir como base para a tomada de decisões. No entanto, nenhuma pessoa ou sociedade consegue ser totalmente neutra, e suas ideias e visões de mundo são sempre respaldadas em opiniões e valores construídos ao longo da vida. Com isso, quando essa subjetividade é passada para a máquina, ela não só irá reproduzir possíveis preconceitos presentes na sociedade, como intensificá-los, provocando uma segregação. Essa foi, por exemplo, a realidade constatada pela empresa Amazon, em 2015, que, segundo a agência Reuters, descartou um algoritmo desenvolvido para a seleção de novos funcionários. Isso ocorreu, pois, respaldado na sua base de dados -com predominância de funcionários homens- o sistema passou a excluir as mulheres do processo de recrutamento, o que ocasionou o abandono desse sistema.

Outrossim, a inteligência artificial também gera grandes discussões a respeito da liberdade ilusória que ela pode oferecer à sociedade. Tal perspectiva é válida, pois a grande base de dados que tais máquinas precisam armazenar, juntamente à capacidade intelectual desses equipamentos, apesar de oferecerem à sociedade maior comodidade quanto às diversas atividades cotidianas, também podem contribuir para uma maior manipulação dos indivíduos. Em um dos episódios da série televisiva Black Mirror, por exemplo, é mostrado um aplicativo de relacionamentos capaz de promover encontros. Porém, apesar do sistema inteligente, os usuários passam a ser reféns das ordens da IA, que os manipulam e determinam como e quanto tempo durará os relacionamentos.

São necessárias, portanto, medidas que protejam a sociedade de tais problemas. Para isso, urge ao Ministério da Ciência e Tecnologia estabelecer mecanismos de controle da IA e de proteção de dados dos indivíduos, por meio da criação de diretrizes, que tornem obrigatória a constante fiscalização dos sistemas vigentes, a fim de que não haja a chance de surgimento de “Ultrons” na vida real.