Os impasses éticos e morais do uso de Inteligência Artificial

Para o filósofo Antônio Cândido, a humanidade, apesar de estar em seu ápice de domínio técnico da natureza, está também atingindo o máximo de “barbárie”. Essa tese se prova cada vez mais verdadeira diante dos impasses éticos e morais que vêm do desenvolvimento da inteligência artificial (IA). Dentre as principais questões, destaca-se a dificuldade em filtrar os dados de “algoritmos enviesados”  e a massificação dos usuários pelas recomendações de algoritmo.

Primeiramente, vale ressaltar o COMPAS, um programa baseado em inteligência artificial treinado para avaliar o risco que um réu apresenta para a sociedade nos Estados Unidos. Esse sistema, apesar de ter como principal premissa ser impessoal, apresentou um erro no julgamento de pessoas negras maior do que brancas, considerando-as mais perigosas. Esse fenômeno, chamado de “viés de algoritmo”, ocorre devido ao banco de dados enviesados inseridos no processo de aprendizado de máquina, que podem ter sido selecionados por humanos tendenciosos ou até mesmo representar veridicamente uma sociedade, na qual determinado grupo social é estatisticamente mais carcerário do que outro. Então, o uso de uma inteligência artificial supostamente impessoal é falho e perigoso ao interpretar informações de uma sociedade construída sobre fortes preconceitos e desigualdades.

Além disso, o uso de inteligência artificial nas redes sociais e aplicativos digitais no geral seleciona o padrão de gosto do usuário, interpretando seus dados de consumo para as próximas recomendações. Assim, os indivíduos são colocados em “bolhas ideológicas” devido ao contato com canais de  informações unicamente convergentes com a sua ideologia. Desse modo, a economia de dados pode pôr em risco a capacidade individual de escolha e a determinação da veracidade dos fatos. Isso ocorre pela alienação dos cidadãos, tornando-os uma “massa freudiana” que, segundo o pensador Sigmund Freud, adquire as características do grupo, e passa a ser extremamente influenciável e sem compromisso com a verdade, pondo em risco a manutenção da democracia.

Portanto, diante disso, é necessário que as nações democráticas formem uma organização mundial da inteligência artificial, que vai fiscalizar o viés dos dados inseridos nas IAs de órgãos de justiça e de outras iniciativas públicas, visando manter o direito universal de igualdade entre os seres humanos. Por sua vez, as instituições de ensino devem tornar seus discentes pessoas críticas e informadas sobre a importância de suas escolhas no meio virtual, por meio de palestras compostas por psicólogos e programadores que mostrarão o risco da manipulação das recomendações virtuais personalizadas. Tal atitude visa reduzir o risco da massificação causada pelo uso de inteligência artificial no meio digital.