Os impasses éticos e morais do uso de Inteligência Artificial

Desde 1988, a Constituição Federal incorpora uma série de princípios éticos para promover o bem-estar social e a integridade coletiva. No entanto, no hodierno contexto nacional, a realidade difere do exposto na legislação, principalmente em função dos impasses éticos e morais do uso da Inteligência Artificial (IA) no Brasil. Isso ocorre pela manutenção de preconceitos e viéses nos algoritmos e tem como grave consequência a negação da isonomia social.

Antes de tudo, é preciso observar a discriminação no contexto das IA’s. A esse respeito, segundo conceitos de Aprendizagem de Máquina, sabe-se que, de maneira simplificada, os sistemas de IA funcionam com base em algoritmos de coleta de dados que “aprendem” com as informações recebidas, podendo reproduzi-las. Nesse contexto, percebe-se que sem um banco de dados diversificado, indivíduos de determinados grupos sociais podem não ter suas características reconhecidas pelos algoritmos, como no caso de aplicativos de reconhecimento facial que podem não identificar o rosto de pessoas negras como humanas pela falta de dados armazenados sobre esses indivíduos.

Outrossim, é preciso observar as consequências da problemática em questão. Nesse horizonte, segundo o princípio da isonomia social, criado na Grécia Antiga e utilizado na legislação atual, todos os cidadãos devem ter tratamento igualitário na sociedade, sem qualquer distinção. Contudo, devido à supracitada coleta irre-gular dos dados, muitos indivíduos de grupos minoritários podem ser impedidos de utilizar os mecanismos de IA, sendo ofendidos ou inferiorizados pela reprodu-ção de preconceitos nesses recursos. Com isso, a isonomia social é contrariada, pois uma parcela expressiva da população é segregada por sua posição social.

Portanto, faz-se mister modificar o quadro atual. Para tal, cabe ao governo, na condição de garantidor dos direitos individuais, promover a igualdade nos algoritmos. Tal ação deve ocorrer por meio da regulamentação e fiscalização de amostras de dados para implementação de sistemas baseados em Aprendizagem de Máquina- como as IA’s, com o objetivo de garantir a diversidade na coleta de informações. Assim, os impasses éticos e morais do uso da Inteligência Artificial serão mitigados, efetivando as propostas da Magna Carta de 1988 no Brasil.