Os impasses éticos e morais do uso de Inteligência Artificial

A Revolução Digital proporcionou uma mudança significativa no processo de modernização da sociedade. Nesse sentido, o uso de inteligências artificiais (IAs) possibilitou o desenvolvimento de diversos sistemas que facilitaram as atividades diárias dos seres humanos. Sob esse viés, é necessário refletir sobre os impasses éticos e morais do uso de Inteligência Artificial, como a incapacidade critica inerente aos seres humanos e a falta de segurança para a população.

Perante essa perspectiva é fundamental pontuar que a grande maioria dos sistemas de segurança e reconhecimento desenvolvidos por inteligência artificial podem facilmente favorecer determinados grupos na hora de fazer reconhecimentos ou seleções. Isso ocorre, sobretudo porque as bases de dados apresentadas às IAs contêm padrões que refletem os preconceitos e desigualdades já existentes na sociedade. A exemplo disso, em 2026, o Beauty.AI, concurso de beleza online julgado por robôs teve discriminação racial, dos 44 vencedores, quase todos eram brancos e apenas um tinha pele escura. Os dados de entrada, que eram modelos em sua maioria brancas, influenciaram no padrão de escolha.

Ademais, é de extrema importância entender que as IAs representam riscos à segurança da população. Isso se deve principalmente no que diz respeito a sistemas falhos de reconhecimento de segurança que confundem pessoas inocentes com criminosas por terem características parecidas ou até mesmo baseado em um estereótipo equivocado. A exemplo disso, em 2025, uma mulher foi detida em São Carlos (SP) após ser confundida com uma pessoa foragida da Justiça em sistema de reconhecimento facial do ‘Muralha Paulista’. Isso mostra que os sistemas de reconhecimento necessitam de mais cuidado ao serem utilizados.

Diante desse cenário, é necessário que medidas sejam tomadas para que os sistemas de inteligência artificial sejam usados de maneira benéfica, sem que haja prejuízos a população. Para isso, o Governo Federal - No exercício de usa função social - deve regular o uso desses sistemas de IA por meio da criação de leis com foco na transparência, na proteção de dados e na responsabilização por decisões automatizadas, com o objetivo de garantir segurança a população e de modo a manter o uso da inteligência artificial de maneira justa.