Os impasses éticos e morais do uso de Inteligência Artificial

Nos últimos anos, o desenvolvimento de Inteligências Artificiais (IAs) avançou rapidamente, possibilitando o surgimento de tecnologias, como carros autônomos, assistentes pessoais por voz, tradutores simultâneos e até o diagnóstico de câncer de pulmão mais eficiente do que o feito por médicos. Porém, com o aumento da capacidade das IAs, aumentou-se a preocupação moral e ética dos seus usos, principalmente por sua imprevisibilidade em questões morais e a privacidade dos usuários de serviços centralizados.

Primeiramente, as IAs ganham muita responsabilidade ao, por exemplo, dirigir automóveis e gerenciar plantações, e não há muita clareza dos raciocínios que aplicam, gerando um fator de imprevisibilidade, que pode ser acompanhado por uma “falta de moralidade”. Uma vez que são construídas, na maioria, através de machine learning, que consiste em disponibilizar dados com padrões para a máquina identificar e gerar os algoritmos necessários. Assim, não há certeza de como elas se comportarão em situações extremas, como, por exemplo, se um carro autônomo, em uma situação sem outra possibilidade, deve atropelar uma criança ou vários adultos.

Em segundo plano, uma Inteligência Artificial necessita de muitos recursos para funcionar, o que em casos como o de assistentes pessoais torna necessária a centralização de sua operação em um servidor, com apenas interfaces e funções básicas diretamente do dispositivo do usuário. Desse modo, um fluxo enorme de dados, as vezes pessoais, é trocado com o servidor e pode ser armazenado sob a premissa de aperfeiçoamento da IA, pois essa necessita de dados para machine learning. Entretanto, não há garantia de que esses dados não serão usados para direcionamento de propagandas ou passado a governos, como exposto por Edward Snowden nos Estados Unidos.

Portanto, cabe ao Ministério da Ciência, Tecnologia, Inovações e Comunicações, por ser responsável pela Política Nacional de Ciência e Tecnologia, a criação de um regulamento sobre as IAs com protocolos para o processo de machine learning para garantir “moralidade” e maior previsibilidade. Ademais, o usuário deve se informar sobre as políticas de uso de dados da empresa, e, se for o caso, do país onde estão os servidores, além de poder optar por alternativas de código livre, locais ou decentralizadas. Dessa maneira, a sociedade poderá usufruir dos benefícios desse avanço e continuar a prosperar.