Os impasses éticos e morais do uso de Inteligência Artificial

No conto “Não Tenho Boca e Preciso Gritar” de Harlan Ellison, que se descreve como pior distopia já pensada, nos é narrada a vida de 5 indivíduos que são mantidos vivos por uma Inteligência Artificial senciente nomeada AM por puro sadismo depois de dizimar a superfície do planeta. O conto é de um gênero bem popular, a possível evolução das IAs, que questiona como a falta de ética transforma-se como potencial para destruição. Além disso, temos a questão educacional. O uso de ferramentas como ChatGPT de forma imoral e enviesado.

Sob esse prisma, uma das áreas onde a IA está mais em alta é na educação. Alunos a usam a todo momento: provas, trabalhos, projetos. É comum também professores a usarem para corrigir e redigir questões. A pergunta criada pela IA vai ser respondida pela IA, analisada e corrigida pela IA. Seus textos faltam uma alma humana. Quando a alma humana não se torna presente no ato de redigir um texto, nenhum humano realmente pensa. Assim, o uso das IAs é uma ótima ferramenta para reduzir o senso crítico da população, tornando-as facilmente manipuláveis.

Há de se mencionar, todavia, que as inovações só existem quando se têm lucro. Autores como Ellison e Orwell já alertavam o conceito de uma superentidade que tudo pode, portanto, há sim um perigo caso os cientistas não definam um avanço definitivo máximo que a IA pode ter, evitando assim, futuros problemas. Além disso, é necessário “regulamentar” a ética, de forma que possa se sobrepor ao desejo de lucro capitalista, que só prioriza o alto acúmulo de capital em detrimento dos aspectos e integridade humana. O principal desafio da ética é quem a corrompe, visando somente o lucro acima de tudo e todos.

Pode-se observar, então, que a IA ainda é uma ferramenta nova que deve sim ser usada, mas de forma ética e respeitosa. Não se pode depender de quem lhe diz conteúdo enviesado. Portanto, cabe as Organizações Científicas e Educacionais do mundo buscar sobre um limite, alcançado pelo corte financeiro da pesquisa, para assim, garantir a sustentabilidade do uso de IA. É uma tecnologia nova, é necessário aprender a usá-la, e o fator essencial é a ética aplicada. A IA pode ser extremamente perigosa na mão de quem sabe usar, podendo inclusive moldar a opinião pública. É perigoso, ao mesmo tempo, têm grande potencial para o bem.