Os impasses éticos e morais do uso de Inteligência Artificial

O líder sul-africano Nelson Mandela afirmou que “depois de escalar uma grande montanha, só se percebe que há muitas outras a escalar”, destacando que o pro-gresso social é um processo contínuo. Sob essa ótica, a questão dos impasses éti-cos e morais do uso de Inteligência Artificial insere-se em um cenário preocupante no Brasil, pois, apesar dos avanços tecnológicos, ainda persistem obstáculos que dificultam transformações estruturais nesse campo. Logo, é possível afirmar que essa problemática decorre, principalmente, da falta de regulamentação específica e da carência de educação digital crítica, exigindo ações integradas e efetivas.

Nesse viés, é essencial destacar que a ausência de regulamentações eficazes atua como um fator determinante para a perpetuação do problema. Sob essa perspec-tiva, especialistas como o filósofo Nick Bostrom alertam para o risco de sistemas superinteligentes se desenvolverem de forma autônoma, sem qualquer controle humano efetivo, o que pode gerar consequências imprevisíveis. Com isso, observa-se que a estrutura legal vigente ainda carece de mecanismos que limitem e fiscali-zem o desenvolvimento dessas tecnologias.

Além disso, a ausência de uma educação crítica sobre o funcionamento dessas ferramentas impede que a população compreenda os riscos e limites da IA. Muitos indivíduos consomem ou utilizam tecnologias baseadas em algoritmos sem enten-der como funcionam ou quais dados estão sendo coletados. Isso gera um temor generalizado, de acordo com o relatório da BlackBerry Cylance, diante da opacida-de com que essas tecnologias tomam decisões com alto potencial de impacto so-cial, como no caso dos carros autônomos.

Portanto, faz-se necessário que o Estado, por meio da criação de um marco regu-latório específico para a Inteligência Artificial, implemente leis que obriguem a tran-sparência algorítmica e a responsabilização de empresas desenvolvedoras, com o objetivo de assegurar que os princípios éticos estejam incorporados desde a con-cepção dos sistemas. Além disso, a escola e a mídia devem atuar na formação de uma consciência crítica e empática, promovendo o debate sobre os impactos mo-rais e sociais do uso da IA e incentivando atitudes transformadoras frente à era digital. Assim, será possível ter uma sociedade mais preparada para o futuro.