Os impasses éticos e morais do uso de Inteligência Artificial

Na obra literária de George Orwell, “1984”, retrata um regime totalitário que controla pensamentos e manipula informações em massa. A obra alerta sobre o grande monitoramento e a perda de liberdade dos indivíduos. No atual contexto, com o surgimento da Inteligência Artificial, são observadas preocupações semelhantes, como as tais citadas na obra, como controle de dados pessoais e manipulação algorítmica da informação.

Sobretudo, é visível que o tópico sobre vigilância de dados pela Inteligência Artificial tem se tornado uma questão de grande relevância no contexto ético contemporâneo. Com o crescimento gradativo das tecnologias, o sistema coleta e tem acesso a todo tipo de informações pessoais alheias, além de, na maioria das vezes, tal feito ocorrer sem o consentimento dos usuários, devido à sua intransparência. Essa coleta permite que empresas e governos usem algoritmos para prever comportamentos e influenciar decisões, mas para o usuário, sua privacidade é quebrada, o expondo aos perigos de manipulação e vigilância.

Ademais, a manipulação algorítmica da informação pela inteligência artificial ocorre quando sistemas controlam o que os usuários veem com base em seus interesses diversos. Isso é causado pelo uso de algoritmos que priorizam conteúdos que geram mais engajamento, muitas vezes reforçando bolhas de informação. Com isso, as pessoas recebem informações muito centradas, limitando o acesso a visões diversas e críticas. A partir disso, ocorrer a distorção pode influenciar a percepção da realidade e influenciar decisões sociais e políticas. Além disso, favorece a disseminação de fake news e discursos polarizados, assim compromete-se o pensamento crítico e o debate democrático.

Portanto, para que os relatos da obra de Orwell não seja reproduzido na realidade, é necessário que o governo tome medidas protetivas, como por meio da criação de leis de proteção de dados e implementação de agências de fiscalização, a fim de acabar com o controle de dados pessoais e manipulação algorítmica da informação. Dito isso, atenuar-se-á de curto a médio prazo para a resolução do problema.