Intolerância e discurso de ódio nas redes sociais

A intolerância (um traço inerente ao psicológico humano) foi propulsora dos mais terríveis eventos da história da humanidade — como o genocídio étnico em Ruanda e o Holocausto na Europa. Todavia, a mentalidade intolerante não se manifesta exclusivamente em eventos históricos, mas também no nosso cotidiano. As redes sociais, por exemplo, estão se tornando ambientes que fomentam cada vez mais a postura fechada e intolerante em seus usuários. Nesse sentido, faz-se necessário encontrar soluções para reverter o crescente problema no meio virtual.

Primeiramente, nota-se a natureza emergente da situação, devido ao aumento desenfreado na incidência de denúncias virtuais sobre intolerância. De acordo com a Safernet — uma ONG que combate crimes virtuais, em parceria com o Ministério Público —, o número de denúncias envolvendo casos de intolerância aumentou em 200% de 2010 para 2013. Nessa perspectiva, é notável o caráter alarmante da situação, devido ao seu rápido agravamento em um curto espaço de tempo.

Ademais, as redes sociais tendem a usar inteligência artificial para escolher quais conteúdos serão exibidos para cada usuário. Como resultado, esses algoritmos inteligentes já aprenderam que os assuntos que mais geram engajamento são aqueles que causam raiva e indignação — na maioria das vezes, materiais de teor extremista. Logo, é conveniente rememorar o pensamento de Albert Einstein, quando ele diz “Tornou-se aterradoramente claro que a nossa tecnologia ultrapassou a nossa humanidade”. Assim, torna-se evidente a relação do súbito aumento da quantidade de denúncias com a popularização do Facebook em 2010.

Dessa maneira, é muito claro que a interação citada entre máquina e sociedade causou efeitos socioculturais indesejáveis. Em virtude disso, é imperativa a ação das empresas que gerenciam as redes sociais no sentido de remover os mecanismos de inteligência artificial na seleção de conteúdos, a fim de cessar a alienação sofrida por seus usuários. Através dessa medida, espera-se pôr fim ao crescente problema de intolerância.