Os impasses éticos e morais do uso de Inteligência Artificial

Elon Musk, empreendedor e filantropo sul-africano-canadense-americano, comparou  a criação de IA (inteligência artificial) com o ato de invocar o demônio. Em partes, podemos dizer que ele está certo.

No drama coreano “Holo, meu amor” disponível na Netflix, acompanhamos a história de uma espécie de IA holograma chamado Holo. Para vê-lo, o usuário tem de colocar um par de óculos desenvolvidos para o holograma inteligente. Em um dos episódios, Holo invade o sistema do governo coreano e faz causar um apagão em Seul para salvar a vida de sua usuária e de seu criador, o que fez gerar inúmeras consequências para ambos durante a trama. Pensando sobre o que Musk disse, Holo pode ter realmente sido um demônio em várias situações na qual esteve presente, tanto que seu criador pensa diversas vezes em desativá-lo. A razão de Holo ter sido criado não foi para ilegalmente invadir sistemas governamentais, mas sim, com as intenções mais puras, foi criado para ser um companheiro e um ajudante. Mas o que Holo é capaz de fazer?

Para o filósofo sueco Nick Bostrom, as máquinas se desenvolverão muito mais do que as capacidades humanas de observação, aprendizado e planejamento. Esse fenômeno foi chamado de  superinteligência. Tanto Bostrom como qualquer pessoa concorda que não se trata de “se acontecer”, mas “quando acontecer” os fatos descritos anteriormente.

Quando Holo foi desenvolvido, seu criador implantou três regras da lei da robótica na IA: trabalhar pela felicidade do usuário; respeitar as leis do país; e não mentir para o usuário. Mesmo com as regras, Holo teve desavenças sobre as prioridades de cada uma, fazendo-o se questionar se deveria quebrá-las e mentir para manter sua usuária feliz. Então foi o que Holo fez, indo contra a premissa de Steve Hawking, que uma vez disse “precisaremos criar regras para que seja seguro usá-la – ou conviver com ela”.

Claro, a história de Holo é completamente fictícia e impossível de acontecer atualmente dado as circunstâncias de ver um holograma apenas colocando um par de óculos. É possível que tenhamos algo parecido com a tecnologia de Holo ou as de Tony Stark em nosso dia a dia em alguns anos, mas para isso, temos que evoluir mentalmente para lidarmos com as máquinas. Quando isso acontecer, teremos mais condições de consertar os erros da IA. Assim, chegando mais perto do que vemos no cinema e na televisão e, torcendo para não invocarmos demônios.