A tomada de decisões através do uso de algoritmos vem se tornando cada vez mais comum no mundo digital. A realidade é que se alguém possui contato com a tecnologia, ela está sujeita ao funcionamento dessas programações.
O funcionamento de todos algoritmos seguem regras parecidas: um conjunto de medidas, cálculos ou operações estabelecidas em um computador com o intuito de atingir um objetivo específico. Levando em consideração variáveis, cenários e possibilidades, ele irá direcionar o usuário ou funcionalidade para o caminho mais adequado, de acordo com a lógica feita pelos profissionais que o desenvolveram. Aqui entra uma primeira questão: o “caminho adequado”, o “jeito certo”, o que deve ou não ser feito, tudo isso é baseado a partir de um sistema de valores determinados por uma pessoa, empresa ou IA. Nada é ao acaso.
Existem diversos benefícios que podem ser encontrados na utilização de algoritmos, como a filtragem de informações. Ela define, através de comportamentos, preferências e histórico de pesquisas, o que aparece nas interfaces de cada usuário em determinada rede social. Essa triagem facilita e torna a experiência de uso de aplicativos e programas, muito mais agradável e funcional.
Outro grande uso dos algoritmos é na automação de processos e serviços. É muito comum encontrarmos máquinas que atendem e funcionam de maneira totalmente autônoma. Supermercados e lanchonetes, por exemplo, já adotam um sistema de autoatendimento. Em alguns países, como a China e os Estados Unidos, já é popular serviços como táxi sem motorista. Através de algoritmos que interpretam dados, como endereços ou pedidos, é possível cumprir os desejos de clientes dos mais variados tipos.
Ou seja, os algoritmos fazem parte do cotidiano das pessoas e também da evolução constante da tecnologia. Porém, apesar de todas as suas funcionalidades, eles são criados, manipulados e definidos por mentes humanas. Portanto, envolvem-se muitos conceitos e ideias que devem ser moderados para a realização de operações justas e sadias.
Existem diversos casos onde o mau uso dos algoritmos em diferentes escalas resultou em consequências problemáticas. A mais comum delas é a falta de transparência em critérios e no funcionamento do engajamento de redes. O Instagram, por exemplo, é constantemente alvo de polêmicas pela falta de clareza na entrega de seus conteúdos aos usuários. O que com o aumento do marketing de influência e trabalhos utilizando a internet, pode ser altamente prejudicial para indivíduos e empresas.
Algoritmos de filtragem de informações podem constantemente entrar em conflito com as lógicas de engajamento pago disponibilizadas pelas plataformas. É muito difícil equilibrar o uso da ferramenta de forma totalmente gratuita e os métodos de monetização e lucro das redes sociais, o que deturpa a lógica dos algoritmos, deixando seu funcionamento em larga escala bastante nebuloso. Então, o que deveria ser uma maneira de estabelecer uma experiência de uso otimizado, acaba se tornando um empecilho para quem cria, vende e trabalha através das redes sociais.
Já ocorreram situações ainda mais graves na utilização e construção deturpada dos algoritmos. Como é a história do jovem Thiago. Após ser injustamente acusado de roubo, sua imagem foi coletada pela polícia e colocada em um banco de dados de suspeitos. Essa coletânea de fotos era responsável por mapear e encontrar suspeitos de crimes, mesmo que não exista confirmação de suas participações em delitos.
Tal álbum de suspeitos ainda não é totalmente regulado pela constituição brasileira, sendo um grande imbróglio judiciário. A inclusão de Thiago nesse banco de imagens resultou em sua acusação em mais 9 delitos nos quais também era inocente. Infelizmente essas acusações resultaram em 2 prisões, e mais de 8 meses de reclusão. E apesar de atualmente estar em liberdade, Thiago ainda enfrenta problemas e responde processos decorrentes do armazenamento indevido de sua imagem.
É praticamente impossível viver sem contato com algoritmos. Eles ditam o funcionamento de diversos elementos fundamentais para a vida em sociedade. Porém, como qualquer ferramenta, é necessário cuidado e regulação para um uso que agrida a liberdade e o bem estar social. As empresas e organizações que fazem uso dessas informações precisam estar atentas acerca do limite ético que envolve o controle e utilização de dados. Ainda mais quando ele está dentro de contextos como o do álbum de suspeitos, que não possui legislação efetiva para regularizá-lo.
Os usos da tecnologia refletem e respondem a demandas da vida real. Portanto, a utilização indevida desses meios geram consequências que podem ser irreparáveis em alguns casos. É preciso de forma urgente um código de ética da construção e uso dos algoritmos, com bases sólidas, que respeitem a vida de cada indivíduo e da sociedade como um todo.
Precisa ajudar sua equipe a pensar melhor sobre como tomar as melhores decisões ou como pensar melhor a vida em sociedade? Veja nosso catálogo de palestras inspiracionais e seja, com sua equipe, a diferença ao seu redor.
* Texto retirado do blog do Clóvis de Barros Filhos e reproduzido aqui no Clube do Palestrante
Foto de capa: Markus Spiske