Algoritmos preconceituosos se tornam problema para empresas

Os algoritmos são inteligências artificiais que, nas redes sociais, servem para ajudar os usuários a consumir melhor o conteúdo que ali é produzido,  seja por empresas ou por outros usuários. No entanto, nos últimos anos, empresas de tecnologia enfrentam sérios problemas com eles. Além do vício em repetir certos tipos de conteúdo, algumas empresas de tecnologia também têm de lidar com inteligências artificiais "preconceituosas".

"Um algoritmo é uma ferramenta que, em tese, organiza conteúdos da melhor maneira para um usuário consumir", diz o professor de ciência da computação, Carlos de Souza Ribeiro, que também trabalha como consultoria na criação de algoritmos. "Mas algoritmos são criados por humanos, que possuem falhas e preconceitos. O problema é que, na hora de desenvolver essas ferramentas, esses problemas são transferidos para a inteligência artificial".

Algoritmos do Instagram

Na tarde de segunda-feira, 31, o Instagram fez mudanças em seu algoritmo para dar alcance igual a conteúdo original e reposts nos Stories. Antes dessa mudança, a rede social disse que a inteligência artificial priorizava originais ao invés de compartilhamentos. Essa mudança surge depois de fortes críticas internas e do público ao aplicativo. Eles  acusam o Instagram, principalmente, de censurar postagens pró-Palestina sobre o conflito que acontece em Israel.

Por exemplo: o Instagram removeu postagens que citavam a mesquita de al-Aqsa, em Jerusalém. Por meio de comunicado, a empresa disse que removeu o conteúdo por engano, depois do algoritmo fazer uma falsa associação a uma organização terrorista de nome parecido. Depois, já no dia 6 de maio, algumas contas da região da Palestina ficaram impedidas durante horas de postar. O CEO do Instagram, Adam Mosseri, disse que foi apenas uma "falha".

Agora, em entrevista ao site de notícias The Verge, o Facebook disse que o novo algoritmo do Instagram deve impulsionar ainda mais o compartilhamento de conteúdo sem censurar quaisquer tópicos, não tendo impacto em conteúdos pró-Palestina compartilhados por usuários. "Queremos deixar bem claro. Esse não é o caso,” disse um porta-voz da empresa. “Isso é aplicado a qualquer post que é compartilhado nos Stories, não importa o assunto".

Preconceito do Twitter

Recentemente, o Twitter excluiu da rede social um algoritmo de recorte automático de fotos. O recurso gerou polêmica em setembro de 2020, quando usuários perceberam que o sistema da rede social dava prioridade a pessoas brancas no recorte da imagem. Ou seja: se uma foto tivesse uma pessoa negra e uma branca, apenas esta última apareceria no feed ou apareceria com destaque. Também havia uma preferência por homens nas imagens.

Foram registrados ainda casos em que o recorte, em fotos apenas com a presença de mulheres, tinha um 'olhar masculino' de acordo com a empresa, focando nos seios e nas pernas, ao invés de focar no rosto.

Rumman Chowdhury, engenheiro-chefe de software do Twitter e especialista em ética e inteligência artificial, disse que é melhor deixar as opções de recortes para os usuários. “Uma de nossas conclusões é que nem tudo no Twitter é um bom candidato para um algoritmo e, neste caso, a maneira como recortar uma imagem é uma decisão que as pessoas tomam melhor”, acrescentou Rumman, em uma postagem no blog oficial da rede na época da alteração.

Spotify e seus algoritmos

O serviço de streaming de música Spotify está com o mesmo problema, de acordo com um estudo. A plataforma estaria ampliando o alcance de músicas interpretadas por homens, enquanto mulheres são preteridas.

"Algumas 'superestrelas' femininas dominam entre os artistas mais populares, mas a maioria das mulheres e artistas mistos está nos níveis mais baixos de popularidade. Embora o problema venha da indústria musical, as plataformas de streaming de música e seus algoritmos que recomendam desempenham um grande papel", afirmam os autores do estudo em um artigo escrito para a The Conversation. O Spotify, até o momento, não se posicionou sobre isso.

De acordo com o estudo, durante testes, descobriram que, em média, as seis primeiras faixas recomendadas são de homens. Assim, os usuários tinham que esperar até a música sete ou oito para ouvir a música de uma mulher.

Como mudar isso

No estudo do Spotify, uma simples reclassificação do algoritmo,  mudando algumas partes da tecnologia,  já mudou a forma de recomendação. "Em uma simulação, estudamos como nossas recomendações reclassificadas podem afetar o comportamento de escuta dos usuários a longo prazo. Com a ajuda de nosso algoritmo de reclassificação, os usuários começaram a mudar seu comportamento. Eles ouviriam mais artistas femininas do que antes", dizem.

Para Carlos de Souza Ribeiro, especialista no tema, a mudança tem que partir "de cima". "No Twitter e no Instagram, as mudanças surgiram depois que o público reclamou das decisões do algoritmo e executivos do 'topo da cadeia' se movimentaram", diz ele em entrevista ao DCI. "De um lado, o público precisa ficar de olho, cobrando essas empresas que ganham à nossa custa. Do outro, empresas precisam buscar diversidade na hora de criar novos algoritmos".