App é acusado de racismo ao 'embelezar' pessoas negras clareando suas peles
App é acusado de racismo ao 'embelezar' pessoas negras clareando suas peles
O aplicativo FaceApp tem chamado a atenção pelas suas capacidades. Usando inteligência artificial, o app disponível para iOS e recém-lançado para Android é capaz de colocar um sorriso no rosto de uma pessoa emburrada, deixar o usuário com cara de idoso e até mesmo permite que ele veja como seria se fosse mulher em vez de homem ou vice-versa.
No entanto, um dos recursos do aplicativo chamou a atenção do público. O FaceApp também oferecia uma opção de “embelezamento”, que causou um problema para a empresa. O modo, que deveria remover imperfeições também acabava embranquecendo a pele de seus usuários, o que não pegou bem com públicos de outras etnias.
#faceapp isn't' just bad it's also racist...🔥 filter=bleach my skin and make my nose your opinion of European. No thanks #uninstalled pic.twitter.com/DM6fMgUhr5— Terrance AB Johnson (@tweeterrance) 19 de abril de 2017
Yaroslav Goncharov, CEO da FaceApp, se manifestou sobre a questão quando contatado pelo site Mashable. Ele assumiu a falha em seu aplicativo e afirmou que os desenvolvedores já estão trabalhando em uma solução.
“Lamentamos por esse problema inquestionavelmente sério. É um efeito colateral infeliz da nossa rede neural causado por um conjunto de dados de treinamento enviesado, e não é um comportamento planejado. Para amenizar o problema, renomeamos o efeito para excluir a conotação positiva associada a ele”, afirmou ele. A solução temporária foi mudar o nome do efeito de “Hot” (“bonito”) para “Spark” (“brilhar”).
A explicação de Goncharov faz sentido. Redes neurais como a usada pelo app são alimentadas com inúmeras fotos para que possa reconhecer padrões e aplicá-los no tratamento de outras fotos. O problema é que, ao que tudo indica, não foram apresentadas fotos suficientes de pessoas negras ou de outras etnias para que a máquina fosse capaz de identificar outros padrões de beleza que vão além do tom de pele branco.
O problema é similar ao que o Google Fotos apresentou em 2015, em que identificou erroneamente usuários negros como gorilas. A solução foi treinar melhor a inteligência artificial com mais fotos de pessoas negras para que ela fosse mais capaz de fazer a distinção entre humanos e animais. Na ocasião, o Google também afirmou que rostos de pessoas brancas eram frequentemente confundidos com cachorros ou focas.
Fonte: Olhar Digital
Deixa o Comentário aqui em baixo e aproveita para dar uma olhada nas nossas redes sociais e seja bem vindo ao Blog SE LIGA!
Acesse o canal SE LIGA!
Acesse o blog do canal SE LIGA!
Acesse o Fanpage do canal SE LIGA!
Nenhum comentário