Casos de drag queens, transgêneros e pessoas não-binárias bloqueadas pelo reconhecimento facial no transporte público acendem um alerta sobre algoritmos e treinamento de funcionários
Há algumas semanas a SPTrans divulgou que em dois anos mais de 311 mil bilhetes únicos foram bloqueados por uso irregular, principalmente de benefícios como estudante e idoso. Os bloqueios acontecem a partir do reconhecimento facial dos portadores do cartão no momento de passar na catraca. Segundo a própria SPTrans, todos os ônibus estão equipados com câmeras.
A despeito do objetivo de diminuir fraudes que retiram dinheiro dos cofres das empresas de transporte, o sistema hoje permite até que o Bilhete Único não seja mais produzido com a foto do usuário, já que esse método de identificação ficou ultrapassado.
Mas no mês do orgulho LGBT+ precisamos dar luz à como uma tecnologia massiva não dá conta de identidades diversas. Fontes ouvidas pelo Agora é Simples relataram o enfoque negativo que essa tecnologia oferece a pessoas LGBT+.
Joana, ex-funcionária da RioCard, companhia que regula o cartão de transporte do Rio de Janeiro, reconhece que o sistema na capital carioca é falho e que por diversas vezes pessoas trans e travestis tiveram seus cartões bloqueados por não serem reconhecidas pelo sistema nem pelos operadores.
Uma vez implementado o sistema de reconhecimento facial nos ônibus a rede de operadores humanos não é desativada, como a tecnologia não é precisa as pessoas entram para dar a última palavra no bloqueio ou não. Nesse momento, tampouco pessoas trans são legitimadas.
O caso abaixo mostra uma pessoa montada como drag queen e que teve seu cartão bloqueado em São Paulo.
Apesar do bom tom da postagem, casos como esse não deveriam acontecer, considerando que as imagens são vistas por humanos após a detecção do algoritmo.
Especialistas comentam os limites do reconhecimento facial
Sidélia Silva, mestra em Política Pública e Desenvolvimento pelo Departamento de Ciência Política da Unicamp foi ouvida pelo Agora é Simples e afirma ser necessária uma auditoria dos algoritmos, além da ampliação da diversidade nos espaços de produção tecnológica e, mais especificamente, onde são verificados caso a caso os bloqueios a partir da biometria facial.
“A tecnologia é um meio, onde na entrada tem um humano e na saída um humano, não é um fim em si mesma. Há quem defenda a auditoria de algoritmos, pois as pessoas criam algoritmos para corresponder sua expectativa em relação a algo. A auditoria de algoritmo vai auditar quem está criando”.
Segundo a pesquisadora, em uma sociedade marcadamente preconceituosa, os algoritmos tendem a reproduzir essas características “estamos em estruturas racistas e transfóbicas, e essas pessoas não estão nesse mercado, não produzem essa tecnologia, pois esses espaços significam também poder e essas pessoas são marginalizadas, isso acarreta prejuízos às empresas pois não conseguem lidar com a diversidade”.
Os Keys, pesquisador do Departamento de Design e Engenharia Centralizada Humana da Universidade de Washington, publicou o artigo “The Misgendering Machines: Trans/HCI Implications of Automatic Gender Recognition” (sem tradução exata para o português) onde aborda os últimos 30 anos de pesquisa sobre reconhecimento facial.
Keys aponta que tais estudos desconsideram pessoas trans e não binárias, ou seja, que não se conformam com os signos ditos femininos e masculinos e transgridem a norma.
Em entrevista à Vice americana Keys diz que “quando construímos um conjunto particular de valores, em novos espaços e novos sistemas, não apenas tornamos os espaços e sistemas exclusivos e tornamos mais difícil ter um mundo mais inclusivo no geral, estamos também nos comunicando com pessoas que tentem entrar – ‘é assim que funciona o gênero, essas são as categorias nas quais você pode viver, é assim que o seu gênero é determinado”, explica o pesquisador. ‘Qualquer conflito ou dissonância que você tenha com isso é problema seu porque esta é uma tecnologia imparcial’”.
De acordo com essas perspectivas, estamos automatizando os preconceitos que a sociedade têm.
O outro lado
Sobre o assunto, a SPTrans foi procurada e em nota afirma:
O algoritmo de reconhecimento facial utiliza a distância entre partes da face como parâmetro de reconhecimento, sendo assim, consegue distinguir pessoas com maquiagem e peruca, por exemplo. Vale ressaltar que o software não cancela os cartões automaticamente. Após a análise sistêmica, técnicos da SPTrans comparam a foto do cadastro da pessoa com a foto captada pela câmera do validador do ônibus para examinar a semelhança entre as imagens.
Os técnicos se deparam diariamente com casos em que há diferenças nas fotos, tais como corte de cabelo, barba, bigode, óculos, envelhecimento, maquiagem, entre outros; nessas situações, buscam eliminar todas as alternativas que possam gerar a diferenciação da foto do validador com a do cadastro para evitar bloqueios indevidos.
Desde 2010 o usuário do Bilhete Único personalizado pode solicitar que o seu cartão seja emitido com o nome social, para isto basta escolher esta opção quando realizar o cadastro. O nome social também é analisado pelos técnicos e pode ajudar na identificação do usuário do cartão.
Ainda assim, quando a pessoa tem o Bilhete Único bloqueado pode apresentar justificativa à SPTrans e reaver o benefício, desde que comprove o uso regular do cartão.
Essa matéria faz parte da série especial do Agora é Simples para o mês do orgulho LGBT+. Leia a primeira publicação: Mobilidade LGBT+: o transporte público como espaço seguro para todes.
