Hernany Castro[1]
Algoritmos são classificadores construídos por operadores de decisões políticas para gerar determinado resultado. São sequências de códigos, instruções e operações, elaboradas em linguagem informática, voltadas para a programação de cálculos, equações e problemas matemáticos específicos, no presente caso, desenvolvidas a partir de critérios previstos em normas do Cadastro Único para Programas Sociais do Governo Federal (Cadastro Único) e do programa Auxílio Brasil.
No entanto, as regras legais dos programas sociais não migram direta e automaticamente da “letra fria” da norma para dentro do “sistema”. Essas regras, aliás, não são propostas pelo legislador para esse tipo específico de aplicação. Portanto, há necessidade de uma interpretação para viabilizar a aplicação do algoritmo. Desse modo, o operador realiza a “tradução” dos critérios previstos na norma para dentro do “sistema”, convertendo-os em linguagem que permitirá ao computador e respectivos softwares a leitura e a aplicação do comando.
Minha hipótese é que parte considerável dos problemas da chamada “fila” do Cadastro Único e do Auxílio Brasil estão relacionados aos algoritmos, para os quais não se traduz tão somente as regras do programa social, mas também um conjunto unívoco de escolhas pessoais que envolvem disposições, bens e práticas simbólicas, valores, crenças e preconceitos de gênero, raça e classe, um habitus (Bourdieu, 2011), portanto, que implicaria em discriminação e agravo da desproteção. O algoritmo pode facilmente amplificar os efeitos nocivos desse habitus para uma escala de milhares de famílias em situação de desproteção social.
Algoritmos em todos os lugares no mundo digital
Algoritmos estão integrados ao nosso cotidiano, promovendo mudanças paradigmáticas, à exemplo do controle que exercem sobre o que vemos ou não na internet. Geram a sensação de privacidade ao mesmo tempo em que cada vez mais controlam nossa sociabilidade (Rezende, 2016). Naturalizamos a sua presença em nossas vidas e normalizamos o seu uso, mas sua normatização e controle social ainda resta pendente no âmbito das políticas públicas.
Embora o exemplo mais comum esteja nas redes sociais, algoritmos se fazem presente em muitas áreas e setores, como sistema bancário, indústria, bolsa de valores, comunicação, medicina, segurança pública, educação, esportes, marketing e publicidade, no ramo de seguros e na guerra Rússia / Ucrânia, entre outros. Nas companhias aéreas, por exemplo, assim como em outras empresas, é o algoritmo que precifica bens e serviços com base nas análises que realiza.
O modo como se pressiona a tela do celular e o respectivo tempo que isso leva, por exemplo, é capturado e analisado por algoritmos, que associa inúmeras outras variáveis e compara com o comportamento de milhares de pessoas, deduzindo o interesse particular e o convertendo em preço personalizado.
Algoritmos “racistas”
O resultado da automatização real, no entanto, pode não corresponder à expectativa do planejamento. Uma grande empresa de comércio eletrônico, por exemplo, não conseguiu explicar em 2011 porque um dos livros à venda chegou ao valor de 1,7 bilhões de dólares e depois subiu para 23,7 bilhões, sem o frete.
Estudo da Universidade de Chicago (2021), sobre a aplicação de algoritmos em bancos de dados de prontos-socorros de hospitais, mostrou que 82% dos pacientes que necessitaram de atendimento intensivo eram brancos, enquanto 18% negros, mas o algoritmo recalculou em mais da metade esse resultado quando se retirou a variável custo da busca por doença, revelando uma tendência inicial de causar danos em pacientes a partir das categorias raça e classe.
Há também denúncias de viés racial em algoritmo de reconhecimento facial aplicados para aumentar a segurança, ou em avaliações distorcidas sobre o histórico de grupos sociais que geram negativas inexplicáveis de empréstimos e seguros, como também de vistos, manipulação de apostas, sem falar das fake news. Esses exemplos demonstram que não é possível garantir precisão quando se trabalha com algoritmos. Assim, é razoável questionar:
quem conhece e controla os algoritmos utilizados para classificar, selecionar e avaliar os beneficiários que acessam, permanecem e são desligados do Auxílio Brasil? Qual é o processo para a sua definição? Quem decide sobre eventuais modificações nos algoritmos, quando e sob quais critérios? Quem controla isso?
Algoritmos e o Auxílio Brasil
Os algoritmos pavimentam a humilhante estrada de acesso ao Auxílio Brasil em todo o país. Por meio deles o Governo Federal gerencia o complexo critério vexatório da espera indefinida, que impõe às famílias a exigência de resiliência na busca pelo benefício de transferência de renda e de prestação continuada.
Não basta suportar a deterioração das condições de vida nos últimos anos, resultado do empobrecimento da população e dos agravos da pandemia da Covid, se faz necessário reunir forças para aguardar e garantir a sobrevivência por conta própria, sobrecarregando as famílias chefiadas por mulheres negras (IBGE, 2020), aumentando a incerteza e o sofrimento. Não existe dignidade nas filas do Cadastro Único, do Auxílio Brasil e do BPC; o que existe é acúmulo de violações, desde a falta de transparência ao desrespeito do direito de ser informado como cidadão.
A ausência de resposta é vexatória, tanto quanto as respostas imprecisas que atribuem ao “sistema” a responsabilidade decisória. Essa lacuna ou omissão é paralisante e silenciadora, porque o usuário se vê diante de uma tal situação contra a qual não pode agir, não tem a quem recorrer. O “sistema” não dialoga, é desumanizante. Uma pessoa inscrita no Cadastro Único não tem a possibilidade de contestar ou recorrer da decisão que indefere seu acesso à transferência de renda, pois a resposta não existe.
Ter a posse do comprovante de cadastramento, ou possuir o NIS, não é o mesmo que ter o protocolo de requerimento do Auxílio Brasil. Protocolo, aliás, inexistente. E sem requerimento formal, como o direito pode ser reclamado? O que preside esse modo de gestão não é o direito, mas a lógica da subalternidade do usuário, que se torna objeto do favor do Estado.
Algoritmos respondem ao seu formulador. O algoritmo reproduz a neurose da nossa formação cultural (Gonzalez, 2020), privilegiando alguns ao mesmo tempo em que ignora outros. Em bom “pretuguês” (para lembrar Lélia González), atende a quem o “senhor” quer e culpabiliza a família da “pretinha”, o “preto” e o pobre.
Enquanto o “sistema” goza da prerrogativa do princípio da legalidade, o usuário é subalternizado pela cultura da fraude. Por meio dele se projetam sombras que impactam milhares de vidas. Essa matemática automatizada não é e nem pode ser neutra. Ao processar enormes quantidades de dados o algoritmo gera uma probabilidade que uma certa família não tem direito de acessar o benefício do Auxílio Brasil. Isso se converte em pontuação e vira de ponta-cabeça a vida de milhares de famílias que estão em situação de absoluta desproteção social. Em qualquer tentativa de reação, se houver, evidências do contrário não são suficientes.
Esse tipo de algoritmo é obscuro, incontestável e irresponsabilizável, uma verdadeira “caixa-preta”, operando em larga escala para atingir milhares de pessoas e criando ciclos destrutivos ao confundir seus resultados com a realidade “pé-no-chão”.
Essa automatização conferiu um amplo poder ao governo federal sobre a transferência de renda, sem o mínimo de controle social. Algoritmos podem até gerar eficiência na gestão do programa Auxílio Brasil, mas não necessariamente promovem justiça no acesso de potenciais beneficiários e na permanência dos beneficiários.
Em um estudo realizado por Santos (2017), sobre o comportamento dos classificadores aplicados do programa Bolsa Família, concluiu-se que um desempenho satisfatório desses algoritmos não foi alcançado, identificando sua baixa eficiência. Estudos demonstram que a utilização desses classificadores pode aumentar ou diminuir eventuais falhas do programa (Santos, 2017).
Algoritmos e a reprodução das desigualdades
Além de tornar a burocracia opaca, o algoritmo pode tornar o acesso e a permanência no programa Auxílio Brasil confusos e incompreensíveis ao beneficiário, o que pode ser substancialmente agravado pela baixa escolaridade. Segundo Natalino (2020), boa parte dos beneficiários ou ex-beneficiários não compreendem bem as regras e o porquê as pessoas recebem ou deixam de receber o benefício. Essa constatação também se aplica aos profissionais que operam o Cadastro Único para fins do Auxílio Brasil e do BPC.
O trabalhador é envolvido nesse processo desrespeitoso contra o usuário, primeiro como responsável por inserir os dados no “sistema”; segundo, para garantir a adesão do usuário ao processo; terceiro, projetando um “ar” de humanização.
A realidade é que os profissionais que inscrevem a família no Cadastro Único não podem informar sobre o andamento do requerimento de acesso ao Auxílio Brasil, pois não dispõem dessa informação.
No máximo podem dizer que a família está em um lugar indefinido na fila e que o “sistema” fará a avaliação em momento oportuno. Isso porque depois do cadastramento, a seleção dos beneficiários é operada pelos algoritmos de classificação. O “sistema” organiza e decide quem acessa, permanece e é desligado do programa. É por meio dele que os operadores de decisões políticas controlam a “fila” e a “fila da fila”.
O “sistema” como resposta para os questionamentos do usuário gera silenciamento e insegurança, fragiliza o vínculo e prejudica a Proteção Social e a Defesa de Direitos. O “sistema” não garante as seguranças sociais. E o usuário entende bem isso. Ele espera muito mais da trabalhadora/trabalhador do Sistema Único de Assistência Social (SUAS). Não somos e não podemos nos permitir ser tão somente operadores do “sistema”, quem nada pode, nada sabe, nada sente. O resultado desse tipo de resposta é a deterioração das condições de vida das famílias mais pobres no limite da morte, como ocorreu recentemente na fila do CRAS em Brasília – a capital da República –, além da precarização cada vez mais ampla e irrestrita do SUAS.
Algoritmos tendem a punir os pobres, sendo projetados para avaliar volumes massivos de dados, envolvendo premissas que podem ser camufladas pela matemática, passando incontestadas (O’Neil, 2020). Estão presentes na assistência social, na transferência de renda e no Cadastro Único, assegurando ganho de escala ao processar grandes volumes de dados.
Embora relevante para a gestão da transferência de renda e do BPC, o algoritmo não é isento, não é sinônimo de eficiência e não pode ser utilizado como escudo contra o usuário. Sua aplicação no âmbito dos programas sociais reclama um lugar no debate público sobre o controle social. Sem crítica, o algoritmo reproduz desigualdades. É necessário, portanto, discuti-los a partir da perspectiva de quem não se beneficia deles.
[1] Pedagogo, Trabalhador do SUAS no CREAS São Sebastião/Distrito Federal e Mestrando em Sociologia na Universidade de Brasília. Correio eletrônico: hernany1@gmail.com
