Questão de Língua Portuguesa

Assim os algoritmos perpetuam a desigualdade social Cathy O'Neil, autora de 'Armas de Destruição Matemática', afirma que já é tarde para nos preocuparmos com a disponibilidade de nossos dados, que agora é preciso perguntar o que as empresas fazem com eles. 01 Cathy O’Neil é uma matemática de cabelo azul que dedica todos os seus esforços a abrir os olhos das 02 pessoas sobre os algoritmos que dominam o mundo. Desde os que indicam ao banco se você é apto ou não a 03 receber uma hipoteca, até os que decidem quem merece uma vaga de trabalho. Um sistema que pode perpetuar 04 as desigualdades existentes no mundo se não começarmos a ser críticos, defende a cientista. “Estamos dando 05 poder a mecanismos sem nos perguntar se realmente funcionam, isso é uma falha como sociedade”, explica 06 de Nova York ao outro lado do telefone. 07 O’Neil, em seu livro Armas de Destruição Matemática, mostra alguns exemplos para colocar essa teoria 08 em termos reais. Viaja em algumas de suas páginas a Reading, uma pequena cidade da Pensilvânia (Estados 09 Unidos) que em 2011 tinha um nível de pobreza superior a 41%, o mais alto de todo o país. Com um efetivo 10 reduzido pela crise, o chefe de polícia investiu em um programa de predição de crimes chamado PredPol que 11 funciona com big data. O aplicativo divide a cidade em quadrantes e determina em qual deles é mais possível 12 que se cometa um crime baseando-se no registro histórico da polícia. No leque de dados estão desde crimes 13 mais leves como perturbação da ordem pública (beber na rua, por exemplo), até homicídios. 14 Quanto maior for o número de agentes enviados aos pontos indicados pelo programa, mais prisões 15 ocorrem e assim se entra em um círculo vicioso que enche as prisões de gente, em sua maioria, acusada de 16 crimes menos graves. A maioria dos detidos é de negros e hispânicos. “O mapa da delinquência gerado desse 17 modo traça na realidade um rastro de pobreza”, diz a autora. “Continuamos prendendo negros por coisas pelas 18 quais não prendemos brancos, mas agora já não o dizemos abertamente e disfarçamos de ciência porque o 19 fazemos com o PredPol. Continuamos com o ciclo, porque continuamos prendendo gente de um bairro e os 20 dados nos dizem que precisamos voltar a esse bairro, dessa forma a injustiça policial continua”, afirma na 21 entrevista. 22 Vários estudos já indicaram que estamos cedendo o controle a mecanismos automáticos que perpetuam 23 a discriminação. Do algoritmo do Google que identificou um negro como um gorila em uma foto, até a máquina 24 que relaciona estar na cozinha com uma mulher, ou o algoritmo do Facebook que mostrava anúncios de casas 25 à venda somente a usuários brancos. “Os engenheiros pensam em termos de otimização dos recursos, o que é 26 preciso é diversidade nas equipes que escrevem os algoritmos para que incluam pessoas que pensem nas 27 violações dos direitos humanos e na forma como esses códigos irão afetar a sociedade: sociólogos, advogados, 28 psicólogos...”, afirma. 29 A matemática afirma que já é tarde para se preocupar pelo fato de que nossos dados estejam disponíveis, 30 que agora é preciso perguntar às empresas e gigantes tecnológicos o que estão fazendo com eles. “Não nos 31 damos conta na maioria das vezes que nos analisam, especialmente na Internet. Quando somos conscientes 32 de que recebemos uma pontuação de acordo com nossos dados, a primeira coisa que precisamos fazer é pedir 33 explicações, que nos mostrem o processo pelo qual fomos qualificados, se é algo importante como uma hipoteca 34 e um trabalho, até mesmo utilizando mecanismos legais. As vezes em que não percebemos, são os Governos 35 europeus e o dos Estados Unidos que precisam estabelecer normas que indiquem que a cada vez que 36 recebemos essa pontuação precisamos saber”, diz O’Neil. 37 O’Neil apagou sua conta do Facebook há um ano (e a do Twitter também não está disponível há algumas 38 semanas), logo depois das eleições vencidas por Donald Trump e que agora estão sendo investigadas pelo uso 39 dos dados de milhões de usuários do Facebook. O escândalo levou seu criador, Mark Zuckerberg, a dar 40 explicações no Senado dos Estados Unidos. “É preciso obrigar empresas como o Facebook a explicar o que 41 estão conseguindo com produtos, em vez de assumir que estão fazendo o melhor. Já temos a suspeita de que 42 o Facebook ajudou a divulgar notícias falsas, a influenciar o resultado de votações, a fazer com que as pessoas 43 acreditassem em teorias da conspiração. Por que não temos as provas reais, por que não as mostram?”, 44 pergunta a especialista. 45 O que acontece nos países menos desenvolvidos? São mais vulneráveis? “Lamentavelmente não acho 46 que têm a oportunidade de tomar o controle porque as empresas norte-americanas e chinesas estabelecerão 47 suas regras mais rápido do que as próprias pessoas”. Os dados variam, mas a Africa 2.0 International 48 Foundation dizia em uma conversa há um ano que no continente africano existem 800 milhões de terminais, 49 quando há 50 anos só existiam 40.000 telefones. Esses dispositivos, com Internet ou sem, já são uma fonte 50 inesgotável de dados às empresas. Página | 2 51 A matemática se mostra otimista, porque pelo menos os algoritmos fazem parte do debate atual, e não se 52 cansa de alertar sobre a confiança cega no big data: “Se você só usa dados do passado, está condenado a 53 repeti-lo. É preciso se perguntar aonde você quer chegar, em vez de se limitar a analisar de onde você vem. Se 54 estivéssemos orgulhosos de nosso sistema, poderíamos querer usar esses dados para manter tudo igual, mas 55 não é o caso”. PEIRÓ, Patrícia. Disponível em: https://brasil.elpais.com/brasil/2018/04/12/tecnologia/1523546166_758362.html?%3Fid_externo_rsoc=FB_BR_CM&fbclid=IwAR1vUSeLMXpei PJgtISOITMEQnfN2fbvPPm7mm02i9SCz3UwBh3onctnHBU (Acesso em 14/06/2019).