Dossiê Sur sobre Internet e Democracia Dossiê Sur sobre Internet e Democracia

Democracia e a virada algorítmica

Anita Gurumurthy e Deepti Bharthur

Questões, desafios e o caminho a seguir

Franco Rabazzo

+ ARTIGOS

RESUMO

No momento atual de agitação em torno da democracia, o papel da tecnologia tem ganhado cada vez mais espaço no debate democrático devido ao seu papel em facilitar debates políticos, e como os dados dos usuários têm sido coletados e utilizados. Este artigo tem o intuito de discutir a relação entre democracia e a “virada algorítmica” – definida pelas autoras como “o papel central e estratégico desempenhado pelo processamento de dados e pelo raciocínio automatizado em processos eleitorais, governança e tomada de decisão”. Para isso, as autoras nos ajudam a entender como esse fenômeno tem influenciado a sociedade – de formas positivas e negativas – e quais são as implicações práticas que podemos observar como resultado.

• • •
01

A democracia está em um momento decisivo. De um lado, experiências revigorantes na descentralização e horizontalização de processos políticos estão reinventando as fronteiras da democracia, seja através do surgimento da juventude na política formal na Índia e no México,11. Radhika Ramaseshan, “After Gujarat 2017: Can BJP’s Communalism Make Up for its Agrarian Neglect?” Economic and Political Weekly 52, no. 51 (2017), acesso em 14 de junho de 2018, http://www.epw.in/te/engage/article/after-gujarat-2017-can-bjps-communalism-make-its-agrarian-neglect; PaulinaVillegas, “Wave of Independent Politicians Seek to ‘Open Cracks’ in Mexico’s Status Quo.” The New York Times, 11 de março de 2018, acesso em 14 de junho de 2018, https://www.nytimes.com/2018/03/11/world/americas/mexico-election-pedro-kumamoto.html. da recuperação da autogovernança da comunidade em espaços urbanos como no caso dos municípios espanhóis em rede,22. Ismael Peña-López, “Voice or Chatter Case Studies: decidim.barcelona, Spain.” IT for Change, 2017, acesso em 14 de junho de 2018, http://itforchange.net/mavc/wp-content/uploads/2017/10/Voice-or-Chatter_Case-Study_Spain_August-2017.pdf. ou o surgimento de um novo ethos cidadão DIY (Do it Yourself ou Faça Você Mesmo).33. Albert J. Meijer, “The Do It Yourself State,” Information Polity 17, nos. 3, 4 (2012): 303-314. Por outro lado, uma série de avanços − mandatos eleitorais inesperados que surpreenderam os especialistas, como na eleição presidencial dos EUA em 2016; um déficit de confiança em expansão entre Estado e cidadão em muitas partes do mundo44. Cristian Berrío-Zapata, e Darío Sebastian Berrío-Gil, “Voice or Chatter Case Studies: Urna de Cristal, Colombia.” IT for Change, 2017, acesso em 14 de junho de 2018, http://itforchange.net/mavc/wp-content/uploads/2017/09/Voice-or-Chatter_Case-Study_Colombia_August-2017.pdf. e a redução da fé nas instituições da democracia;55. Roberto Foa e Yascha Mounk, “Across the Globe, a Growing Disillusionment With Democracy.” The New York Times, 15 de setembro de 2015, acesso em 14 de junho de 2018, https://www.nytimes.com/2015/09/15/opinion/across-the-globe-a-growing-disillusionment-with-democracy.html?_r=0. a busca de possibilidades extrainstitucionais de liderança fora dos locais tradicionais de ação, como governo, sindicatos, partidos políticos, etc.;66. Peña-López, “Voice or Chatter Case Studies,” 2017. a polarização da esfera pública e um conluio desconcertante entre a classe tecnocapitalista e o estado informacional tecnocrático − apontam para novos desafios para a democracia.77. Anita Gurumurthy, Deepti Bharthur, e Nandini Chami, “Voice or Chatter? Making ICTs Work for Transformative Engagement.” Making All Voices Count Research Report,14 de setembro de 2017, acesso em 14 de junho de 2018, http://www.makingallvoicescount.org/publication/voice-chatter-making-icts-work-transformative-citizen-engagement/.

Com a mão invisível da tecnologia cada vez mais reveladora, a própria cidadania está em uma encruzilhada. Manipulados magistralmente por táticas baseadas em dados, os cidadãos encontram-se cada vez mais inseridos nos respectivos lados de uma divisão ideológica crescente e implacável. No entanto, com a capacidade de mobilizar 140 caracteres e uma útil hashtag, eles também conseguiram se apropriar do cenário digital como uma fronteira decisiva para todos os tipos de engajamento cívico. Desde o movimento de estudantes do #FeesMustFall na África do Sul88. Pastor Mpofu, “A ruptura como estratégia comunicativa: O caso de #FeesMustFall e #RhodesMustFall Os protestos de estudantes na África do Sul” Journal of African Media Studies 9, no. 2 (2017): 351-373; Thierry Luescher, Lacea Loader, e Taabo Mugume, “# FeesMustFall: An Internet-age Student Movement in South Africa and the case of the University of the Free State,” Politikon 44, no. 2 (2017): 231-245. e os protestos contra a violência sexual contra mulheres e meninas na Índia,99. Krupa Shandilya, "Corpo de Nirbhaya: A política de Protesto no Rescaldo do Estupro Coletivo de Delhi em 2012,” Gender & History 27, no. 2 (2015): 465-486; Saifuddin Ahmed, Kokil Jaidka, e Jaeho Cho, “Tweeting India’s Nirbhaya Protest: A Study of Emotional Dynamics in an Online Social Movement,” Social Movement Studies 16, no. 4 (2017): 447-465. o mundo on-line parece ter garantido seu lugar como palco para a ação cívico-pública.

Este ensaio explora o papel da virada algorítmica – definida aqui como o papel central e estratégico desempenhado pelo processamento de dados e pelo raciocínio automatizado – basicamente, a implantação de táticas de inteligência digital – em processos eleitorais, governança e tomada de decisão – em relação à transição democrática em andamento. Primeiramente, discutiremos as maneiras pelas quais a inteligência digital está influenciando e ditando os comportamentos e resultados dos eleitores. Em seguida, analisaremos o crescente papel dos dados e dos algoritmos nos processos de governança e decisão sobre políticas e as implicações para os direitos dos cidadãos. Por último, apresentaremos algumas questões sobre a governança dessa integração tecnológica nos processos democráticos.1010. Este ensaio, além de ser baseado em recentes eventos e discursos políticos globais, também se respalda em aprendizados-chave de um projeto de pesquisa que realizamos em 2016-17 intitulado ‘Voice or Chatter? Using a Structuration Framework Towards a Theory of ICT-mediated Citizen Engagement’ (Gurumurthy et al., “Voice or Chatter?”, 2017). Através de estudos de caso em oito países da Ásia, África e Europa, o estudo examinou a relação complexa e dinâmica entre as estruturas de tecnologia e as estruturas da democracia e as implicações para o envolvimento e a voz dos cidadãos.

02

Seu voto, tecnologia deles! Como os arquivos com grandes volumes de dados (“Big Data”) e a tecnologia a eles relacionada (“Big Tech”) estão influenciando as eleições

Dos estudos um pouco simplistas dos primórdios das tecnologias de mídia de massa, como o papel do rádio, do cinema e dos jornais no tempo de guerra,1111. Harold D. Lasswell, Propaganda Technique in the World War (Gloucester: Peter Smith, 1927). a um trabalho mais recente que analisou o papel dos telefones celulares e do Big Data1212. “Big Data” são conjuntos de dados extremamente grandes que podem ser analisados computacionalmente para revelar padrões, tendências e associações, especialmente relacionadas ao comportamento e às interações humanas. nas eleições,1313. Robin Jeffrey e Assa Doron, “Mobile-izing: Democracia, Organização e as Primeiras Eleições da ’Mass Telemóvel’ da Índia,” The Journal of Asian Studies 71, no. 1 (2012): 63-80; Sasha Issenberg, “How President Obama’s Campaign Used Big Data to Rally Individual Voters,” Technology Review 116, no. 1 (2012): 38-49, acesso em 14 de junho de 2018, https://www.technologyreview.com/s/508836/how-obama-used-big-data-to-rally-voters-part-1/. a capacidade de difundir mensagens-chave e propaganda por interesses atribuídos tem sido reconhecida há muito tempo.

No entanto, as ferramentas e táticas de manipulação da esfera pública que estamos testemunhando hoje não possuem precedentes. O uso antiético de Big Data e a aprendizagem automática1414. O uso de técnicas estatísticas que permitem que os computadores melhorem interativamente em uma determinada tarefa por meio de entradas de dados. para iludir a esfera pública de formas perniciosas marca um novo ponto de partida. Por exemplo, por meio do intenso nível de vigilância dos eleitores através de ferramentas digitais, a Inteligência Artificial (IA) permite que a influência política passe das campanhas públicas para o sentimento privado,1515. Vyacheslav Polonski, “The Good, the Bad and the Ugly Uses of Machine Learning in Election Campaigns.” Centre for Public Impact, August 30, 2017, acesso em 14 de junho de 2018, https://www.centreforpublicimpact.org/good-bad-ugly-uses-machine-learning-election-campaigns/. uma mudança que reposiciona a política eleitoral de um espetáculo aberto a um script encoberto.

Além disso, à medida que a internet cresceu, também houve desinformação. Costuma-se afirmar que vivemos em tempos de “pós-verdade”. O que isso significa é que, conforme a viralização, a velocidade e o alcance da informação digital aumentam, surge uma multiplicidade de narrativas que afastam narrativas grandiosas e confiáveis. O fato de podermos escolher com quais comunidades queremos estar conectados significa que a sabedoria recebida das sociedades – o conhecimento comum e as normas compartilhadas entre as comunidades – está ruindo.1616. Michael Barthel, Amy Mitchell, e Jesse Holcomb, “Many Americans Believe Fake News is Sowing Confusion.” Pew Research Center, 15 de dezembro de 2016, acesso em 14 de junho de 2018, http://www.journalism.org/2016/12/15/many-americans-believe-fake-news-is-sowing-confusion/. Nesse fluxo, o sentimento social e político de indivíduos e comunidades se torna vulnerável à manipulação e ao jogo.

Em março de 2018, enquanto este artigo estava sendo escrito, o The Guardian publicou a espantosa notícia sobre como a Cambridge Analytica, uma empresa de análise de dados antes obscura, tinha conseguido – por meio da coleta de dados dos usuários do Facebook – vitórias para a campanha Brexit Leave no Reino Unido e para a campanha de Donald Trump nas eleições presidenciais dos Estados Unidos.1717. “The Cambridge Analytica Files,” The Guardian, 2018, acesso em 14 de junho de 2018, https://www.theguardian.com/news/series/cambridge-analytica-files. A exposição revela não apenas a manipulação em grande escala dos usuários que o paradigma técnico torna possível, mas também as implicações reais do perfil comportamental e psicográfico e o direcionamento dos eleitores sobre os resultados eleitorais reais. As táticas inescrupulosas da empresa incluíam o scraping (uma forma de coleta automatizada de dados) e a exploração de dados de usuários do Facebook sem o consentimento informado e a oferta de incentivos monetários para participar de questionários que eram sondagens psicológicas habilmente disfarçadas.1818. Ibid. Além disso, esses dados foram usados ​​para o envio de mensagens polarizadas e a disseminação de notícias falsas.

O Twitter assumiu o centro do palco no teatro político mexicano em 2012. O fracasso da grande mídia em informar sobre a violência das drogas devido a ameaças de cartéis significou que os cidadãos mexicanos já dependiam do Twitter para notícias e atualizações. Os militantes dos partidos nas eleições gerais se aproveitaram disso, enviando spams à rede com milhares de bots1919. Referindo-se aqui a contas automatizadas do Twitter que captam e amplificam mensagens e inundam o espaço da internet. que trabalham 24 horas por dia para promover novos tópicos específicos, e alinharam a lista de trending topics com os interesses dos militantes, inundando o espaço com “guerrinhas” sem sentido2020. Uma longa troca de mensagens furiosas ou abusivas entre usuários de um fórum on-line. que não davam margem para engajamento profundo.2121. Mike Orcutt, “Twitter Mischief Plagues Mexico’s Election.” MIT Technology Review, 21 de junho de 2012, acesso em 14 de junho de 2018, http://www.technologyreview.com/news/428286/twittermischief-plagues-mexicos-election/. O que vemos é que as estruturas tecnológicas do dia incorporadas às plataformas de mídia amplamente usadas e abusadas na política cotidiana influenciam diretamente a forma como os processos e resultados políticos são moldados.

As eleições presidenciais francesas de 2017 mostraram o quão extenso o uso de bots pode ser. Em maio de 2017, o Oxford Internet Institute realizou uma análise da hashtag #MacronLeaks, que envolveu um despejo de dados da correspondência de e-mail do então candidato presidencial francês. Constatou-se que 50% do conteúdo do Twitter, que consistia em documentos vazados e relatórios falsificados, foi gerado por apenas três por cento do número total de contas do Twitter. Essas contas de bots estavam impulsionando 1.500 tweets únicos por hora, ganhando uma média de 9.500 retweets. O estudo concluiu que mais de 22,8 milhões de usuários do Twitter foram expostos a essa informação a cada hora no dia da eleição na França.2222. Vyacheslav Polonski, “#MacronLeaks Changed Political Campaigning. Why Macron Succeeded Where Clinton Failed.” World Economic Forum, 12 de maio de 2017, acesso em 14 de junho de 2018, https://www.weforum.org/agenda/2017/05/macronleaks-have-changed-political-campaigning-why-macron-succeeded-and-clinton-failed; Emilio Ferrara, “Disinformation and Social Bot Operations in the Run Up to the 2017 French Presidential Election,” First Monday 22, no. 8 (2017).

Práticas mais antigas, como o gerrymandering – a manipulação das fronteiras de um grupo de eleitores de modo a trazer vantagem política para um determinado partido2323. Nicholas O. Stephanopoulos e Eric M. McGee, “Partisan Gerrymandering and the Efficiency Gap,” The University of Chicago Law Review 82, no. 2 (2015): 831-900. – encontraram um novo ímpeto no poder preditivo do Big Data. O gerrymandering tem demonstrado contribuir para o aumento da polarização política,2424. Ben Wofford, “The Great Gerrymandering Debate.” Brown Political Review, 15 de julho de 2014, acesso em 14 de junho de 2018, http://www.brownpoliticalreview.org/2014/07/the-great-gerrymandering-debate/. com impactos desproporcionais sobre os pobres. Líderes eleitos nessas zonas eleitorais polarizadas tendem tipicamente a evitar questões sobre a desigualdade econômica.2525. Nolan McCarty, Keith T. Poole, and Howard Rosenthal. “Does gerrymandering cause polarization?.“ American Journal of Political Science 53, no. 3 (2009): 666-680. O que pode ser deduzido da discussão anterior é que, embora a campanha eleitoral baseada em dados possa potencialmente trazer novas eficiências e efetividades à organização e à campanha, o fato de que as plataformas tecnológicas que definem a esfera pública hoje são controladas pela elite não é bom para o sistema de democracia eleitoral como um todo. Em teoria, a inteligência digital extraída de dados reduz o trabalho intensivo em recursos humanos, permite que os organizadores de base otimizem suas pesquisas e possam mitigar as distorções do grande capital nas eleições, permitindo que os candidatos atinjam seus eleitores através das mídias sociais, literalmente sem custo. No entanto, se o episódio da Cambridge Analytica ou do MacronLeaks pode nos ensinar algo é que estamos nos encaminhando para um futuro muito diferente, no qual o comportamento dos eleitores está sendo manipulado para resultados específicos que podem não refletir um mandato democrático ou tampouco uma escolha informada.

Esses desenvolvimentos representam uma crise para a esfera pública. Citando Dewey, os “públicos” em uma democracia são criados através de “consequências indiretas, extensas, duradouras e sérias do comportamento conjunto e interagente”.2626. Tauel Harper, “The Big Data Public and its Problems: Big Data and the Structural Transformation of the Public Sphere,” New Media & Society 19, no. 9 (2016): 1424-1439. Manipulada pelo capital e pela tecnologia, a própria constituição dos públicos está em risco hoje em dia, com a interação do cidadão impulsionada em câmaras de eco de informação que reforçam e ampliam o viés profundo, resultando em uma banalidade que impede a deliberação e coloca riscos particulares, especialmente para populações já marginalizadas.

03

O algoritmo vê, o algoritmo repete

Embora as eleições sejam pontos críticos – com relevância midiática por natureza –, as práticas cotidianas da democracia, rotineiras e pouco notáveis, raramente atraem o mesmo tipo de atenção da mídia. No entanto, muitas vezes são as estruturas e práticas da interação cidadão-Estado cotidiana que se tornam cruciais para a promoção do tipo de mudança institucional que pode, em última instância, contribuir para tornar a democracia transformadora.

Sem dúvida, há vantagens e eficiências que a governança digitalmente mediada pode oferecer, como acesso mais fácil a informações e direitos para o cidadão e maior transparência e capacidade de resposta para as instituições do Estado. Arranjos de governo eletrônico também podem ajudar a alcançar os objetivos da governança participativa. O surgimento de uma rede on-line de municípios na Espanha é um excelente exemplo capaz de demonstrar isso.2727. Gurumurthy et al., “Voice or Chatter?”, 2017. No entanto, quando o engajamento Estado-cidadão migra para o mundo virtual nas modalidades digitais e as arquiteturas de governança se tornam digitalizadas, elas impõem desafios administrativos e legislativos, com implicações significativas para os direitos dos cidadãos.2828. Ibid.

Hoje, em todo o mundo tecnologias de cálculo e regulação estão sendo implantadas para promulgar e regular seus sujeitos – cidadãos, migrantes, consumidores, estudantes, colegas e muitos outros.2929. Lucas D. Introna, “Algorithms, Governance, and Governmentality: On Governing Academic Writing,” Science, Technology, & Human Values 41, no. 1 (2016): 17-49. Algoritmos definem a informação a ser trabalhada, engajam-se em “ordenação social”3030. David Lyon, “Surveillance in Cyberspace: The Internet, Personal data, and Social Control,” Queen’s Quarterly 109, no. 3 (2002): 345-356. e criam repertórios autônomos de ação e reação. “Algoritmos ‘governam’ porque eles têm o poder de estruturar possibilidades”, observa Ananny.3131. Mike Ananny, “Toward An Ethics of Algorithms: Convening, Observation, Probability, and Timeliness,” Science Technology, & Human Values 41, no. 1 (2016): 97. Napoli ainda argumenta que os algoritmos passaram a tomar o lugar das instituições “por causa de seu poder de estruturar o comportamento, influenciar as preferências, orientar o consumo, produzir conteúdo, qualidade de sinal e influenciar a mercantilização”.3232. Philip M. Napoli, “Automated Media: An Institutional Theory Perspective on Algorithmic Media Production and Consumption,” Communication Theory 24, no. 3 (2014): 340-360.

O Estado em si pode ser lido como uma montagem algorítmica, uma teia complexa de atores técnicos, tecnologias autônomas e camadas de dados que se juntam para prevalecer sobre a ostensiva falibilidade e ineficiência da intenção humana. Os dados nesta equação não são meramente uma fonte de conhecimento; tornam-se o próprio conhecimento.3333. Rob Kitchin, "Big Data, Novas Epistemologias e Mudanças de Paradigma", Big Data & Society 1, no. 1 (2014): 1-12.

Considere, por exemplo, Singapura. Desenvolvido pela primeira vez para detectar surtos de gripe aviária, o sistema de Avaliação de Risco e Varredura de Horizonte (RAHS, na sigla em inglês) em Singapura – que reúne informações de um conjunto exaustivo de bancos de dados privados e públicos – tornou-se a principal ferramenta de tomada de decisão do Estado – de política de imigração, previsões econômicas e currículo escolar e até mesmo de avaliação do “estado de espírito” do país usando o Facebook.3434. Shane Harris, “The Social Laboratory.” Foreign Policy, julho de 2014, acesso em 14 de junho de 2018, http://foreignpolicy.com/2014/07/29/the-social-laboratory/. Esse sistema de vigilância altamente centralizado e abrangente não encontra um contra-ataque abrangente nas estruturas de privacidade dos cidadãos.3535. “The Right to Privacy in Singapore,” Privacy International, junho de 2015, acesso em 14 de junho de 2018, https://privacyinternational.org/sites/default/files/2017-12/Singapore_UPR_PI_submission_FINAL.pdf. A gigante de mídia social chinesa Baidu fez parceria com os militares no projeto China Brain para criar um sistema de crédito social e classificação para os cidadãos com base em seu engajamento de mídia social,3636. Dirk Helbing et al., “Will Democracy Survive Big Data and Artificial Intelligence.” Scientific American, 25 de fevereiro de 2017, acesso em 14 de junho de 2018, https://www.scientificamerican.com/article/will-democracy-survive-big-data-and-artificial-intelligence/. o que significa que a atividade de mídia social dos cidadãos pode ser monitorada e vigiada através de sanções do Estado e têm um impacto direto sobre suas liberdades.

Em particular, as decisões de bem-estar social estão cada vez mais voltadas para a tomada de decisão baseada em dados na Índia, na Austrália e nos EUA, criando exclusões em larga escala em questão de um único clique, com consequências punitivas para os pobres e marginalizados.3737. Gurumurthy et al., “Voice or Chatter?”, 2017; Tal Zarsky, “The Trouble With Algorithmic Decisions: An Analytic Road Map to Examine Efficiency and Fairness in Automated and Opaque Decision Making,” Science, Technology, & Human Values 41, no. 1 (2016): 118-132; Virginia Eubanks, Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor (New York: St.Martin’s Press, 2018). Como Ananny observa, os algoritmos estão “embutidos nas estruturas sociotécnicas; eles são moldados por comunidades de prática, incorporados em padrões e mais visíveis quando falham”.3838. Mike Ananny, “Toward an ethics of algorithms: Convening, observation, probability, and timeliness.“ Science, Technology, & Human Values 41, no. 1 (2016): 93-117, 98.

Os regimes globais de dados, sejam bancos de dados estatais como o RAHS ou gerenciados privativamente por empresas de plataformas, são os mais recentes de uma linha de sistemas em que os cidadãos não votam, mas acabam moldando as políticas significativas que afetam suas vidas. As parcerias globais de dados viram, assim, a infiltração em grande escala dos capitalistas de dados em sistemas até então públicos. Como resultado, a infraestrutura pública é reconfigurada em enclaves de dados privados. Isso impõe sérias preocupações para o bem público e a responsabilidade do cidadão.3939. Laura Mann, “Left to Other Peoples’ Devices? A Political Economy Perspective on the Big Data Revolution in Development,” Development and Change 49, no. 1 (2017): 3-36. Setores críticos como a educação se metamorfosearam em sites secretos de exploração de dados realizada por programas. Os exemplos incluem o Google Apps para a Educação (GAFE, na sigla em inglês)4040. Maria Lindh e Jan Nolin, “Information We Collect: Surveillance and Privacy in the Implementation of Google Apps for Education,” European Educational Research Journal 15, no. 6 (2016): 644-663. e a Curva de Aprendizagem da Pearson para modelagem em grande escala e análise preditiva,4141. Ben Williamson, “Digital Education Governance: Data Visualization, Predictive Analytics, and ‘Real-time’ Policy Instruments,” Journal of Education Policy 31, no. 2 (2016): 123-141. que representam novos desafios éticos às práticas institucionais. Essa mudança também é visível nos serviços de saúde, com projetos ambiciosos de “medicina inteligente”, como o Watson, da IBM.4242. David H. Freedman, “A Reality Check for IBM’s AI Ambitions.” MIT Technology Review, 27 de junho de 2017, acesso em 14 de junho de 2018, https://www.technologyreview.com/s/607965/a-reality-check-for-ibms-ai-ambitions/.

À medida que os dados possibilitam que a tomada de decisões se torne normalizada nos serviços públicos e nos sistemas de governança, eles promovem uma centralização de autoridade e poder. Os fatos são seletivamente mobilizados para posicionar a intenção política como objetividade tecnogerencial, enquanto a discrição e a flexibilidade local para lidar com reivindicações contextuais de cidadãos marginalizados são eliminadas.4343. Gurumurthy et al., “Voice or Chatter?”, 2017. Na Índia, por exemplo, a tomada de decisão automatizada sobre direitos com base em conjuntos de dados que estavam incorretos resultou em grandes exclusões de pessoas de benefícios sociais. Embora problemas em qualquer sistema sejam previsíveis, o que tornou a questão insustentável neste caso foi o fato de que nenhuma alternativa para lidar com erros comuns ou falhas tecnológicas foi considerada, deixando os cidadãos, muitos deles criticamente dependentes dos sistemas, descobertos com base em uma decisão completamente automatizada, trabalhando com dados falhos. O gerenciamento de bem-estar algorítmico, definido aqui como a prática de implantar soluções tecnológicas e baseadas em dados para processar e aprovar direitos, usa o mito da santidade dos dados − colocando-o como um meio necessário e infalível para conectar vazamentos e resgatar a democracia em recursos públicos.4444. Deepti Bharthur, “Voice or Chatter Case Studies: Rajasthan Sampark, India.” IT for Change, 2017, acesso em 14 de junho de 2018, https://itforchange.net/mavc/blog/author/deepti/.

No que diz respeito às evidências, a virada algorítmica na democracia, cujas manifestações foram discutidas nas seções anteriores, está embutida no levante da estrutura global e local do capitalismo autoritário, voltado para preservar um consenso neoliberal, mesmo que os interesses locais estejam em perigo.4545. Peter Bloom, Authoritarian Capitalism in the Age of Globalization (Cheltenham: Edward Elgar Publishing, 2016). Fragmentando as sociedades de forma insidiosa, privando os cidadãos marginais de forma sistemática e gerando distrações políticas continuamente, os conjuntos tecnológicos baseados em dados e a inteligência digital apresentam desafios imensos e urgentes para o futuro das sociedades humanas.

A legitimidade da virada algorítmica foi auxiliada por uma meta-narrativa da tecnomodernidade que todas as nações deveriam abraçar. Criadas como ferramentas neutras de progresso econômico e avanço social, as tecnologias digitais adquiriram uma aura de ingovernabilidade. As grandes corporações de tecnologia frequentemente apresentam ferramentas de IA que aprendem e se adaptam rapidamente como uma força autônoma complexa demais para ser completamente compreendida. No entanto, em um mundo em que os dados rapidamente se desdobram, a integração da inteligência digital precisa estar enraizada em estruturas de responsabilidade, em que a intenção social orienta a apropriação da tecnologia.

04

De olho nos sentinelas – necessidade de novas abordagens

À luz dos acontecimentos e desenvolvimentos recentes que emanam da “internet Frankenstein” com a qual contamos hoje em dia, as corporações digitais têm divulgado declarações públicas sobre melhores padrões e normas industriais para privacidade. O Google revelou um conjunto de princípios de Inteligência Artificial que ostensivamente “levará em conta uma ampla gama de fatores sociais e econômicos e prosseguirá onde (o Google) acredita que os benefícios prováveis ​​globais excedem substancialmente os riscos e desvantagens previsíveis”.4646. Sundar Pichai, “AI at Google: Our Principles.” Google, 7 de junho de 2018, acesso em 14 de junho de 2018, https://www.blog.google/topics/ai/ai-principles/. Os princípios, que surgem em resposta à pressão pública e ao descontentamento dos funcionários, conforme o que acontece na atualidade, podem parecer um bom primeiro passo, mas se a empresa está mantendo ou não seu compromisso ético é algo que está baseado na avaliação do próprio Google.4747. Eric Newcomer, “What Google’s AI Principles Left Out.” Bloomberg, 8 de junho de 2018, acesso em 14 de junho de 2018, https://www.bloomberg.com/news/articles/2018-06-08/what-google-s-ai-principles-left-out. Empresas de plataforma como o Facebook4848. Mark Zuckerberg, 2018, “I want to share an update on the Cambridge Analytica situation…”. Facebook, 21 de março de 2018, acesso em 14 de junho de 2018, https://www.facebook.com/zuck/posts/10104712037900071. também se comprometeram a desenvolver padrões éticos e soluções baseadas em IA e design para combater os problemas discutidos anteriormente referentes à tecnologia de fuga. Órgãos como o Instituto de Engenheiros Elétricos e Eletrônicos (IEEE) estão trabalhando ativamente para desenvolver padrões e diretrizes para a IA ética.4949. Veja “A Iniciativa Global IEEE sobre Ética de Sistemas Autônomos e Inteligentes,” IEEE Standards Association, 2017, acesso em 14 de junho de 2018, https://standards.ieee.org/develop/indconn/ec/autonomous_systems.html. Embora este seja um movimento bem-vindo, o projeto democrático neste momento de fluxo precisa de uma revisão das normas e culturas institucionais. Deliberar e debater a ética que é adequada ao tecnoparadigma do século XXI precisa ser seguido de medidas não negociáveis e proeminentes para traduzir as reflexões éticas em normas claras, estruturas institucionais e em supervisão.

Por um lado, a esfera pública hoje tem necessidade imediata de fortalecimento contra as rupturas do grande capital e da tecnologia, se quisermos corrigir o descarrilamento dos processos democráticos. Políticas que podem efetivamente governar a desinformação e a engenharia social são necessárias para assegurar que o espírito de deliberação e engajamento político seja preservado. Alguns países, como a Malásia,5050. Nazura Ngah, “FAQs: What You Need to Know About the Anti-Fake News Bill 2018.” New Straits Times, 26 de março de 2018, acesso em 14 de junho de 2018, https://www.nst.com.my/news/nation/2018/03/349691/faqs-what-you-need-know-about-anti-fake-news-bill-2018. a Irlanda5151. Kevin Doyle, “Five Years in Jail for Spreading ’Fake News’ Under FF Proposal.” The Independent, 4 de dezembro de 2017, acesso em 14 de junho de 2018, https://www.independent.ie/irish-news/politics/five-years-in-jail-for-spreading-fake-news-under-ff-proposal-36375745.html. e a Alemanha,5252. “Germany Approves Plans to Fine Social Media Firms up to 50m,” The Guardian, 30 de junho de 2017, acesso em 14 de junho de 2018, https://www.theguardian.com/media/2017/jun/30/germany-approves-plans-to-fine-social-media-firms-up-to-50m. responderam a essa crise com uma legislação capaz de conter a disseminação de notícias falsas e o mau uso de plataformas por meio de medidas punitivas. Outros, como os EUA, estão pressionando por uma maior transparência em propagandas políticas on-line com propostas de legislação, como o The Honest Ads Act.5353. Veja “S.1989 - Honest Ads Act,” Congress.gov, 2017, acesso em 14 de junho de 2018, https://www.congress.gov/bill/115th-congress/senate-bill/1989. A onda de propostas de regulamentação e legislação é um sinal bem-vindo de que os países acordaram para enxergar a mensagem escrita em letras garrafais. No entanto, a linha tênue que, se cruzada, faz com que a vigilância de plataformas se transforme facilmente em censura institucional será a ladeira escorregadia que a que será necessário atentar.

Há, portanto, um consenso lento, mas crescente, de que são necessárias soluções, de modo a enriquecer o capital social dos cidadãos em vez de infringir seus direitos. O pensamento crítico e o discernimento a respeito do consumo de conteúdo significativo, em um cenário tecnológico repleto de mentiras, continuam sendo um desafio importante e as políticas que defendem a mídia crítica e a alfabetização digital em escolas e instituições nesse contexto serão um passo positivo.5454. “Fighting Fake News – Workshop Report,” Information Society Project, 2018, acesso em 14 de junho de 2018, https://law.yale.edu/system/files/area/center/isp/documents/fighting_fake_news_-_workshop_report.pdf.

A formulação de políticas deve deixar de ser reativa para se tornar uma democracia ativamente voltada para o futuro, contra as tendências autocráticas e a fluência de funções de informação e governança algorítmica. Na ausência de normas e políticas claramente articuladas, os agrupamentos algorítmicos, integrados rapidamente às estruturas de governança atuais, correm o risco de se tornarem substitutos da política.

Algoritmos são limitados quando se trata de exibir nuances, negociar compensações ou exercer a discrição necessária.5555. Barry Devlin, “Algorithms or Democracy – Your Choice.” Upside, 8 de setembro de 2017, acesso em 14 de junho de 2018, https://tdwi.org/articles/2017/09/08/data-all-algorithms-or-democracy-your-choice.aspx. Essa falta de flexibilidade esvazia completamente os direitos dos cidadãos de representação e participação significativas. Como um importante bloco de construção da democracia na era digital, a inteligência digital precisa ser imaginada, calibrada, testada e recalibrada recursivamente através do prisma dos direitos dos cidadãos dentro de estruturas institucionais de transparência e responsabilidade.

Precisamos, portanto, de um “processo decorrente da tecnologia”,5656. Danielle Keats Citron, “Technological Due Process,” Wash. UL Rev. 85 no. 1249 (2007); Danielle Keats Citron and Frank A. Pasquale, “The Scored Society: Due Process for Automated Predictions,” Wash. L. Rev. 89, no. 1 (2014). sólido e bem desenvolvido, que possa garantir a justiça e preservar o domínio da elaboração de regras participativa. O direito de investigar a caixa preta algorítmica, exigir explicações e desafiar a tomada de decisão automatizada é fundamental para realizar o direito de ser ouvido no contexto da governança digitalizada. O Direito à Explicação na Proteção e Regulamentação Geral de Dados da União Europeia5757. GDPR, 2018, https://eur-lex.europa.eu/eli/reg/2016/679/oj. e a decisão da Cidade de Nova York de criar uma força-tarefa para examinar “sistemas de decisão automatizados” na administração pública são alguns movimentos positivos nessa direção.5858. Julia Powles, “New York City’s Bold, Flawed Attempt to Make Algorithms Accountable.” The New Yorker, 20 de dezembro de 2017, acesso em 14 de junho de 2018, https://www.newyorker.com/tech/elements/new-york-citys-bold-flawed-attempt-to-make-algorithms-accountable. Além disso, a responsabilização algorítmica precisa ser complementada com estruturas robustas de proteção de dados que protejam os direitos dos cidadãos, permitam-lhes o controle sobre seus dados e evitem as técnicas baseadas em dados que sejam antiéticas, inescrupulosas, bem como a especulação. As políticas devem encontrar o equilíbrio certo entre a preocupação com os dados individuais pessoais e privados e a consideração dos dados como um valor coletivo de bem público. Isso significa que algumas dimensões dos dados e a inteligência digital são tratadas como recursos públicos e sujeitas à supervisão pública apropriada. Isso é algo não negociável se queremos que a governança baseada em dados reflita verdadeiramente os propósitos democráticos, promova o desenvolvimento inclusivo e garanta os direitos dos cidadãos.

Em última análise, é a intenção humana que determina o design democrático ou a falta dele em qualquer tecnologia.5959. Gurumurthy et al., “Voice or Chatter?”, 2017. A inteligência digital e os conjuntos algorítmicos podem vigiar, privar ou discriminar, não por métricas objetivas, mas porque não foram submetidos à necessária supervisão institucional que sustenta a realização de ideais socioculturais nas democracias contemporâneas. As inovações do futuro só podem promover a equidade e a justiça social se as políticas de hoje moldarem um mandato para sistemas digitais que centralize a agência cidadã e a responsabilidade democrática.

https://sur.conectas.org/wp-content/uploads/2018/07/anita-gurumurthy.jpg

Anita Gurumurthy - Índia

Anita Gurumurthy é fundadora e diretora executiva de IT for Change (TI para a Mudança), onde lidera pesquisas colaborativas e projetos com relação à sociedade de redes, com foco em governança, democracia e igualdade de gênero. Seu trabalho reflete o grande interesse nos enquadramentos do Sul e na governança político-econômica da Internet e de dados e da vigilância. Anita se engaja ativamente com agentes políticos, profissionais, ativistas de movimentos sociais e com a comunidade acadêmica de forma a expandir e aprofundar debates sobre o imperativo de políticas públicas de entrelaçamento entre o digital e todas as esferas da vida.

Recebido em abril de 2018.

Original em inglês. Traduzido por Adriana Guimarães.

https://sur.conectas.org/wp-content/uploads/2018/07/deepthi-bharthur.jpg

Deepti Bharthur - Índia

Deepti Bharthur é pesquisadora associada na IT for Change (TI para a Mudança). Ela contribui com pesquisas acadêmicas, de ação e políticas nas áreas de e-governança e de cidadania digital, economia de dados, plataformas e exclusões digitais. Ela também coordenou e co-desenvolveu intervenções digitais com base em desings para treinamento de gênero, lidera arrecadações de fundos e concede atividades de desenvolvimento na organização.

Recebido em abril de 2018.

Original em inglês. Traduzido por Adriana Guimarães.