No livro “1984”, de George Orwell, o leitor se depara com uma distopia em que a liberdade individual é absolutamente inexistente. Parece algo muito distante para as sociedades capitalistas democráticas, em que seus cidadãos, principalmente no Ocidente, deleitam-se no consumo exacerbado, no entretenimento gratuito das redes sociais e na liberdade civil, social e política. Porém, um novo termo, criado por Shoshana Zuboff, coloca em xeque a ideia de que vivemos em uma tranquila sociedade democrática. O capitalismo de vigilância tem como base a concepção de que existe, atualmente, um novo capitalismo — baseado na venda de dados pessoais. É um conceito novo, mas já é possível ver suas consequências no mundo real e, por isso, deve-se questionar quais são os possíveis frutos que ainda estão por vir.

De fato, não é nada original iniciar um texto sobre os riscos atuais da sociedade democrática citando George Orwell e sua obra. Já escrevi mais de um texto com esse tema e com essa introdução, mas lhe asseguro que tentei pensar em outro modo de iniciar esse ensaio que não por nosso querido britânico. Percebi, contudo, que esse é o texto em que esse início mais se encaixa por um motivo principal: o final da obra “1984” (spoiler a seguir). No último capítulo da distopia, o protagonista Winston Smith, depois de meses sendo torturado, passa a acreditar e defender genuinamente o “Grande Irmão”. Em discussões sobre o livro, comenta-se que o fim é o mais irreal, uma vez que não é possível passar a acreditar veementemente em algo por conta de tortura. Hoje penso que isso não é possível por meio da tortura, mas é por meio da capitalização dos dados.

A economista e socióloga Shoshana Zuboff esclarece muito sobre a natureza da coleta e da venda de dados. Para o usuário da rede social, essa venda parece interessante, uma vez que ela traz anúncios personalizados para ele. No entanto, os anúncios são uma pequena — pequena mesmo — margem do que acontece com nossos dados e é isso que o usuário não sabe. Os dados que permitimos que os servidores coletem são um pedaço insignificante em comparação com o tamanho do banco de dados que essas empresas possuem. Elas coletam a localização, a velocidade que você digita, quais erros de gramática você comete etc. Com esses dados chamados de excedente comportamental, conseguem alimentar seu banco de dados a todo segundo.

Esses dados são chamados de excedente comportamental pois foi recentemente que encontraram um bom uso para eles. Há um tempo, eles eram somente restos inúteis, hoje, entretanto, são considerados preciosos. Com a venda deles é possível criar modelos de comportamento: padrões no comportamento humano que possibilitam prever as ações futuras de certo indivíduo. Mas não é possível somente fazer previsões. É possível influenciar, por meio de plataformas online, o comportamento de uma pessoa no mundo real. Como mostrou todo o escândalo do Cambridge Analytica, escancarado pelo documentário “Privacidade Hackeada” de 2019, é possível, com base nos dados de um usuário, influenciar em quem ele vai votar. Zuboff mostra que, além de influenciar no voto de um eleitor, o uso “correto” dos dados influencia no que uma pessoa vai comprar ou até vai sentir.

É importante frisar que isso é o começo. Atualmente, tudo o que podemos fazer com os dados foi criado em 20 anos. Já estão sendo desenvolvidos carros que servirão como coletores de dados, dados tais que serão cada vez mais diversos, e que as empresas usarão como meio de lucrar cada vez mais. O Google, que desenvolveu o Android e o aplicativo Pokemón GO e os utilizaram para coletar dados e vendê-los, agora está se inserindo na indústria de automóveis, uma vez que esse deve ser parte do futuro da coleta de dados.

Qual é o grande problema disso tudo, no entanto? O mundo atual é totalmente moldado pelo lucro e era inevitável que a tecnologia servisse para esse fim também. As pessoas já estão se acostumando com essa ideia. Nós já somos influenciados pelo marketing e agora, pelas propagandas on-line personalizadas, não há muitos modos de fugir disso — a não ser fazendo uma revolução de sistema, é claro, mas não adianta gastar muito tempo nessa ideia. O problema é que, com os governos tendo consciência de tudo que os dados podem fazer — influenciar o comportamento das pessoas sem que elas saibam — o que impede que um governante não resista a tentação de usar esses dados para aumentar seu poder?

Tecnologias de reconhecimento facial, que foram desenvolvidas com base em fotos postadas no Facebook — outro protagonista nessa história toda — já são utilizadas na China para vigiar os cidadãos de modo que, se algum pedestre atravessa a rua no sinal vermelho, por exemplo, ele recebe um aviso e sua cara é exposta publicamente em um telão para humilhá-lo. O governo chinês já controla a movimentação dos cidadãos, que devem mostrar seu national ID card para continuar na estrada ou visitar um shopping, por exemplo. Além disso, os dados foram utilizados para localizar os uigures (muçulmanos que vivem no Noroeste da China) com o objetivo de colocá-los em uma prisão a céu aberto, os “campos de reeducação”. Esses campos são vigiados, também, por tecnologias de reconhecimento facial.

Os exemplos de o que um governo pode fazer, ou já faz, com a tecnologia dos dados são inúmeros. No entanto, esses exemplos são de um autoritarismo explícito. É muito provável que os dados pessoais sejam utilizados no futuro de maneira subjetiva, como as empresas já fazem. Influenciar as pessoas, sem que elas saibam, a fazer ou acreditar em determinadas coisas. É claro que deverá haver mais regulamentação do uso de dados, mas ainda assim é um grande risco que estamos tomando. Governantes talvez tenham os meios de escolher no que os cidadãos vão acreditar, não por meio da tortura, mas por meio dos dados pessoais. Podemos, afinal, não estar tão distantes da realidade do Grande Irmão.

Imagem: Contraponto digital

Referências bibliográficas:

ZUBOFF, Shoshana. You are now remotely controlled. The New York Times, Nova Iorque, 24/01/2020. Disponível em: https://www.nytimes.com/2020/01/24/opinion/sunday/surveillance-capitalism.html

LARSON, Christina. Who needs democracy when you have data? 20/08/2018. Disponível em: https://www.technologyreview.com/2018/08/20/240293/who-needs-democracy-when-you-have-data/

CAPITALISMO de vigilância. Roland Duong. Disponível em: https://www.youtube.com/watch?v=hIXhnWUmMvw&t=2251s