Programas para educar o mercado, fomentar o ecossistema e participar ativamente do processo de regulamentação brasileiro entre direito e tecnologia.
Capítulos regionais/locais exclusivos para associados e grupos abertos ao público em geral.
Mais de 300 horas de conteúdo educacional focado no ecossistema jurídico e tecnológico.
Exclusivo para associados.
E se seu RG, além de sua foto, local de nascimento, filiação e número, tivesse também sua pontuação de cidadão? Se, para criar esta pontuação, todos os seu comportamentos fossem classificados (curtiu vídeo do Porta dos Fundos? Perdeu meio ponto. Foi ao estádio ver jogo de futebol em plena quarta-feira? Perdeu mais meio ponto)? Enfim, e se a sua pontuação fosse utilizada pelo governo e por empresas privadas para determinar o quão confiável você é? Se você é elegível a receber um empréstimo ou não? A conseguir um emprego ou não?
A ideia, assustadora, está sendo colocada em prática na China no momento em que você lê este artigo (ler este artigo, aliás, vai lhe fazer perder no mínimo um ponto). No Brasil, há uma proposta de lei complementar em trânsito no Senado que pode também fazer com que instituições bancárias e de crédito tenham acesso a suas informações pessoais, de forma a o ranquear e lhe atribuir uma nota de acordo com o quão “confiável” você seria. Assustado o suficiente? Vamos ver a ideia por trás desse controle e vigilância permanentes, para então apresentar as iniciativas chinesa e brasileira.
Vigiar e Punir – Muito antes de Black Mirror, Michel Foucault escreveu em 1975 que as necessidades da era industrial teriam levado ao abandono de antigas técnicas de torturas e suplícios públicos em prol do surgimento de modernas técnicas de disciplina: as escolas, as igrejas, os quartéis militares e as prisões. Tais instituições disciplinares, por meio da observação cuidadosa e moldagem minuciosa dos corpos sob seu controle, permitiriam a internalização individual da necessidade de controle, facilitando o controle de uma população cada vez maior sem o uso de uma (ineficiente) força excessiva. O ápice deste sistema de vigilância e controle encontraria sua forma material no Panóptico: uma construção em anel, dividida em celas, com uma torre no centro, de modo que qualquer prisioneiro estaria perfeitamente individualizado e constantemente visível para o vigia da torre; o próprio vigia, porém, não seria visível, de modo que cada condenado não sabe se estaria ou não sendo visto em determinado momento. Assim escreveu Foucault:
“Daí o efeito mais importante do Panóptico: induzir no detento um estado consciente e permanente de visibilidade que assegura o funcionamento automático do poder. Fazer com que a vigilância seja permanente em seus efeitos, mesmo se é descontínua em sua ação; que a perfeição do poder tenda a tornar inútil a atualidade de seu exercício; que esse aparelho arquitetural seja uma máquina de criar e sustentar uma relação de poder independente daquele que o exerce; enfim, que os detentos se encontrem presos numa situação de poder de que eles mesmos são os portadores. Para isso, é ao mesmo tempo excessivo e muito pouco que o prisioneiro seja observado sem cessar por um vigia: muito pouco, pois o essencial é que ele se saiba vigiado; excessivo, porque ele não tem necessidade de sê-lo efetivamente”[1].
Esta é a ideia central do panopticismo: o controle sistemático e individualizado de humanos por meio de forças sutis ou mesmo invisíveis. Embora não tenhamos chegado ainda a tal controle arquitetônico, o avanço do panopticismo é cada vez mais aparente em um mundo cada vez mais digitalizado e no qual nossas informações pessoais e vidas estejam cada vez mais abertas aos olhos de todos na internet.
É justamente a visibilidade a qual estamos sujeitos que permite o nosso estudo e a nossa objetivação, diria Foucault. Para ele, seria o exame (médico, militar, escolar etc) que permitiria qualificar, classificar e punir os indivíduos. Segundo Foucault, três são as suas características: primeiro, o exame inverte a economia da visibilidade no exercício do poder: enquanto o poder geralmente é o que se manifesta abertamente, o poder disciplinar se exerce de modo invisível: são aqueles em exame (dica: somos nós) que se submetem a uma visibilidade obrigatória. Segundo, o exame faz da individualidade um campo documentário, na medida em que deste resulta um arquivo detalhado e permanente daqueles que são examinados. Terceiro, o exame faz de cada indivíduo um “caso”, isto é, “é o indivíduo tal como pode ser descrito, mensurado, medido, comparado a outros e isso em sua própria individualidade; e é também o indivíduo que tem que ser treinado ou retreinado, tem que ser classificado, normalizado, excluído, etc”[2].
Nossa vida online já é monitorada constantemente: sabe-se o que compramos online, quem são nossos amigos, onde e com quem estivemos, quais são nossas opiniões e valores. Empresas de coleta de dados como o Google e o Facebook vivem de individualizar sua conduta, e, ao mesmo tempo, de adequar qual conteúdo deve ser exibido a você. Agora, novas iniciativas governamentais buscam aumentar ainda mais o controle e a vigilância sobre você.
Big Brother Chinês – Na verdade, a classificação das pessoas já é fato na China. Por meio de sua subsidiária Sesame Credit, o gigante do comércio eletrônico Alibaba já possui um sistema de ranking (scoring) de crédito, aplicando a cada indivíduo uma pontuação que varia de 350 a 950 pontos. A Alibaba não divulga o a fórmula de seu algoritmo, mas sabe-se que são cinco os fatores considerados em sua formação. O primeiro é o histórico de crédito. O segundo é o histórico de cumprimento de outras obrigações contratuais. O terceiro fator são características pessoais, incluindo o endereço. O quarto são preferências: a compra de videogames sugere um perfil mais ocioso, e, portanto, menos merecedor de confiança, enquanto a compra de fraldas sugeriria paternidade, e, assim, responsabilidade, dando uma maior nota. Por fim, a quinta categoria é o bom e velho “diga-me com quem andas que te direi quem tu és”: seus amigos e suas notas interferem em seu próprio ranking.
Se o algoritmo julga que alguém é um bom cidadão, esta pessoa recebe bônus da empresa: a partir de 600 pontos, fazem jus a um empréstimo para fazer compras na própria Alibaba, enquanto com 650 pontos, passam a ter direito a check-in mais rápido nos hotéis e ao uso do check-in VIP no Aeroporto Internacional de Pequim. Além disso, quanto mais alta sua pontuação, mais proeminente seu perfil será exibido no site de namoro e relacionamentos Baihe, de modo que a pontuação do sistema Sesame Credit se tornou um símbolo de status na China.
A Alibaba, porém, afirma que o que cada usuário publica online não afeta sua pontuação no sistema Sesame Credit. Contudo, isto pode mudar em breve. Em 2014, o Conselho de Estado da China lançou os primeiros passos para o que chamou de “Construção de um Sistema de Crédito Social” (SCS). De acordo com reportagem do site Wired, o objeto do país é criar um método de avaliar a “confiabilidade” de seus mais de um bilhão de cidadãos, isto é, controlar o comportamento individual por meio da reunião de todas as suas informações pessoais. A partir de 2020, o comportamento de cada cidadão e de cada pessoa jurídica na China será obrigatoriamente classificado.
O governo concedeu uma licença a oito empresas privadas para criar sistemas e algoritmos para os escores de crédito social; entre tais empresas, como você pode imaginar, está a Sesame Credit. Outras empresas que participam do desenvolvimento do sistema está a China Rapid Finance, criadora do serviço multiplataforma de mensagens instantâneas WeChat, o mais utilizado na China, além da AliPay, também do grupo Alibaba, que gerencia um sistema de pagamentos usado pelos chineses para fazer compras online e offline dos menores aos maiores valores. Todas estas quantidades gigantescas de dados podem ser utilizados para avaliar e classificar como as pessoas se comportam.
Com o sistema governamental, as vantagens e penas devem ir além de simplesmente conseguir um empréstimo mais barato ou conseguir utilizar uma fila VIP. A reportagem da Wired informa que, em setembro de 2016, o Conselho de Estado lançou um documento tratando de mecanismos de avisos e punições individuais com base na “confiança” de cada cidadão. Pessoas com baixa pontuação terão velocidades mais lentas na internet, acesso restrito a restaurantes e mesmo a perda do direito de viajar para o exterior. Cidadãos com escores baixos serão proibidos de trabalhar em alguns empregos, incluindo no serviço público, no jornalismo e nas profissões jurídicas.
Sua informação à venda – Embora não haja, pelo que se sabe, qualquer iniciativa de nível governamental do tamanho da chinesa para coletar e classificar seus cidadãos, a compra e venda de informações privadas e seu uso para ranquear pessoas já é realidade. A pontuação de crédito, isto é, o sistema de avaliação a credores se é seguro ou não emprestar dinheiro a alguém, é afetada não só por informações pessoais, como nossa idade, gênero e endereço como também recentemente por nossas compras online e nossas atividades em redes sociais. Hoje, algoritmos são utilizados por empresas privadas como a Serasa Experian para classificar alguém como bom ou mau pagador baseado em postagens, envolvimento em redes sociais profissionais, e mesmo pelos amigos e contatos realizados. Além disso, a marca e o tipo do dispositivo pelo qual o acesso é realizado também são convertidos em pontos negativos ou positivos.
Por mais invasiva que essa situação pareça, este tipo de análise não tem impedimentos pelo ordenamento jurídico brasileiro. A criação de dashboards (painéis para melhor visualização de informações) e a modelagem de dados não possuem nenhuma restrição neste aspecto, e a coleta de dados não poderia ser melhor para empresa: são dados disponibilizados livremente pelo próprio usuário, de maneira pública.
Como se nota, o controle e ranqueamento de nossas vidas não é um sofrimento exclusivo chinês. Grandes empresas do mundo “livre” se valem diariamente do “Big Data” para entender e lucrar com nossas vidas, gostos e desejos. Governos monitoram nossas informações pessoais, incluindo o que postamos na mídia social. Um estudo da McKinsey & Co. estima que grandes empresas com mais de 1000 funcionários já tenham armazenados mais de 200 terabytes de dados sobre a vida de seus clientes[3].
Este número cresceu exponencialmente com armazenamento de dados fornecidos pelas plataformas de redes sociais. O Facebook, um dos principais compiladores de informações pessoais de consumidores na Internet (leia-se: o paraíso de data brokers), é, deste modo, uma das fontes mais importantes para a formação do escore de crédito das empresas privadas: além da informação disponibilizada voluntariamente pelo usuário, esta pode ser coletada com a permissão de acesso dada pelo usuário de outros aplicativos ou sites, como o Tinder ou o WhatsApp, e até mesmo por aquele site minúsculo, inofensivo, que gentilmente se oferece para poupar o usuário de realizar seu longo cadastro, possibilitando o acesso pelo login da rede social (perigo!).
De acordo com a The Social Skinny, empresa de consultoria voltada para insights de mídias sociais, o Facebook possui mais de dois bilhões de usuários ativos mensais, e a cada 60 segundos, 136.000 fotos são carregadas, 510.000 comentários são publicados e 293.000 atualizações de status são postadas. Ferramentas “úteis” como o reconhecimento facial, por exemplo, são um sinal de um sistema capaz de rastrear a face de um usuário pela vastidão de dados da internet, alimentando um banco de dados cada vez mais profundo sobre você. E descobrindo, talvez, que você apareceu em fotos de baladas e festas, talvez feliz demais, o que levará o algoritmo do score de crédito a achar que, talvez, você tenha uma tendência à inadimplência. Ops.
Todo o tempo, somos ranqueados por algoritmos sobre os quais pouco sabemos e entendemos. Como diz a Wired, estamos todos nos aproximando do sistema chinês e tendo nossas vidas ranqueadas, ainda que não saibamos que somos[4].
[1] FOUCAULT, Michel. Vigiar e punir: nascimento da prisão. Petrópolis, Vozes, 1987, p. 181-182.
[2] Ibidem, p. 211-215.
[3] MANYIKA, James et al. Big data: The next frontier for innovation, competition, and productivity. McKinsey&Company. Disponível em: https://www.mckinsey.com/business-functions/digital-mckinsey/our-insights/big-data-the-next-frontier-for-innovation – Acesso em 18 de jan. 2017.
[4] BOTSMAN, Rachel. Big data meets Big Brother as China moves to rate its citizens. Wired. Disponível em: http://www.wired.co.uk/article/chinese-government-social-credit-score-privacy-invasion – Acesso em 18 de jan. 2017.
Por Marcelo Cárgano e Sofia Marshallowitz
Nossas novidades direto em sua caixa de entrada.
