Sob o seu habitual signo da transparência, o governo chinês informou o seu povo, em 2014, do seu plano de implementar uma “tabela de desempenho” individual que estará em pleno funcionamento em 2020 e para os seus 1,3 mil milhões de habitantes. Com a carinhosa ajuda das autoridades e com base num algoritmo pré-programado, todos os indivíduos serão avaliados, pontuados e divididos entre bons e maus cidadãos. Os bons terão privilégios, os maus sofrerão sanções. Tudo em prol de uma sociedade harmoniosamente assente em critérios de confiança
POR HELENA OLIVEIRA
“[Desejamos] permitir aos cidadãos de confiança que passeiem livremente sob o céu e dificultar aos desacreditados darem um único passo”, Esboço de Planeamento para a Construção de um Sistema de Crédito Social (2014-2020)

O Sistema de Crédito Social, a ser implementado na China em 2020, parece um argumento futurista para cinema. E se não é para o grande ecrã, já o foi para a série televisiva Black Mirror, que retrata um futuro distópico, mas que afinal está muito mais próximo do presente. Na verdade, e no 1º episódio da temporada 3, intitulado “Nosedive”, a trama passa-se num mundo em que as pessoas se podem avaliar umas às outras – entre 1 a 5 estrelas – por cada interacção que tiverem, o que irá determinar o seu status socioeconómico. E, de acordo com a pontuação que tiverem, poderão ser beneficiadas ou prejudicadas num conjunto de diversos domínios.

Agora imagine um mundo onde as suas acções são continuamente monitorizadas e avaliadas: o que compra online, onde jantou no último fim-de-semana, com que tipo de amigos saiu para beber um copo, quantos copos bebeu, que livros comprou na Amazon, quantas horas do seu dia passa a jogar na playstation, que conteúdos televisivos são da sua preferência, se os seus impostos são pagos a horas, quanto e em que é que gasta no seu cartão crédito, entre um conjunto alargado de acções que, todos nós, fazemos todos os dias. Na verdade, não é preciso nenhum esforço para imaginar este cenário, pois a maioria destas acções já acontece na realidade, graças à recolha de inúmeros dados que todos nós sabemos existir (apesar de não termos a ideia da sua total magnitude).

Mas agora imagine um sistema no qual todas estas acções e comportamentos são pontuados e avaliados, positiva ou negativamente, o que se traduzirá num único número (ou classificação), de acordo com regras estabelecidas pelo governo e através de um algoritmo complexo, sobre o qual pouco ou nada se sabe e em que o adjectivo “transparente” não pode ser utilizado.

Por último, imagine que da sua pontuação depende a velocidade da sua Internet, a escola onde vai matricular o seu filho, a concessão ou rejeição de um empréstimo para comprar a sua casa, a possibilidade de viajar de avião para fora do país, entre um conjunto de benesses – se o seu scorefor elevado – ou de punições – se existirem maus comportamentos e a pontuação for baixa. E, como não poderia faltar, uma lista negra também.

E agora pode parar de imaginar porque é, em termos básicos, o que a China vai fazer, tendo iniciado os “testes” em 2014 e garantindo que um sistema com estas características estará pronto a ser aplicado aos seus 1,3 mil milhões de cidadãos em 2020. Em Junho de 2014, o Conselho de Estado chinês publicou um relatório denominado Esboço de Planeamento para a Construção de um Sistema de Crédito Social (2014-2020), no qual alerta os cidadãos chineses para o seu plano de inaugurar (e tornar pública) uma “avaliação do desempenho pessoal” para qualquer individuo ou entidade legal [todas as empresas serão igualmente cotadas], com base no seu nível de confiança/credibilidade, sendo que a participação será obrigatória a partir de 2020. Os indivíduos serão avaliados por um scoreque varia entre os 350 e os 950 pontos.

© DR

“Um método eficaz de fortalecer a sinceridade social, estimular a confiança mútua e reduzir as contradições sociais”

Nas diversas fontes consultadas para este artigo, todas elas garantem que são muitos os cidadãos chineses que ainda não perceberam o que é, como funciona e de que forma é que este ranking social irá afectar as suas vidas. Mas dos vários testes-piloto que estão a ser realizados – cerca de uma dúzia de acordo com a revista ForeignPolicy que visitou Rongcheng, uma pequena cidade onde 740 mil cidadãos estão já a ser “pontuados – os que estão no interior deste “laboratório” têm também opiniões distintas, sendo que, na sua maioria, estas são favoráveis. Aliás, as pontuações mais elevadas já se tornaram num símbolo de status, com cerca de 100 mil pessoas a gabarem-se do seu scoreno Weibo (o equivalente chinês do Twitter).

Mas há uma pergunta continua a impor-se, tal como questiona a revista Wired, num excelente artigo que publicou sobre a temática: por que motivo é que milhões de pessoas já se “inscreveram”, tecnicamente em regime “voluntário” , para fazerem parte do período experimental num sistema de vigilância governamental tão intrusivo? De acordo com a Wired e sem ser surpreendente, podem existir muitas razões “negras” e não declaradas – como o medo de represálias para os que não quiserem participar no teste – mas existe também um bom chamariz para o fazerem, sob a forma de recompensas ou de “privilégios especiais” para os cidadãos que demonstrarem ser “de confiança”. Mas já lá iremos.

Em primeiro lugar, há que perceber como o Conselho de Estado explica os principais factores que são levados em consideração para distinguir entre um bom e um mau cidadão, a implementação deste sistema, e como é feita a “avaliação” e consequente pontuação individual.

De acordo com o Conselho de Estado chinês e citado em um artigo publicado pela medium, todos os indivíduos serão avaliados com base em big data recolhidos a partir dos seguintes critérios para ser possível alcançar o que as autoridades chinesas entendem como “harmonia social”: saúde, higiene e planeamento familiar; segurança social, cuidados com os mais velhos e caridade; trabalho e emprego; educação e investigação científica; cultura, desporto e turismo; protecção ambiental e poupança energética; aplicações e serviços de Internet; vida económica e social.

Esta multiplicidade de critérios (que e obviamente, consiste só uma parte do total) será ainda agregada em cinco categorias.

A primeira, explica a revista Wired, diz respeito ao historial de crédito de cada cidadão, ou seja, será que X paga as suas contas, de electricidade e telefone atempadamente? A segunda pode ser traduzida como “aptidão para o cumprimento”, sendo definida nas normas do Sistema como “o nível de capacidade do cidadão para cumprir as suas obrigações contratuais”. O terceiro factor diz respeito às características pessoais, como a verificação do número de telemóvel, endereço e outro tipo de informação básica. Já as duas últimas categorias são as que mais inacreditáveis se assumem.

Chamada de “comportamentos de consumo”, a quarta categoria do Sistema de Crédito Social transforma meros hábitos de compras dos indivíduos numa avaliação de carácter. Uma das oito empresas que está a trabalhar directamente como governo chinês, a Sesame Credit, uma afiliada da gigantesca Alibaba, já admitiu que as pessoas serão julgadas pelo tipo de produtos que adquirirem. “Alguém que jogue video games dez horas por dia, por exemplo, será considerada como inactiva ou preguiçosa”, afirma à Wired Li Yingyun, Directo de Tecnologia da Sesame – e perderá pontos. “Alguém que compre frequentemente fraldas será considerado um pai ou mãe e, comparativamente, com maiores probabilidades de expressar sentimentos de responsabilidade, ganhando pontos. Desta forma, o sistema não só rastreia e investiga o comportamento, como o molda. Ou seja, isola os cidadãos – porque os sanciona – de compras e comportamentos que não são bem vistos aos olhos do governo.

Como cereja no topo do bolo, eis o quinto critério: atitudes online e relacionamentos interpessoais. Basicamente, e como tão bem explica o artigo na medium, tudo o que for publicado online será rastreado e incluído na pontuação de cada cidadão, o que significa que quem postarmensagens positivas sobre o país, o governo, o sistema social, a economia, etc., terá um scoremais elevado (e vice-versa, é claro). Mas o que é ainda mais surpreendente é o facto de os cidadãos não terem um controlo total sobre a sua própria pontuação, pois a mesma depende também do que amigos e familiares disserem e fizerem online. Ou seja, se o cidadão X tiver o azar de ser amigo ou familiar de alguém que faça um comentário negativo online, ou que incorra em algum tipo de comportamento “desadequado”, o resultado é que o mesmo terá consequências negativas no seu score, baixando-o e mesmo que X não tenha absolutamente nada a ver com o assunto.

Em Rongcheng, onde o sistema está a ser testado com sucesso – “a vida na nossa região já era boa, mas depois de introduzido o sistema, ficou muito melhor”, como afirma um residente aos jornalistas da ForeignPolicy – os créditos funcionam de maneira algo diferente.

O sistema ali introduzido confere 1000 pontos iniciais a qualquer cidadão. E, a partir daí, o jogo começa. Como exemplifica a reportagem da ForeignPolicy: apanhe uma multa de trânsito e perde cinco pontos; ganhe um prémio municipal, por ter cometido um acto heróico, por ter feito um bom negócio ou por ter ajudado a sua família em circunstâncias invulgarmente difíceis e ganha 30 pontos. Pode-se ganhar pontos também devido a donativos oferecidos a alguma caridade ou por participar num programa de voluntariado da cidade. E, dependendo do número de pontos, aos residentes são atribuídas notas que variam entre um A+++ (a melhor) e um D (a pior).

Por exemplo, se conduzir com álcool, o score baixa imediatamente para um C. Por outro lado, os triplos A são recompensados com regalias tão diferentes como a permissão de alugarem bicicletas públicas sem necessidade de deixar um depósito (e andar nelas gratuitamente durante uma hora e meia), receber um vale no valor equivalente a 50 dólares para descontar na conta do aquecimento no Invernos ou obter condições mais vantajosas no caso de pedir um empréstimo ao banco. Faltava também dizer que os cidadãos mais bem comportados têm direito a ver a sua foto exibida em outdoorsluminosos espalhados por locais bem visíveis da cidade. Afinal, fazer do bom comportamento um troféu e, consequentemente, um estímulo ao “contágio” é um dos objectivos de harmonia social proposto pelo governo chinês.

Como já anteriormente mencionado, as empresas também têm a sua própria avaliação. Se pagarem os impostos a tempo e evitarem multas devido a más condições sanitárias ou a produtos de qualidade inferior – o que é muito frequente na China – mantêm-se numa boa posição. E se tiverem pontuações significativamente elevadas passarão por muito menos burocracias para se candidatarem a concursos públicos e obterão também melhores condições nos empréstimos bancários.

© DR

“Manter as pessoas felizes [com este sistema] é muito mais eficaz do que empregar a força”

No artigo assinado por Alexander Mortensen, na medium, bem como no da ForeignPolicy e também na Wired, são analisadas e explicadas – pelo menos no que respeita ao que se sabe até agora – as actividades das empresas que estão a contribuir para ter em pleno funcionamento o Sistema de Crédito Social em 2020. Um exemplo curioso é retratado na Sesame Credit, a qual já oferece dicas para os cidadãos saberem como melhorar as suas pontuações, incluindo os alertas contra as desvantagens de se fazer amizade com determinados tipos de pessoas. A revista Wired estima que em breve existirá um florescente mercado de conselheiros de pontuações ou de consultores de reputação que oferecerão conselhos especializados de como, e estrategicamente, se poderá aumentar a classificação ou até conseguir sair da lista negra dos maus cidadãos. Mas e por falta de espaço, não são as empresas o foco deste artigo (apesar de merecerem o estatuto).

Todavia e pelo menos ao “algoritmo complexo e desconhecido” há que dar particular atenção.

Por razões óbvias, pelo menos para as autoridades chinesas, a afiliada da Alibaba não divulga, de forma alguma, o “complexo algoritmo” que está a utilizar para calcular o “número” que identificará cada cidadão. E, na verdade, em relação aos métodos de recolha de dados pelo governo, são vários os algoritmos que estão a ser utilizados para analisar todo o manancial de informação que já tem ao seu dispor, proveniente de várias fontes. Adicionalmente, os especialistas já alertaram também que os algoritmos são injustamente redutores, em particular por não levarem em linha de conta o contexto: uma pessoa pode não pagar a conta da electricidade por ter estado doente ou internada num hospital, por exemplo.

O problema, e como seria expectável, é a inexistência de informação sistemática sobre como serão utilizados e avaliados os dados recolhidos. O que Mortensen explica é que os algoritmos e critérios utilizados na criação do scorede créditos dos cidadãos são ainda completamente desconhecidos, o que poderá levar ao perigo de existência de comportamentos algorítmicos pré-programados. Ou seja, comportamentos preconceituosos poderão ser previamente “introduzidos” nos algoritmos sem que tal seja publicamente revelado, o que significa que preconceitos dirigidos a pessoas de certas etnias, religiões ou orientações políticas poderão “ganhar” automaticamente uma pontuação mais baixa. Adicionalmente, e na medida em que os algoritmos estarão nas mãos do governo e das autoridades locais, estes podem alterar as suas funcionalidades sempre que o desejarem.

Uma outra total quebra de ética assinalada diz respeito ao facto de o Conselho de Estado já ter declarado que irá permitir que jornais, televisões e media online divulguem informação pública sobre os cidadãos que forem acusados de quebra de confiança, permitindo também que a sua punição fique declaradamente disponível. O objectivo directo será o de criar uma opinião pública que exerça pressão sobre os “maus cidadãos”. Ou, e como afirma Mortensen, nesta sociedade nada será secreto em termos de dados pessoais.

Quanto aos castigos relacionados com a “quebra de confiança” perpetrada pelos “maus cidadãos”, podem variar entre sanções mais leves e punições mais pesadas. Ainda de acordo com o Conselho de Estado, os que passarem a figurar na lista negra enfrentarão várias restrições, que os impedirão de: requererem qualquer tipo de apoio à segurança social; poderem aceitar posições de gestão mais elevadas; candidatarem-se à função pública; pedirem empréstimos bancários; poderem trabalhar no sector alimentar ou na indústria da medicina, bem como na transacção de certo tipo de activos; conduzirem comboios ou aviões; visitarem certos restaurantes, hotéis, clubes, etc.; matricularem os filhos em determinadas escolas; adquirirem seguros de natureza variada; renovarem a própria casa e, finalmente, e como já referido, sofrerem imposições à velocidade da Internet, que ficará mais lenta.

Para além de um conjunto variado de outro tipo de punições ou restrições, o que mais importa neste caso é o facto da liberdade das pessoas ser substancialmente prejudicada pelo governo chinês, com base em dados e em algoritmos sobre os quais não têm controlo algum e que carecem de total transparência na forma como operam.

E pior ainda, se é que tal é possível, é o facto de as pessoas não poderem sair do sistema e de os seus “maus comportamentos” não poderem vir a ser esquecidos ou perdoados, o que significa que se fica completa e totalmente aprisionado. Deste aprisionamento resultarão impactos devastadores para os seus filhos e para os filhos destes, na medida em que os mesmos herdarão um mau scoreporque simplesmente pertencem àquela família. Ou e em suma, gerações inteiras terão uma enorme dificuldade em escapar de um sistema que as sinaliza como “de não confiança”, de acordo com dados que são utilizados fora do contexto e que podem ser publicamente divulgados pelos media.

Uma outra curiosidade mais do que preocupante é contada por uma especialista da Sesame Credit, que confessou à Wired que a sua própria empresa já abordou o Bureau de Educação Chinês para a possibilidade de este partilhar uma lista dos alunos que fizeram batota nos exames nacionais, para que possam pagar no futuro pela sua desonestidade.

O resultado será o desejado pelas autoridades chinesas: ao classificar o comportamento social, as preferências e as relações interpessoais, o governo fica com o poder de “dirigir e moldar” as acções e condutas dos seus cidadãos na exacta direcção que pretende. Sem esquecer que o comportamento socialmente aceite será definido pelo governo, sendo que os cidadãos não poderão criticar o sistema na medida em que tal afectará de imediato a sua pontuação. E a sua vida.

Mas será que esta realidade é assim tão diferente do controlo e vigilância de que sofreu e sofre o povo chinês na actualidade, sendo apenas mais tecnologicamente sofisticada? E será este sistema tão absurdo que nenhum outro governo terá a infeliz ideia de o implementar também noutros países? Ou, e como referem as autoridades chinesas, não será este sistema perfeito para “forjar um ambiente de opinião pública que permitirá manter uma confiança gloriosa, fortalecer a sinceridade nos assuntos governamentais, a sinceridade comercial, a sinceridade social e a construção de uma justiça credível”?

Para muitos analistas, há muito que vários governos já entraram no negócio da monitorização e classificação individual. E já vivemos num mundo onde algoritmos preditivos determinam se somos uma ameaça, um risco, um bom cidadão ou se somos de confiança. A verdade é que podemos estar muito mais próximos de um sistema similar ao Sistema de Crédito Social chinês do que poderíamos imaginar. Hoje na China, amanhã num local perto de nós. E, tal como afirma a jornalista Anna Codrea-Rado, as verdadeiras questões sobre o futuro da confiança não são nem tecnológicas, nem económicas: são éticas.