Por Dia Kayyali | #Boletim13

As cidades do futuro podem estar conectadas para a eficiência e sustentabilidade, mas sem mudanças sérias na forma como elas estão sendo construídas, elas também estarão conectadas para a injustiça.

As cidades inteligentes usam a tecnologia para melhorar a qualidade de vida. Mas para quem? E para que fim? Elas podem ser capazes de fornecer serviços de forma mais eficiente e sustentável, mas a menos que sejam construídas com os direitos humanos em mente, elas também replicam as estruturas de injustiça existentes. A vigilância generalizada e a confiança em algoritmos tendenciosos que caracterizam cidades inteligentes aumentou criminalização das pessoas mais marginalizadas da sociedade, sem realmente aumentar a qualidade de vida delas.

O conceito de cidade inteligente

Há muitas definições de cidades inteligentes, mas o consenso geral é que elas usam a tecnologia para melhorar as redes e serviços. Cidades inteligentes muitas vezes dependem de sensores embutidos em estradas, redes de energia, edifícios e outros ativos. Softwares analisam os dados destes sensores e determinam como melhorar os serviços para um determinado valor, como a eficiência energética.

Vigilância inteligente

São todos esses sensores que fazem as cidades inteligentes panópticos tão perfeitos. Corporações como a Microsoft e a Schneider Electric têm sido fundamentais em pressionar a difusão de tecnologias, tais como:

• “Internet das coisas” digitalizando objetos do cotidiano, como iluminação de rua e latas de lixo
• Latas de lixo habilitadas com sensores de nível de preenchimento e que até mesmo rastreiam telefones celulares)
• Sensores de qualidade do ar e meteorológicos
• Rede de sensores em estradas
• Aplicativos móveis
• Vários tipos de rastreamento de celular
• Rede de câmeras de vigilância
• Leitores de placas de automóvel automatizados
• Microfones que detectam tiros (e podem gravar conversas)

A maioria das críticas sobre as cidades inteligentes têm incidido sobre privacidade em geral, não na aplicação da lei per se. Isso é compreensível, uma vez que a privacidade e a liberdade são interdependentes. Mas esse foco amplo ignora o fato de que a forma como a aplicação da lei é feita é o marcador mais importante de liberdade para muitas pessoas ao redor do mundo. Conforme o diretor norte-americano de Inteligência Nacional James Clapper confirmou recentemente, não há dúvida de que a “[Internet das coisas] será utilizada na aplicação da lei para identificação, vigilância, monitoramento, rastreamento de localização, e recrutamento ou para obter acesso a redes ou às credenciais do usuário”

A Internet das coisas inclui as tecnologias das cidades inteligentes. Além do mais, a aplicação da lei pode agregar e analisar os dados coletados pelas cidades inteligentes. Os dados da NSA colhidos por espionagem em registros de chamadas de telefone permitiu ao governo determinar redes sociais, condições de saúde, crenças religiosas e muito mais. Os dados sobre as cidades inteligentes será ainda mais abrangente e revelador.

Policiamento preditivo e cidades inteligentes

As práticas de aplicação da lei já estão sendo alteradas pela tecnologia. Mas isso torna o policiamento melhor? Se a sua definição de melhor é fazer mais do que a polícia tem feito sempre, talvez.

O policiamento preditivo usa dados do histórico de criminalidade para determinar onde o crime é mais provável de ocorrer, de modo a que os departamentos de polícia possam direcionar recursos a essas áreas. Soa bastante inócuo, mas como inúmeros cientistas sociais e estatísticos têm apontado, estes históricos de dados são baseados em práticas policiais tendenciosas.

Na verdade, o software de policiamento preditivo como PredPol não está fazendo muito mais do que a aplicação da lei sempre tem feito. Como o sargento Steve Armon do Departamento de Polícia de Dallas admite, “muitas vezes, essas empresas não podem nos dizer coisas que nós ainda não sabemos. Temos o nosso próprio grupo de análise de crime, e já aplicamos os mesmos princípios que eles estão usando.”

As prisões por drogas nos Estados Unidos são um exemplo perfeito de viés em dados sobre criminalidade. Os negros americanos são 3,6 vezes mais propensos a serem presos por vender drogas, mesmo que os brancos sejam os que mais provavelmente irão vendê-las. Os negros americanos também têm 2,5 vezes mais probabilidade de serem presos por posse de drogas, mesmo que o percentual de negros e brancos americanos usuários de drogas seja praticamente o mesmo.

O policiamento baseado em dados pode ser muito eficiente em prever onde prender pessoas negras, mas dificilmente isso pode ser visto como uma melhoria. Nos Estados Unidos, os negros estão encarcerados em taxa 6 vezes maior que os brancos, e “representam 12% da população total de usuários de drogas, mas são 38% das pessoas presas por delitos envolvendo drogas.”

O programa de “notificações personalizadas” de Chicago oferece um exemplo arrepiante de como esse viés opera. Oficiais fazem visitas pessoais aos indivíduos com base, em parte, em um algoritmo que determina se são altamente propensos a se envolver em um crime violento. Os agentes podem oferecer serviços sociais ou “um aviso sob medida” para que eles saibam que a polícia os está observando.

A polícia de Chicago torturou moradores negros do Southside por décadas e isso foi encoberto. Eles continuam a matar a tiros moradores negros da cidade e dificultar as investigações sobre esses tiroteios. Aumentar o contato da polícia com os moradores negros da cidade sem abordar estes problemas não parece ser o melhor uso dos recursos da cidade.

Além do mais, o algoritmo a ser utilizado pelo departamento de polícia tem um papel chave, mas está envolto em mistério. As pessoas marcadas para as tais notificações personalizadas não necessariamente cometeram qualquer crime, muito menos um crime violento. Em vez disso, o algoritmo analisa fatores como “detenções, mandados, status de liberdade condicional, acusações relacionadas à posse de armas e drogas, registros de conhecidos, ter sido vítima ou conhecer uma vítima de um tiroteio, registros de prisão, processos judiciais abertos, e as redes sociais das vítimas.” A polícia negou um pedido de acesso aos registros públicos do algoritmo, prenunciando um outro grande problema com as cidades inteligentes: algoritmos tomam decisões que afetam intimamente vida diária das pessoas, mas são completamente opacos.

O que não é opaco é que estes vieses não podem simplesmente ser evitados ao serem digitalizados.

Devemos desistir?

Tornar as cidades mais habitáveis, sustentáveis e viáveis é claramente um objetivo louvável. Mas residir em um estado de vigilância dirigida por algoritmos tendenciosos é uma situação bem pouco suportável. Se as cidades inteligentes são construídas sem o objetivo de garantir os direitos humanos básicos, eles irão na verdade piorar a qualidade de vida para muitos.

Felizmente, existem outras maneiras de melhorar os ambientes urbanos, mesmo no âmbito das cidades inteligentes. Por exemplo, a “co-criação cidadã” de cidades melhores podem ser “fundamentadas mais em questões de equidade e inclusão social.” Medellín, na Colômbia, tem sido líder nesta área. As “favelas da cidade foram reintegradas na cidade não com smartphones, mas com instalações desportivas com financiamento público e um teleférico ligando-as à cidade.” A cidade também iniciou projetos de reforço da infra-estrutura e “conduz oficinas em comunidades de baixa renda para fornecer acesso a Wi-Fi para melhorar a alfabetização digital.” Essas ações, que se concentram nos menos favorecidos, juntamente com a capacidade de ver que a tecnologia nem sempre é a melhor resposta, fizeram de Medellín um caso bem sucedido.

É fácil procurar uma cura tecnológica para os problemas mais urgentes do mundo. Mas no caso da habitabilidade nas cidades, devemos aprender a andar antes de correr. Isso significa garantir que nossas cidades tenham um nível básico de direitos humanos para todos.

Dia Kayyali é ativista, escritor@ e advogad@. Vem trabalhando para a Electronic Frontier Foundation. Defendeu o anonimato e a privacidade em órgãos governamentais e empresas e tem coordenado uma série de campanhas nos EUA para limitar a vigilância a nível nacional e local. Como cidad@ sírio-american@, Dia está especialmente interessad@ na vigilância nos espaços públicos pós 9/11.