Por Dia Kayyali | #Boletín13

Las ciudades del futuro pueden estar conectadas para ofrecer eficiencia y sostenibilidad, pero sin cambios serios en la forma como se están construyendo, también estarán conectadas para la injusticia.

Las ciudades inteligentes usan la tecnología para mejorar la calidad de vida. Pero ¿para quién? ¿Y para qué fin? Pueden ser capaces de proporcionar servicios de forma más eficiente y sostenible, pero a menos que se las construya con los derechos humanos en mente, también replican las estructuras de injusticia existentes. La vigilancia generalizada y la confianza en algoritmos tendenciosos que caracterizan a las ciudades inteligentes aumentaron la criminalización de las personas más marginalizadas de la sociedad sin realmente aumentar su calidad de vida.

El concepto de ciudad inteligente

Hay muchas definiciones de ciudad inteligente, pero el consenso general es que estas ciudades usan la tecnología para mejorar las redes y los servicios. Las ciudades inteligentes muchas veces dependen de sensores embutidos en carreteras, redes de energía, edificios y otros activos. Programas de software analizan los datos de esos sensores y determinan cómo mejorar los servicios para un determinado valor, como la eficiencia energética.

Vigilancia inteligente

Son todos esos sensores los que hacen de las ciudades inteligentes panópticos tan perfectos. Corporaciones como Microsoft y Schneider Electric han sido fundamentales en impulsar la difusión de tecnologías tales como:

• «Internet de las cosas», digitalizando objetos de uso cotidiano, como iluminación pública y papeleras
• Cestos de residuos con sensores que indican el nivel de basura e incluso rastrean teléfonos celulares
• Sensores de calidad del aire y meteorológicos
• Redes de sensores en carreteras
• Aplicaciones móviles
• Diversos tipos de rastreo de celular
• Redes de cámaras de vigilancia
• Lectores de placas de automóviles automatizados
• Micrófonos que detectan tiros (y pueden grabar conversaciones)

La mayoría de las críticas a las ciudades inteligentes se relacionan con la privacidad en general, no aplicación de la ley per se. Eso es comprensible ya que, una vez más, la privacidad y la libertad son interdependientes. Pero ese enfoque amplio ignora el hecho de que la forma como se realiza la aplicación de la ley es el indicador más importante de libertad para muchas personas alrededor del mundo. El director de Inteligencia Nacional de los Estados Unidos, James Clapper, confirmó recientemente, que no hay dudas de que la «[Internet de las cosas] será utilizada en la aplicación de la ley para la identificación, vigilancia, monitoreo, rastreo de localización y reclutamiento o para obtener acceso a redes o a las credenciales del usuario… »

Internet de las cosas incluye las tecnologías de las ciudades inteligentes. Además, las fuerzas del orden pueden agregar y analizar los datos recolectados por las ciudades inteligentes. Los datos de la NSA recolectados mediante espionaje en registros de llamadas telefónicas permitieron al gobierno determinar redes sociales, condiciones de salud, creencias religiosas y mucho más. Los datos sobre las ciudades inteligentes serán todavía más completos y reveladores.

Vigilancia policial predictiva y ciudades inteligentes

La tecnología ya está alterando las prácticas de las fuerzas del orden. Pero ¿eso hace que la vigilancia policial sea mejor? Si nuestra definición de mejor es hacer más de lo mismo que la policía viene haciendo desde siempre, la respuesta es tal vez.

La vigilancia policial predictiva usa datos del historial de criminalidad para determinar dónde es más probable que se produzcan crímenes, de modo que los cuerpos policiales puedan dirigir recursos a esas áreas. Suena bastante inocuo, pero como numerosos científicos sociales y estadísticos vienen señalando, estos historiales de datos se basan en prácticas policiales tendenciosas.

En realidad, el software de vigilancia policial predictiva PredPol no está haciendo mucho más de lo que las fuerzas de la ley siempre hicieron. Como admite el sargento Steve Armon, del Departamento de Policía de Dallas, «muchas veces esas empresas no pueden decirnos cosas que nosotros todavía no sepamos. Tenemos nuestro propio grupo de análisis de criminalidad y ya aplicamos los mismos principios que ellos están usando.»

Los arrestos por drogas en los EE. UU. son un ejemplo perfecto de sesgo en datos de criminalidad. Los negros estadounidenses son 3,6 veces más propensos a ser detenidos por vender drogas, incluso cuando los blancos sean los compradores más probables. Los negros estadounidenses también tienen 2,5 veces más probabilidades de ser arrestados por posesión de drogas, a pesar de que el porcentaje de negros y blancos americanos usuarios de drogas sea prácticamente igual.

La vigilancia policial basada en datos puede ser muy buena para prever dónde arrestar personas negras, pero eso difícilmente puede verse como una mejora. En los Estados Unidos, la tasa de negros encarcelados es 6 veces mayor que la de blancos y «representan 12% de la población total de usuarios de drogas, pero son 38% de las personas presas por delitos relacionados con drogas.»

El programa de «notificaciones personalizadas» de Chicago ofrece un ejemplo escalofriante de cómo funciona ese sesgo. Oficiales realizan visitas personales a individuos con base, parcial, en un algoritmo que determina que tienen alta propensión a involucrarse en un crimen violento. Los agentes pueden ofrecer servicios sociales o «un aviso a medida» para que ellos sepan que la policía los está observando.

La policía de Chicago torturó habitantes negros del Southside durante décadas y eso fue encubierto. Continúan matando a tiros a habitantes negros de la ciudad y dificultando las investigaciones sobre esos tiroteos. Aumentar el contacto de la policía con los habitantes negros de la ciudad sin abordar esos problemas no parecer ser el mejor uso de los recursos públicos.

Además, el algoritmo utilizado por el departamento de policía tiene un papel clave, pero está rodeado de misterio. Las personas señaladas para recibir esas notificaciones personalizadas no cometieron necesariamente un crimen, mucho menos un crimen violento. En lugar de eso, el algoritmo analiza factores como «detenciones, órdenes de prisión, estatus de libertad condicional, acusaciones relacionadas con posesión de armas y drogas, registros de conocidos, haber sido víctima o conocer una víctima de un tiroteo , registros de prisión, procesos judiciales abiertos y las redes sociales de las víctimas.» La policía negó un pedido de acceso a los registros públicos del algoritmo, preanunciando otro gran problema relacionado con las ciudades inteligentes: algoritmos toman decisiones que afectan íntimamente la vida diaria de las personas, pero son completamente opacos.

Lo que no es opaco es que este sesgo simplemente se pueda  evitar al ser digitalizado.

¿Debemos desistir?

Hacer que las ciudades sean más habitables, sostenibles y viables es claramente un objetivo loable. Pero vivir en un estado de vigilancia dirigida por algoritmos tendenciosos es casi insoportable. Si las ciudades inteligentes son construidas sin el objetivo de garantizar los derechos humanos básicos, en realidad empeorarán la calidad de vida de muchos.

Por suerte, existen otras maneras de mejorar los ambientes urbanos, incluso en el ámbito de las ciudades inteligentes. Por ejemplo, la «cocreación ciudadana» de ciudades mejores «fundamentadas más en cuestiones de equidad e inclusión social.» Medellín, en Colombia, viene liderando esta área. Los «barrios marginales fueron reintegrados a la ciudad, no con smartphones, sino con instalaciones deportivas con financiamiento público y un teleférico que los une a la ciudad.» La ciudad también inició proyectos de refuerzo de la infraestructura y «realiza talleres en comunidades de bajos ingresos para proporcionar acceso a Wi-Fi y mejorar la alfabetización digital.» Esas acciones que se concentran en los menos favorecidos, junto con la capacidad de ver que la tecnología no siempre es la mejor respuesta, hicieron de Medellín un caso exitoso.

Es fácil buscar una cura tecnológica para los problemas más urgentes del mundo. Pero en el caso de la habitabilidad de las ciudades, no se puede correr si antes no se aprende a caminar. Eso significa que debemos garantizar que nuestras ciudades tengan un nivel básico de derechos humanos para todos.

Dia Kayyali es activista, escritor@ y abogad@. Ha estado trabajando para el Electronic Frontier Foundation. Defendió el anonimato y la privacidad en agencias gubernamentales y empresas y ha coordinado una serie de campañas en los EEUU para limitar la vigilancia a nivel nacional y local. Como ciudadan@ sirio-estadounidense, Dia está especialmente interesad@ en la vigilancia en los espacios públicos después del 9/11.