Tecnologías de Vigilancia e Antivigilancia

Tu coche «autónomo» no se conduce solo

01/03/2016

Por Iván Sánchez Ortega | #Boletín13

16790306698_52483be216_k

Foto: Lungstruck. Arduino OBD-II reader. 23 de fevereiro de 2014. Licencia CC BY 2.0

No lo voy a negar: echo de menos tener un coche y conducirlo. Un coche me daba una libertad de movimiento enorme comparada a la que me dan mis pernas, y una libertad de horarios enorme comparada a la del transporte público.

Al mismo tiempo, un coche supone una responsabilidad de cara al propio coche. Dejar el coche en el taller siempre es una opción, pero yo prefería aprender un poco de mecánica para hacer pequeñas reparaciones cuando era necesario, y un poco de ingeniería para comprender el porqué de los problemas y cómo la reparación lo arregla. Por poner un ejemplo: mi primer coche utilizaba combustible diésel, y una de las características del diésel es que necesita estar a alta temperatura para que pueda arder. Por eso, los coches que utilizan diésel tienen unas piezas llamadas «calentadores» (parecidas en tamaño y forma a bujías), cuyo objetivo es precalentar los cilindros del motor a la temperatura suficiente como para comenzar la combustión. Si los calentadores se estropean, o envejecen, el coche tiene problemas para arrancar en días de invierno.

Hay quienes preferían no mancharse las manos de grasa y llamar a una grúa, pero para mí era mucho más fácil buscar una llave inglesa y gastar quince minutos en poner las piezas de recambio. El tener conocimientos de mecánica y unas cuantas herramientas básicas me dio libertad para reparar y mejorar mi coche, independencia de los talleres mecánicos, y control sobre cómo se comporta el coche.

El problema vino cuando ese coche envejeció demasiado y tuve que pasar a usar otro coche más moderno. También era diésel, y también tenía las mismas dificultades para arrancar en días fríos de invierno, pero esta vez no pude repararlo. Ese coche fue diseñado de tal manera que cambiar los calentadores era una tarea más complicada. En el primer coche, la tarea conllevaba aflojar cuatro tuercas. En el segundo, unas veinte tuercas, más mover piezas de gran tamaño para lograr tener acceso a los calentadores.

Es extremadamente frustrante conocer la razón de un problema, conocer la solución, y no poder aplicarla. Cabe preguntarse: ¿Cuáles son las razones para que la reparación resulte más difícil? Este «sabotaje al bricolaje», ¿es deliberado? Si los ingenieros eran conscientes del impacto de un cambio en el diseño, ¿lo alentaron, o intentaron minimizarlo? ¿Eran conscientes de que el cambio haría más difícil las reparaciones? En el fondo, el que el usuario final de un producto pueda repararlo, o mejorarlo, o no, no importa en absoluto. Como señala Goldratt en su libro «The Goal«:

The goal of a manufacturing organization is to make money, […] and everything else we do is a means to achieve the goal.

Por tanto, el que yo pueda o no pueda cambiar una pieza de repuesto no importa, puesto que yo ya le habré dado mi dinero al fabricante al haber comprado el coche. Es más: si el fabricante gana dinero franquiciando «repuestos oficiales» y/o «talleres oficiales», es más que posible que los fabricantes hagan lo posible para evitar que los usuarios usen repuestos genéricos, o talleres no especializados. En una condescendiente nota de prensa del 2004, Volvo decía:

The whole front of the car is moulded in one piece which can be removed only by a Volvo mechanic. Honestly, the only time I open the bonnet on my car is when I want to fill up washer fluid

Crear un coche tan fiable que no haga falta levantar el capó durante años es, indudablemente, bueno. Pero el argumento de «hemos hecho un coche al que no se le puede abrir el capó porque no hace falta» es una falacia argumentativa (que sea posible no es razón necesaria para hacerlo). La libertad de poder despreocuparme del mantenimiento es buena, pero no si eso implica perder la libertad de poder ver, analizar cómo funciona, y poder arreglar algo que es mío. Se puede tener todo, pero no se hace sencillamente porque no es lo que da más dinero.

El problema no está en hacer un producto tan sencillo que no haga falta ningún conocimiento para poder utilizarlo – el problema está en la imbecilización del usuario, en centrarse tanto en el usuario sin conocimientos que se termina ignorando, e incluso atacando al usuario experto. Después de todo, si permitimos que los expertos analicen cómo funciona, es posible que digan públicamente cómo efectuar reparaciones o mejoras sin tener que pagar a las franquicias, y la empresa pierde dinero.

Esta imposibilidad de «abrir el capó» y poder analizar los diferentes componentes es mucho más latente en los sistemas electrónicos de a bordo. Por poner un ejemplo en particular: los sistemas de navegación (mal llamados «GPSs», porque un GPS sólo indica una posición numérica, no da indicaciones). Aun siendo un experto en informática y cartografía, es prácticamente imposible arreglar un fallo (por ejemplo, corregir una falta de ortografía en el nombre de una calle), o modificar el comportamiento (por ejemplo, quiero calcular rutas evitando al máximo las rotondas). A pesar de que uno tenga los conocimientos necesarios y las herramientas adecuadas, estos sistemas se ocultan y «protegen», haciéndolos inaccesibles o terriblemente incómodos, como los calentadores.

Desde un punto de vista naïve, los diseños industriales (así como los sistemas electrónicos) se protegen ante posibles daños – evitar cambios dañinos al no permitir que nadie malvado pueda modificar el comportamiento. Si bien la idea no es mala en principio, el exceso de celo ha elevado esta «protección» hasta el punto de que el propio usuario ya no es propietario de lo que cree suyo. Como ya pasó con los Compact Discs de música y las entidades de derechos de autor, que afirman que una persona no posee un CD, sino que posee una licencia para escuchar ese CD, lo mismo está empezando a ocurrir con los coches. La revista Wired subraya:

John Deere […] told the Copyright Office that farmers don’t own their tractors. Because computer code snakes through the DNA of modern tractors, farmers receive “an implied license for the life of the vehicle to operate the vehicle

El ansia por proteger protege al producto de su propio usuario. ¿Qué pasa si el usuario quiere usar el producto de una manera distinta a la que se pensó en un principio? Por ejemplo, un sistema con GPS sirve para indicar el camino a seguir, pero también sirve para recordar con exactitud por dónde se ha pasado. Esto es especialmente útil en tractores, cuando se quiere recordar por qué partes de la finca se ha pasado, para sembrar o fumigar una sola vez el terreno. Esto es posible actualmente con un GPS de alta precisión, y una tablet puesta contra el parabrisas con una ventosa.

Y en este exceso de celo, las empresas pueden encontrar una manera más de hacer más dinero. Es obvio imaginar un escenario donde John Deere (o cualquier otro fabricante) impida al usuario (ya ni siquiera propietario) que use el sistema electrónico que el usuario quiera. Esto ya se hace en la práctica, puesto que una tablet en el parabrisas no tiene acceso al resto de sistemas de a bordo (por ejemplo, telemetría del motor, o mandos en el panel), lo que a largo plazo hace que el producto de serie sea más cómodo aunque pudieren existir alternativas mejores en el futuro. Pero, dado que John Deere posee el tractor y el agricultor tan solo lo usa bajo las condiciones que se le imponen, John Deere está en su derecho de ordenar «a partir de ahora usarás únicamente AutoTrac (y pagarme por permitirte que lo uses) y tienes prohibido usar to propia tablet mientras operas el tractor».

No sólo es que no se pueda intentar mejorar el coche o el tractor, o cambiar partes de cómo se comporta, es que al «proteger» los sistemas del propio usuario, el usuario no puede saber siquiera si el sistema funciona como debería. Ni tampoco puede pedir la opinión de un experto para saber si funciona como debería.
Ya hemos vivido uno de los ejemplos más graves de esta opacidad sobre el funcionamiento de nuestros objetos: el escándalo de emisiones contaminantes de Volkswagen.

Cuando alguien compraba un coche diésel de Volkswagen, se le decía que contaminaba poco. Y de hecho, en las pruebas en un taller mecánico, el coche parece que contamina poco. Pero los sistemas electrónicos del coche cambiaban entre dos modos de comportamiento: uno que contamina poco pero consume mucho, y uno que contamina mucho pero consume poco. Si el coche se mueve a una velocidad constante típica de una prueba de taller, se cambia al modo menos contaminante. Si no, se cambia al modo más contaminante, pero que requiere menos combustible y mantenimiento.

El escándalo Volkswagen tiene muchas vertientes: la ecológica obvia, la de salud pública (¿cuánto cuesta tratar el exceso de contaminación?), la de homicidio involuntario (¿para cuántas personas con cáncer de pulmón esto le supuso «la gota que colmó el vaso?), la ética (¿es que a nadie dentro de Volkswagen le importa esto?), la económica (¿cuál es el perjucio para las economías de ciudades que cierran sus centros ante la polución?), pero debemos centrarnos mínimamente en la de la propiedad y responsabilidad individual. ¿Por qué ningún propietario de un Volkswagen se dio cuenta de que su coche contaminaba tanto? Porque ningún propietario de un Volkswagen puede «abrir el capó» de la electrónica de su coche para ver si funciona correctamente.

En el fondo, no es el coche el que contamina: los coches tienen la capacidad de activar catalizadores y para filtrar y neutralizar gases. Es el cómo están programados los sistemas electrónicos del coche lo que contamina. El objetivo de estos sistemas no es contaminar menos; su objetivo (recordando de nuevo a Goldratt) es que la empresa gane más dinero. Cabe recordar la teoría de la evolución de Darwin: no sobrevive ni el mejor ni el más fuerte, sino el mejor adaptado al medio. En el ecosistema de los catalizadores de humos de escape, no sobrevive el que contamine menos, sino el que haga ganar más dinero al fabricante.

Hasta ahora sólo hemos vivido un gran escándalo relativo a los programas que rigen los sistemas de los coches. La venida de los coches «autónomos» o «autopilotados» supone que es un programa el que tiene control no de sistemas particulares (como la radio, la dirección asistida o los catalizadores de humos), sino de todo el coche en su conjunto. Pero estos programas no están diseñados para ayudar al usuario, sino a los beneficios. En el escándalo de Volkswagen, los usuarios no pudieron «abrir el capó» para ver si el coche contaminaba. Extrapolando, nos podemos imaginar que los coches autopilotados podrían tener comportamientos sutilmente destructivos, como por ejemplo generar atascos o patrones en el tráfico, retrasar, confundir o forzar una maniobra de un coche de otro fabricante, o incluso provocar un accidente que dañe a los coches de otro fabricante y, literalmente, hacer que parezca un accidente.

De nuevo extrapolando de Volkswagen, estos hipotéticos accidentes no fueren fruto de la malicia ni de la intención, sino la combinación de efectos secundarios de muchas otras decisiones. En vez de un «hagamos que el coche consuma menos combustible, alguna otra persona de la empresa ya se preocupará de las repercusiones» podremos tener un «hagamos que el coche llegue un poco antes que la competencia, alguna otra persona de la empresa ya se preocupará de las repercusiones». La responsabilidad, al final, resulta no ser de nadie porque nadie la asumió.

La responsabilidad no es del coche, porque el coche no se conduce a sí mismo. Tu coche autopilotado no se conduce solo, lo conduce un programa que tú no sabes ni cómo funciona ni lo que puede hacer. Queda esperanza en el hecho de que hacer un coche autopilotado no es tan complicado como parece: el desarrollar los programas necesarios para el autopilotaje es posible para un linuxero con suficientes recursos y tiempo. Y estos programas sí que podremos verlos, y sí que podremos analizarlos, y con conocimientos podremos cambiarlos, y ponerlos en nuestros coches, y poder decir «yo decido cómo conduce mi coche».


Iván Sánchez Ortega es desarrollador geoespacial y activista OpenGeo. Ha sido miembro del board de OpenStreetMap y ha coordinado el OSM de España hasta 2011. Actualmente es miembro del Open Source Geospatial Foundation creada para apoyar el desarrollo colaborativo de software geoespacial abierto y ampliar su utilización. Trabaja como desarrolador GIS y Front-end en Mazemap (Noruega).

Tags: , , , ,