miércoles, 25 de noviembre de 2015

El mito de la neutralidad del dato. La ficción de un conocimiento aséptico, sin sesgos, perfecto y objetivo a partir del big data

Uno de los aspectos centrales en la retórica de la ciudad inteligente es la promesa de un nuevo horizonte de gestión urbana basada en la neutralidad de los datos. Según esta presunción, la capacidad de gestionar y procesar ingentes cantidades de información digital nos lleva a un escenario de neutralidad en las decisiones, informadas a partir de ahora por un mecanismo de discernimiento supuestamente no sesgado. En estas condiciones, el gobierno de la ciudad se convertiría en un asunto tecnocrático mediatizado por data streams, meta datos y, en última instancia, salas de control panóptico desde las que asegurar unas decisiones perfectamente basadas en datos objetivos. La política pública municipal podría, con ello, alcanzar un nuevo estado de automatización de las decisiones de la misma forma que se ha producido esta transformación en otras esferas de la vida, desde la producción industrial, a la aviación, etc.

En su lógica se palpa la concepción del mundo como una realidad perfectamente conocible. Este posicionamiento oculta cuestiones que pueden resultar obvias en nuestra vida diaria y para las ciencias sociales, pero que son sistemáticamente olvidadas. Cuestiones como la imprevisibilidad de los usuarios de los sistemas inteligentes (¿y si, en realidad, no actuamos de manera racional frente a la información que nos ofrecen los contadores inteligentes?), el pequeño margen de actuación individual que siempre le quedará a cualquier policía sometido al más estricto de los sistemas inteligentes de gestión del tráfico a la hora de no castigar determinadas infracciones, la falta de información relacionada entre sistemas (con el clásico ejemplo de la corporación RAND y sus propuestas, basadas en modelos de dinámica urbana en la década de los 70 del siglo pasado en Nueva York), los sesgos de información o conocimiento (refiriéndonos aquí al también principio clásico de Heisenberg), la inevitable necesidad de aplicar razonamientos ideológicos más allá de la calidad estadística que informe dicha decisión, los errores de medición, etc.

Esta visión, presentada de manera sucinta, es claramente tentadora, pero apenas tiene sustento teórico o al menos requiere de una exploración más profunda y una contextualización de sus significados en términos de los cambios que se derivan. Una perspectiva crítica sobre cómo enmarcar los datos en términos económicos, técnicos, éticos, políticos, espaciales o filosóficos necesita un posicionamiento claro desde el inicio en torno a la proclamada neutralidad de los datos. Esta idea de la contextualización de todo el aparato del big data en torno a ensamblajes que no son puramente técnicos, sino un conglomerado de ideologías, instituciones, normativas, prácticas, subjetividades, mercados,… es la que nos permite establecer un relato alternativo y crítico sobre la lectura más establecida sobre el uso del big data en los asuntos públicos. De hecho, no se trata de una disputa nueva, por más que el big data añada unas nuevas condiciones cuantitativas para el gobierno de la ciudad. La Ley de Campbell es conocida en sociología y nos da una idea de la capacidad de corrupción que tienen los datos estadísticos más allá de la puridad de los datos fríos: cuanto más utilizado sea un determinado indicador social cuantitativo para la toma de decisiones, mayor será la presión a la que estará sujeto y más probable será que corrompa y distorsione los procesos sociales que pretende medir.


De esta manera, conceptos supuestamente auto-evidentes como usuario, infraestructura o datos, por poner un ejemplo, necesitan ser analizados desde una perspectiva socio-técnica como ensamblajes complejos más que como realidades incuestionables, en la medida en que son el resultado de una panoplia de prácticas y decisiones no técnicas que escapan incluso de la visión más reducida de la técnica como máquina material. Cualquier equipamiento técnico en la ciudad es fruto de unas características que esconden definiciones no necesariamente evidentes y que, sin embargo, son capaces de normativizar los comportamientos sometidos a su intermediación.

Sin embargo, el optimismo en torno al big data y su contribución a la ciudad inteligente se ha asentado en los medios y en los despachos de las instituciones, al mismo tiempo que erosiona los cimientos del conocimiento científico tal como lo conocíamos hasta ahora. El big data ofrecería hoy la posibilidad de dejar atrás las teorías y las hipótesis porque, gracias a la disponibilidad masiva de información verificable y supuestamente objetiva, no será necesario demostrar las teorías, sino encontrar correlaciones significativas desde la minería de datos. En este marco es donde sucede la actual tensión sobre qué esperar de los grandes datos y cómo esa tensión se traslada al ejercicio del gobierno de lo público en las ciudades, donde el fin de las teorías se torna presuntamente en el fin de las ideologías.

Esta apreciación responde a la realidad de las cosas de la toma de decisiones públicas, pero también a otras esferas como la gestión empresarial. Pensemos, por ejemplo, en los ERP y otros sistemas de gestión corporativa, que buscan cuantificar diferentes elementos de la vida de la empresa y el comportamiento de sus empleados. Estos, a pesar de contar con un sistema supuestamente objetivo de cuantificación, por ejemplo, de la dedicación invertida en cada proyecto, trabajan en un contexto en el que otros objetivos e intereses invitan a la manipulación de sus propios datos para ofrecer una imagen no real pero interesada. Este sencillo ejemplo es aplicable, por supuesto, a esferas de la gestión pública urbana, donde existen también importantes incentivos para la manipulación estadística, con los datos sobre criminalidad como ejemplo más paradigmático. Así, existen evidentes problemas para reclamar la perfección e infalibilidad de la seguridad predictiva porque no existe forma alguna de evitar los sesgos en el diseño de los algoritmos (¿qué tipos criminales se buscan y cuáles no?) o los sesgos de la realidad (la imposibilidad de introducir en los algoritmos los crímenes no denunciados como, por ejemplo, los delitos contra la libertad sexual o los relacionados con la violencia doméstica). Sin embargo, el arreglo tecnológico que persigue el análisis predictivo de la criminalidad se presenta como una realidad sencilla y supuestamente eficaz sin contemplar las causas de la criminalidad y la información de contexto necesaria para entender el clima de seguridad en un barrio o calle determinado.

Estos sesgos relacionados con los algoritmos y el big data forman parte, en opinión de Carr (2014:85), del sistema tecnológico contemporáneo basado en la automatización. Este sistema adolecería, en opinión del autor, de dos sesgos que podemos aplicar también a nuestro análisis:

La complacencia automatizada, de manera que la gestión diaria de cualquier ámbito de la política urbana, en la medida en que esté cada vez más mediatizada por tecnologías automáticas, añadiría nuevos riesgos por falta de vigilancia en el ejercicio de la función pública, imperfecciones en el uso de la maquinaria, pérdida de capacidad de vigilancia para detectar errores de las máquinas, etc. Piénsese, por ejemplo, en el caso de los sistemas de predicción automática de criminalidad, en el riesgo de descuidar el funcionamiento efectivo y sin errores de los sistemas de monitorización y alertas a la policía. Piénsese en el funcionario encargado de hacer seguimiento de las pantallas de un centro inteligente de operaciones y cómo el ejercicio repetitivo de una función mediatizada por una maquinaria reduce su trabajo a tareas rutinarias
El sesgo por la automatización, de manera que las políticas públicas tendrían el riesgo de basar cada vez más sus decisiones en los sistemas inteligentes en lugar de la apreciación y el buen juicio de las personas a cargo de su gestión. Piénsese, por ejemplo, en la brigada de mantenimiento que estará alerta exclusivamente a los avisos que les lleguen a través de sus smartphones sobre incidencias en el viario público, descartando actuar ante incidencias que podrían observar directamente sin medicación de ese instrumento.

Todas estas precisiones refieren a la propia definición de la smart city como una ciudad sensible, que reclama para sí. Sin embargo, los conjuntos y flujos de datos generados en la ciudad inteligente están lejos de ser objetivos cuando se convierten en material sobre el que tomar decisiones. La decisión de qué datos recoger y cuáles ignorar y qué procedimiento usar para ello es una opción con sustancia política, de la misma forma que su interpretación mediante algoritmos, simulaciones, software y dispositivos de control, seguimiento y visualización también encierra decisiones de carácter normativo. En este complejo sistema detrás de la SC, todo un conjunto de valores, técnicas, decisiones, normativas y otros elementos del ensamblaje socio-técnico de la smart city tiene la capacidad de tomar decisiones que afectan a la vida diaria y a los límites de lo posible en la vida en común en la ciudad. Detrás de cualquier catálogo de open data, panel de indicadores, cuadro de mando o city dashboard existe un ensamblaje de instituciones, sistemas de pensamiento, gubernamentalidad, subjetividades, etc. que les otorgan un valor normativo no neutral ni apolítico. De esta forma, hasta los elementos más materiales y vistosos como las salas de control inteligente están equipados no sólo con infraestructuras de datos, monitores y dispositivos actuadores para ofrecer el espejismo de un control en tiempo real de la ciudad. También están equipados con una carga de valores, juicios, interpretaciones y subjetividades difícilmente de captar en una imagen icónica, en un catálogo comercial o en un reportaje de televisión y, sin embargo, configuran igualmente el funcionamiento operativo y el despliegue de su carga ideológica en la ciudad y nos alejan de una visión neutral y aséptica del mundo de los datos.

La búsqueda de la neutralidad es un objetivo y una justificación relativamente escondida en la reproducción explícita del discurso de la SC. Su uso argumentativo no es, al contrario que los mitos anteriormente descritos, un recurso de primer nivel, sino que actúa en el campo de las consecuencias o los efectos de la concepción de la ciudad inteligente que estamos describiendo. Sin embargo, este despliegue inconsciente y oscurecido por objetivos socialmente mejor entendibles no puede ocultar las profundas implicaciones que tienen los sistemas digitales así concebidos para construir una nueva realidad, de la que hemos querido apuntar algunos de sus desafíos más inmediatos.

Comparte esta entrada

No hay comentarios :

Publicar un comentario

Related Posts Plugin for WordPress, Blogger...