La Violencia de Algoritmos

La Violencia de Algoritmos ¿Por qué Big Data es tan inteligente como aquellos que la generan Por Taylor Owen En diciembre de 2010, asistí a una sesión de entrenamiento para un programa de softw are de análisis de inteligencia llamado Palantir. Co-fundada por Peter Thiel, un m ultimillonario de Silicon Valley tecno-libertario, Palantir es un kit de herrami entas de pulido de las capacidades de visualización de datos y análisis dirigidos a los y ampliamente utilizado por la NSA, el FBI, la CIA, y otra la seguridad naci onal de Estados Unidos y las instituciones policiales . La sesión de entrenamiento tuvo lugar en la esquina de Tyson, en Washington, DC, e n un espacio de oficina Google-esque completo con scooters, un futbolín y una coci na equipada con bebidas energéticas. Yo estaba tomando el curso para explorar los posibles usos de la herramienta para la investigación académica. The dashboard for the New York Police Department's 'Domain Awareness System' (DA S) is seen in New York May 29, 2013. Shannon Stapleton / Reuters El tablero de instrumentos para 'Sistema de Conciencia de dominio' del Departame nto de Policía de Nueva York (DAS) es visto en Nueva York 29 de mayo 2013. Pasamos el día la realización de una investigación de demostración. Primero nos dieron u na serie de conjuntos de datos y, uno por uno, que los cargara en Palantir. Cada conjunto de datos nos mostró una nueva capacidad analítica del programa: miles de i nformes de inteligencia diarios fueron desagregados a sus piezas básicas de inform ación y correlacionados con los datos históricos; imágenes de satélite se cubrieron con, ataque aéreo socioeconómico, y los datos del IED. Y en este proceso, la promesa de Palantir fue revelada: con más datos provienen mayor claridad. Para los analistas que pasan sus días luchando para interpretar grandes flujos de datos, la demo Pala ntir era fácil de vender. En nuestro ejercicio final, hemos añadido los datos de vigilancia que detallan los movimientos previstos de un presunto insurgente. Palantir correlaciona la ubica ción y la hora de estos movimientos con los movimientos previstos de un conocido f abricante de bombas. Y hay la formación terminó. Era bastante obvio que el siguiente paso, en la "vida real", sería violento. Los Estados Unidos enviaría en un equipo d e aviones no tripulados o fuerzas especiales. Nosotros en la demo, por el contra rio, sólo fuimos a casa. Este programa plantea muchas preguntas difíciles. Gran parte de los datos utilizad os se introducen y etiquetados por los seres humanos, lo que significa que estab a abarrotada de sesgo humano y los errores. Los algoritmos en los que se constru ye el sistema están ellos mismos codificados por los seres humanos, por lo que tam bién son subjetivas. Tal vez lo más consecuentemente, sin embargo, aunque el program a está demostrando que se pretendía informar a la toma de decisiones humana, que no tiene por qué ser el caso. Cada vez más, este tipo de herramientas, y los algoritmos que los alimentan, se utilizan para automatizar la violencia. Para los gobiernos, la promesa es el control de un espacio digital que está aument ando descentralizado y complejo. Pero puede venir a costa de la propia legitimid ad de la que damos el estado de su poder. Palantir, que toma su nombre de la leg endaria "piedra de ver" en El Señor de los Anillos de JRR Tolkien, es sólo la última i teración de la edad viejo mito de una bola de cristal que todo lo sabe. Ese mito s ubyace tanto a la rápida expansión de la vigilancia del estado y el creciente uso de algoritmos e inteligencia artificial para luchar y para gobernar. Para los gobi ernos, la promesa es el control de un espacio digital que está aumentando descentr alizado y complejo. Pero puede venir a costa de la propia legitimidad de la que damos el estado de su poder.

EL ESTADO AUTOMATIZADO Palantir es una ventana al pensamiento del estado de la tecnología. Amenazado por el creciente poder de percepción de actores digitales nefastos, los estados occide ntales han tratado de controlar la propia a red como dicen en documentos filtrad os por Edward Snowden, "Recoja todo; Procesar todo; Explotarla Todos; Socio de t odo; Sniff todo; Saberlo todo. " Various types of directional antennas are pictured on the roof of a skyscraper i n Berlin, November 5, 2013. Fabrizio Bensch / Reuters Varios tipos de antenas direccionales se representan en la azotea de un rascacie los en Berlín 5 de noviembre de 2013. El problema, por supuesto, es que la omnisciencia digital es increíblemente difícil de lograr. Para incluso aspirar a ella, se necesita dos cosas: una gran cantidad de datos y las herramientas para dar estos datos significado. En primer lugar, la enorme cantidad de datos. De las filtraciones Snowden, sabem os que el gobierno de Estados Unidos está aprovechando la columna vertebral de los sistemas de comunicaciones, nuestros servidores y cables transatlánticos. Se está o liendo las señales inalámbricas en las ciudades y la implementación de las actividades generales de minería de datos en línea y telecomunicaciones. Pero esto es sólo la pun ta del iceberg. Instrumentos de vigilancia de área amplia son capaces de grabar imágenes de alta res olución de vastas áreas por debajo de ellos. A partir de 2004, los Estados Unidos ha desplegado 65 de Lockheed Martin dirigibles en Afganistán que proporcionan video en tiempo real y la vigilancia de audio a través de 100 kilómetros cuadrados (poco más de 38 millas cuadradas) a la vez. Estos sistemas de detección de amenazas persist entes pueden registrar la actividad por debajo de ellos por períodos de hasta 30 día s. Mientras tanto en el suelo, vastas redes de cámaras en nuestras ciudades se están conectados en red en las bases de datos policiales y centros de control, como l a policía de Nueva York en tiempo real Crime Center, que procesa los datos de más de 6.000 cámaras de vigilancia, así como lectores de placas que proporcionan seguimien to en tiempo real del movimiento del vehículo. Y, por supuesto, Silicon Valley se encuentra en la mezcla. Una compañía llamada Plan et laboratorios ha desplegado recientemente una red de 100 satélites de tamaño tosta dora que se llevará a diario imágenes de alta resolución de todas partes de la tierra. El objetivo es poner en marcha miles-herramienta persistente vigilancia en tiem po casi real, a disposición de cualquier persona en línea. Ellos llaman a estos satéli tes Palomas. Un coche de Google sin conductor recoge casi un 1 GB de datos por s egundo sobre el mundo alrededor de ella, y la Internet de las cosas está trayendo la recopilación de datos en nuestros hogares. Una advertencia se produjo con una r eciente Samsung Smart TV sobre la discusión de "información sensible personal u otro " en sus proximidades, ya que podría ser transferida a un tercero. Lo que nos encontramos en el proceso de construcción es un gran tiempo real, la re presentación en 3-D del mundo. Un registro permanente de nosotros. Pero ¿de dónde vien e el significado de todos estos datos vienen? ¿Qué estamos en el proceso de construc ción es un gran tiempo real, la representación en 3-D del mundo. Un registro permane nte de nosotros. Pero ¿de dónde viene el significado de todos estos datos viene? Para ello, se necesi ta cada vez más complejos algoritmos, la automatización, la máquina de aprendizaje, y la inteligencia artificial. Estas tecnologías están impulsando una amplia gama de nu evas herramientas de gestión que pueden rastrear y movimientos récord de personas, d etectar patrones, y el riesgo de atribuir a comportamientos fuera de las normas

programadas, para predecir eventos futuros. Y cada vez más, este tipo de algoritmos se utilizan para matar. Rusia guarda cinco instalaciones de misiles balísticos armados con robots de una tonelada, capaces d e viajar a una velocidad de 45 kilómetros (unas 28 millas) por hora, usando el rad ar y un telémetro láser para navegar, analizar los posibles objetivos, y ametrallado ras fuego sin tirando el gatillo humano. El Super Aegis 2 torre de arma automati zado puede bloquear a un blanco humano hasta tres kilómetros (casi dos millas) de distancia en la oscuridad y el fuego de forma automática una ametralladora, lanzac ohetes, o un misil tierra-aire. Vehículos aéreos no tripulados, que van desde los bo mbarderos autónomas para drones enjambre de insectos de tamaño, son cada vez más capac es de recoger y procesar datos y matar por su cuenta. La pretensión es que estas capacidades están reservados para las zonas de guerra. Pe ro el carácter universal de estas herramientas, combinadas con los mandatos legale s en expansión de la guerra contra el terrorismo, significa que la capacidad del c ampo de batalla se están arrastrando a la policía nacional y la gobernabilidad, a me nudo en las zonas grises legales de las fronteras. Por ejemplo, el Departamento de Seguridad Nacional de Estados Unidos ató una amplia zona de vigilancia blimp 2, 000 pies sobre el desierto en Nogales, Arizona. En su primera noche en uso, el s istema identifica 30 sospechosos que fueron traídos para interrogarlo. Ahora hay l lamadas para redistribuir los 65 dirigibles de vigilancia utilizados en Irak y A fganistán para Aduanas y Protección Fronteriza para patrullar la frontera entre Esta dos Unidos y México. La consecuencia de las capacidades crecientes de gobernabilidad algorítmica y la v iolencia son significativos. En primer lugar, los actos de guerra se han convert ido en el espacio y conceptualmente sin límites. Las líneas de una vez establecidos legal y normativamente entre la guerra y la paz, así como entre el compromiso naci onal e internacional están desapareciendo. A flock of pigeons flies with a prototype "parcelcopter" of German postal and lo gistics group Deutsche Post DHL in Bonn December 9, 2013. Wolfgang Rattay / Reuters Una bandada de palomas vuela con un prototipo "parcelcopter" del grupo de correo s y logística Deutsche Post DHL en Bonn 09 de diciembre 2013. En segundo lugar, la representación digital y los prejuicios, valores y ambigüedades que se construyen en él, se están convirtiendo en los actos de gobierno y la violen cia a sí mismos, en lugar de simplemente contribuyentes a ellos. Esto nos lleva a un lugar de la gobernanza predictivo, basado en algoritmos que no rinden cuentas y, a menudo desconocidas. Aunque Estados Unidos tiene actualmente una directiva que los seres humanos deben ser parte de cualquier decisión fatal en la guerra, e sto ignora todas las decisiones basadas en algoritmos que conducen hasta este pu nto final. Si son sesgados, defectuoso, o basándose en datos erróneos, entonces el s er humano será tan malo como la máquina. En tercer lugar, se están erosionando los espacios de disidencia en la sociedad. A quellos que empuja los límites de lo que se considera un comportamiento aceptable son capturados cada vez más al alcance de algoritmos destinados a identificar la d esviación. Ya estamos viendo cambios en el comportamiento entre los periodistas y activistas de investigación. En un reciente evento de la Escuela de Periodismo de Columbia en una serie llamada "El periodismo Después de Snowden," los editores de The New York Times, el Washington Post y Politico detallan los retos de la prote cción de las fuentes en un ambiente de vigilancia estatal aumento y el efecto que tiene en su capacidad de hacer la presentación de informes de rendición de cuentas. Los actos de desobediencia civil digitales son cada vez más específicas y procesados ??no como protesta sino como el terrorismo. Cuando los castigos son muy desprop orcionada en relación con los crímenes, entonces una función democrática importante se p ierde.

Por último, como sostiene el autor Daniel Suárez, una combinación de la fuerza de desp liegue remoto automatizado y la inteligencia artificial podría permitir al Estado a matar de forma preventiva y de forma anónima. Este es un camino a la guerra auto matizado, y un presagio de una recentralización del poder. Un camino que nos oblig a a tener una conversación seria sobre el poder y la responsabilidad de los algori tmos implementados tanto por los actores estatales y corporativos. LOS PELIGROS DE GOBIERNO ALGORÍTMICA El sistema de Estado moderno se basa en un acuerdo entre los gobiernos y los ciu dadanos. Estados proporcionan bienes colectivos sociales, ya su vez, a través de u n sistema de normas, instituciones, regulaciones y ética para sostener esta respon sabilidad el poder, los ciudadanos dan estados legitimidad. Esta negociación orden y la estabilidad creado a partir de lo que era un sistema global cada vez más caóti ca. Si algoritmos representan un nuevo espacio sin gobierno, una oculta y, poten cialmente, en constante evolución incognoscible bien público, entonces son una afren ta a nuestro sistema democrático. Si algoritmos representan un nuevo espacio sin gobierno, una oculta y, potencial mente, en constante evolución incognoscible bien público, entonces son una afrenta a nuestro sistema democrático, que requiere transparencia y la rendición de cuentas p ara poder funcionar. Un nodo de poder que existe fuera de estos límites es una ame naza a la noción misma de la gobernanza colectiva. Esto, en su esencia, es una noc ión uno profundamente antidemocrático que los estados tendrán que comprometerse con se riedad si van a seguir siendo relevante y legítimo a sus ciudadanos digitales que les dan su poder.