Inteligencia artificial

Conectados, chipeados y vigilados

No es nueva la vocación de registro y de observación de las conductas. Ocurre que ahora somos información que camina y dejamos la huella a cada paso y en tiempo real. Usuarios y plataformas digitales, una relación de poder asimétrica. Por Darío Sandrone

1067
1067
Darío Sandrone Darío Sandrone 27-01-2022

Ilustración Chelo Candía

“Si fuéramos capaces de encontrar el modo de controlar todo lo que a cierto número de hombres les puede suceder; de disponer de todo lo que los rodea a fin de causar en cada uno de ellos la impresión que quisiéramos producir; de cerciorarnos de sus movimientos, de sus relaciones, de todas las circunstancias de su vida, de modo que nada pudiera escapar ni entorpecer el efecto deseado, es indudable que un medio de esta índole sería un instrumento muy potente y ventajoso, que los gobiernos podrían aplicar a diferentes propósitos, según su trascendencia”. La frase, que bien podría atribuirse a alguna mente conspiranoica de esta era signada por la conectividad, tiene 250 años y figura en la carta que el jurista y filósofo británico Jeremy Betham, considerado el padre del utilitarismo moderno, le envió a la Asamblea Nacional de Inglaterra en 1771.

La palabra vigilancia hunde sus raíces en el latín y se asocia a varias palabras que circulan actualmente. Vigía, por ejemplo, es aquella palabra con la cual se denominaba antiguamente a los soldados que se quedaban durante la noche observando el mar, para avistar algún barco enemigo que pudiera aparecer frente a las costas mientras todos dormían. También la palabra vigilia, asociada al término vigilancia, ha sido tomada, por ejemplo, por la Iglesia Católica para nombrar las ceremonias en la que los fieles se quedan despiertos durante toda la noche a la espera de que ocurra algún acontecimiento. En ambos casos, la noche es un denominador común que supone una asimetría: el que vigila está despierto mientras los demás duermen.

Vigilar es poder

Si el saber es poder, el que vigila tiene más poder porque conoce lo que los demás ignoran. Esta asimetría posee dos aspectos no necesariamente contradictorios. Por un lado, el vigilante tiene poder para brindar seguridad, para proteger de un potencial peligro. Y por el otro, para ejercer control, para monitorear los comportamientos y las acciones, incluso de aquellos a los que supuestamente protege.

Por otro lado, el vigilante siempre se ha servido de artefactos tecnológicos para observar mejor. Las tecnologías asociadas a la mirada han sido las más evidentes: mangrullos, catalejos, telescopios, binoculares y más recientemente, cámaras y drones. 

Un hito fundamental de las tecnologías de la vigilancia ha sido el panóptico. En la década de 1770, el filósofo inglés Jeremy Bentham (el mismo de la carta...) presentó al poder legislativo de Inglaterra un proyecto para reformar la arquitectura de las cárceles, que consistía en una torre en el centro de la prisión, alrededor de la cual estuvieran todos los calabozos individuales. Lo más importante era que desde la torre se pudieran mirar todas las celdas, pero los presos, debido a la altura y estructura de la torre, no pudieran ver si el guardián estaba en ella, razón por la cual debían actuar correctamente todo el tiempo. En palabras de Bentham: “El saberse constantemente observado por un inspector, hace perder en efecto, la fuerza para obrar mal, y casi la idea de desearlo”. 

Con esa nueva tecnología ya no era necesario que alguien vigilara y cada cual se controlaría a sí mismo permanentemente “por las dudas”. Bentham había tomado la idea de la arquitectura de algunas fábricas, lo que da la pauta que el proyecto de panóptico no sólo era un proyecto para la estructura del sistema penal, sino también del productivo, en definitiva, de la sociedad en su conjunto. 

Doscientos años después, otro filósofo, esta vez francés, Michel Foucault, escribiría una obra clave para los estudios de la vigilancia: Vigilar y castigar (1975). Allí estudió el proyecto de Bentham y catalogó como “sociedad disciplinaria” la que había inaugurado este dispositivo. El enfoque de Foucault es uno de los más usados actualmente para pensar las tecnologías contemporáneas de la vigilancia.

En la era de la información 

Con el uso de las estadísticas por parte de los estados a partir del siglo XVIII, y con el advenimiento de las computadoras hacia finales del siglo XIX, que permitía administrar automáticamente esos registros estadísticos, la vigilancia dejó de estar asociada exclusivamente a la mirada, y comenzó vincularse con el registro de datos personales de los ciudadanos, con la información.

En la actualidad, no es necesario que alguien “vea” dónde estamos, porque los datos informáticos del GPS del celular quedan registrados en los servidores de las compañías que proveen el servicio. 

En todo caso, asistimos a la era de la automatización tecnológica de la vigilancia en dos aspectos. El primero, relacionado aún con la mirada humana, que ha sido reemplazada por sensores artificiales más eficaces: cámaras de vídeo, programas de reconocimiento facial, sensores de proximidad, detectores de movimiento. El dron es el dispositivo clave en este sentido. En su Teoría del Dron (2013), otro filósofo francés, Grégoire Chamayou, asegura que los drones han reflotado la vieja idea medieval del “Ojo de Dios” que vigila y controla desde las alturas. Este dispositivo se perfila como “el ojo-que-todo-ve-todo-el-tiempo”, el ojo sin párpado ni sueño. 

Por otro lado, los datos personales (incluso los que corresponden a imágenes) se codifican instantáneamente a través de nuestros dispositivos digitales en una secuencia de 1´s y 0´s que son registrados, y que al ser interpretados por personas o algoritmos, se convierten en información de nosotros disponible para diferentes usos. A cada instante, dejamos nuestra huella acerca de dónde estamos, cuánto gastamos, qué preferimos, qué hacemos, cuándo lo hacemos, con quién lo hacemos. Así, con transferencias de bancos, comunicaciones, consumos culturales... todo es registrado en tiempo real por las diferentes aplicaciones, Y aquí radica otra característica esencial que adquirió la vigilancia de esta era. 

Los datos que hasta hace años eran recogidos por el Estado (pensemos en los censos, o los registros fiscales) ahora son volcados por nosotros mismos permanentemente y de manera voluntaria a la red global de computadoras con una inmediatez asombrosa, para ser registrados y almacenados por grandes compañías tecnológicas. Ésta es, justamente, una de las novedades de esta era, según analiza en una entrevista con Redacción Mayo el doctor en ciencias sociales, investigador del Conicet y profesor de la UBA, Pablo Rodríguez (el diálogo completo aquí).

En este nuevo escenario, no son pocos los autores que han hablado de “panóptico digital”: con una buena infraestructura se pueden registrar las acciones de cualquier individuo sin que éste sea consciente de que alguien o algo lo está monitoreando.

Algoritmos para predecir 

Al combo, se suman ahora los omnipresentes y poderosos “algoritmos”, cálculos de cálculos que, sobre la base de esa información que proporcionamos permanentemente, pueden mapear y predecir comportamientos, actividades sociales, hábitos, lugares más visitados y horarios usuales de cualquier ciudadano. 

Los dispositivos digitales registran 24 de 24 horas. Los desarrollos de nuevas formas de almacenamiento de datos plantean la posibilidad de registrar por décadas, almacenando los datos para siempre. 

La tendencia es hacia un archivo total, a una memoria infinita. Vidas enteras registradas y guardadas en algún servidor, a disposición de las corporaciones tecnológicas. Y tal como lo plantea Nicolás Wolovick, informático y docente de la UNC (leer aquí la nota completa), está muy desbalanceado el poder entre los usuarios y las plataformas digitales. A todas luces, es una relación demasiado asimétrica.

De este panorama surgen, sin dudas, innumerables preguntas para seguir pensando y abriendo diálogos. ¿Qué tipo de vigilancia es esta? ¿Cuál es su propósito? ¿Cómo se relaciona con las formas antiguas de vigilancia? ¿Quién o qué observa el mar de datos por la noche cuando todos dormimos? 

Suscribite al newsletter

Redacción Mayo

* no spam