Ciudad algorítmica: nuevos desafíos de la filosofía política

En una reciente conferencia auspiciada por el Centro de Estudios de Inteligencia Artificial (IA) de la Universidad de Stanford y la Universidad Nacional de Australia, el filósofo australiano Seth Lazar presentó su concepto de Ciudad Algorítmica, examinando su impacto en la reconfiguración de las relaciones sociales y sus desafíos a la filosofía política.

---

Los estudios sobre la relación entre ética e Inteligencia Artificial están recibiendo creciente atención, no sólo por los sesgos derivados de los Big Data sino porque se va estrechando la relación humano & máquina a gran velocidad y estamos muy lejos de resolver los cruciales temas valóricos que pudieran entrar en conflicto con su hipotética independencia a futuro

Lazar llama “Ciudad Algorítmica” a la red de relaciones sociales en que estamos cada vez más conectados por intermediarios algorítmicos: sistemas sociotécnicos como plataformas digitales centralizadas controladas pública y privadamente y arquitecturas descentralizadas competidoras. Contrasta este poder intermediario con el poder extrínseco ejemplificado por el estado en la ciudad física. Este gobierna las relaciones sociales como las orillas de un río gobiernan el agua, en tanto que el poder intermediario opera más como los enlaces que mantienen unidas las moléculas de agua. Al constituir las relaciones que median, los intermediarios algorítmicos permiten que algunos ejerzan poder sobre otros, moldeen las relaciones de poder entre los mediados y, con el tiempo, remodelen la sociedad en general.

Las consecuencias de estos procesos no dejan de ser graves. Lazar destaca que estos nuevos intermediarios sin regulación gobiernan la esfera pública digital, modelándola y distribuyendo la atención de maneras que antes eran inviables. Posibilitan la desinformación y la polarización, los discursos del odio, la radicalización y otras múltiples patologías de la esfera pública digital. La filosofía política en boga es incapaz de resolverlos al suponer que la esfera pública saludable surgirá espontáneamente con sólo establecer los límites correctos de la libre expresión.

Lazar propone una teoría de justicia comunicativa dirigida específicamente a la regulación y control de los intermediarios algorítmicos, señalando la urgencia de que la filosofía política aborde los nuevos desafíos de la gobernanza en la esfera pública digital. Sin embargo, el esbozo de su teoría igualitaria democrática de justicia comunicativa no parece llegar a la profundidad requerida al no cuestionar el anclaje de los procesos patológicos que describe en el paradigma neoliberal.

Esto no significa restar valor a sus investigaciones. Por el contrario, nos parece de gran interés su trabajo y el de sus colegas filósofos que buscan comprender los valores humanos en la era de la inteligencia artificial (IA), abordando adecuadamente los cambios sociales inducidos por la informática, intensificados por la IA. Los estudios sobre la relación entre ética e IA están recibiendo creciente atención, no sólo por los sesgos derivados de los bigdata que le sirven de base sino porque se va estrechando la relación humano – máquina a gran velocidad y estamos muy lejos de resolver los cruciales temas valóricos que pudieran entrar en conflicto con su hipotética independencia a futuro. Ya Kurzweil nos advirtió en 2005: ¡la Singularidad esta cerca!

Resulta interesante complementar el concepto de ciudad algorítmica de Lazar con el de capitalismo de vigilancia de la socióloga norteamericana Shoshana Zuboff que expusimos con más detalle en otra oportunidad. Este da cuenta del nuevo modelo de negocios de las grandes empresas tecnológicas capitalistas, extendido luego a todo el mundo, a través del cual se apropian y monetizan nuestra experiencia – huellas en tanto navegadores del ciberespacio – mediante el llamado “excedente del comportamiento” que les cedemos gratuitamente de forma inconsulta y
casi siempre inconsciente, producto que les sirve para monitorear, modelar y vender a terceros futuros conductuales para incrementar y asegurar sus negocios.

El concepto de capitalismo de vigilancia enfatiza los procesos económicos a la base de nuestra vida en el ciberespacio y la expropiación que ejercen las grandes empresas tecnológicas extrayendo nuevos excedentes; esta vez, lo más íntimo y propio de nuestra vida cotidiana. El centro de interés del filósofo australiano está por el contrario en la ciencia política y la ciencia jurídica ante la reconfiguración de las relaciones sociales remodeladas por los intermediarios algorítmicos, que llevan en último término a la remodelación de la sociedad.

Los protagonistas son prácticamente los mismos: nosotros, la población humana planetaria por un lado y las grandes empresas tecnológicas por el otro, cuyo modelo de negocios es replicado por la gran mayoría de las empresas de tamaño mayor y a las que en muchos casos se agregan los Estados de cualquier signo político. El gran escenario es el ciberespacio. Las tecnologías son las de última generación. Se van renovando constantemente, ampliando su poderío, su alcance global, su progresiva dispersión, diversidad, levedad e invisibilidad. Los procesos de transformación van arrinconando a sujetos que buscan apartarse de lo imposible – el mundo digitalizado en su totalidad – defender su reducido espacio de privacidad, su conciencia sometida a presiones visibles e invisibles, su libertad que clama por su independencia y dignidad, y lo que queda de una rebeldía y una solidaridad amenazada.

La pregunta que se hacen tanto Zuboff como Lazar apunta en general al mismo horizonte: ¿Tienen solución los problemas detectados? Ambos coinciden que son de mucha trascendencia y dan una respuesta afirmativa. Pero habría que decir que en ambos casos falta algo bien esencial: una teoría del Estado que abarque los distintos modelos de sociedad; que se haga cargo con realismo de los derechos ciudadanos frente a nuevos y poderosos enemigos. Es cuestión de musculatura, de fuerza, de poder. Se tiene o no se tiene, esa es la cuestión. Enfrentar a consorcios o Estados poderosos requiere una sociedad civil empoderada. Es el único camino. El problema es cómo conseguirlo. Cada sociedad es diferente; el mismo objetivo, pero por distintos caminos.

Por ejemplo, Chile se encuentra en una encrucijada histórica: discutir, redactar y aprobar una nueva Constitución. Tarea trascendente, conquistada en luchas largas y dolorosas. ¿Qué momento más apropiado para pensar en los problemas que venimos discutiendo? ¿Qué ocasión mejor para normar, regular y legislar sobre el comportamiento de los más gravitantes componentes de la sociedad, incluyendo las grandes empresas y también al pueblo en toda su variedad y al Estado? Muchos años de lucha han costado ganar esta posibilidad de sepultar el estado subsidiario neoliberal abriendo la puerta a un estado social de derechos, que es la opción que podríamos aprobar si las fuerzas reaccionarias no imponen una vez más su criterio.

Todas las sociedades, todo pueblo, todo país tiene al frente el avance arrollador de las nuevas tecnologías y las profundas transformaciones y desafíos que deben enfrentar. Todo ciudadano, de cualquier país, tiene la necesidad, la presión y la obligación de pensar estas cosas, proteger su identidad, su dignidad y su privacidad, su familia, sus amigos y colegas, su pueblo en las circunstancias que le tocaron. Estas cuestiones teóricas nos conciernen. Son discusiones relevantes, pero no proponemos esperar que salga por una magia milagrosa la teoría y la ciencia política que abran el camino a la acción. Los antecedentes teóricos que hemos aportado cuentan con bases empíricas poderosas, pero no se consideran acabados. Son terrenos en parte ganados, pero con mucha tarea por delante. La experiencia irá aportado lo suyo. También la teoría.