En una reciente conferencia auspiciada por el Centro de Estudios de Inteligencia Artificial (IA) de la Universidad de Stanford y la Universidad Nacional de Australia, el filósofo australiano Seth Lazar presentó su concepto de Ciudad Algorítmica, examinando su impacto en la reconfiguración de las relaciones sociales y sus desafíos a la filosofía política.
Lazar llama “Ciudad Algorítmica” a la red de relaciones sociales en que estamos cada vez más conectados por intermediarios algorítmicos: sistemas sociotécnicos como plataformas digitales centralizadas controladas pública y privadamente y arquitecturas descentralizadas competidoras. Contrasta este poder intermediario con el poder extrínseco ejemplificado por el estado en la ciudad física. Este gobierna las relaciones sociales como las orillas de un río gobiernan el agua, en tanto que el poder intermediario opera más como los enlaces que mantienen unidas las moléculas de agua. Al constituir las relaciones que median, los intermediarios algorítmicos permiten que algunos ejerzan poder sobre otros, moldeen las relaciones de poder entre los mediados y, con el tiempo, remodelen la sociedad en general.
Las consecuencias de estos procesos no dejan de ser graves. Lazar destaca que estos nuevos intermediarios sin regulación gobiernan la esfera pública digital, modelándola y distribuyendo la atención de maneras que antes eran inviables. Posibilitan la desinformación y la polarización, los discursos del odio, la radicalización y otras múltiples patologías de la esfera pública digital. La filosofía política en boga es incapaz de resolverlos al suponer que la esfera pública saludable surgirá espontáneamente con sólo establecer los límites correctos de la libre expresión.
Lazar propone una teoría de justicia comunicativa dirigida específicamente a la regulación y control de los intermediarios algorítmicos, señalando la urgencia de que la filosofía política aborde los nuevos desafíos de la gobernanza en la esfera pública digital. Sin embargo, el esbozo de su teoría igualitaria democrática de justicia comunicativa no parece llegar a la profundidad requerida al no cuestionar el anclaje de los procesos patológicos que describe en el paradigma neoliberal.
Esto no significa restar valor a sus investigaciones. Por el contrario, nos parece de gran interés su trabajo y el de sus colegas filósofos que buscan comprender los valores humanos en la era de la inteligencia artificial (IA), abordando adecuadamente los cambios sociales inducidos por la informática, intensificados por la IA. Los estudios sobre la relación entre ética e IA están recibiendo creciente atención, no sólo por los sesgos derivados de los bigdata que le sirven de base sino porque se va estrechando la relación humano – máquina a gran velocidad y estamos muy lejos de resolver los cruciales temas valóricos que pudieran entrar en conflicto con su hipotética independencia a futuro. Ya Kurzweil nos advirtió en 2005: ¡la Singularidad esta cerca!
Resulta interesante complementar el concepto de ciudad algorítmica de Lazar con el de capitalismo de vigilancia de la socióloga norteamericana Shoshana Zuboff que expusimos con más detalle en otra oportunidad. Este da cuenta del nuevo modelo de negocios de las grandes empresas tecnológicas capitalistas, extendido luego a todo el mundo, a través del cual se apropian y monetizan nuestra experiencia – huellas en tanto navegadores del ciberespacio – mediante el llamado “excedente del comportamiento” que les cedemos gratuitamente de forma inconsulta y
casi siempre inconsciente, producto que les sirve para monitorear, modelar y vender a terceros futuros conductuales para incrementar y asegurar sus negocios.
El concepto de capitalismo de vigilancia enfatiza los procesos económicos a la base de nuestra vida en el ciberespacio y la expropiación que ejercen las grandes empresas tecnológicas extrayendo nuevos excedentes; esta vez, lo más íntimo y propio de nuestra vida cotidiana. El centro de interés del filósofo australiano está por el contrario en la ciencia política y la ciencia jurídica ante la reconfiguración de las relaciones sociales remodeladas por los intermediarios algorítmicos, que llevan en último término a la remodelación de la sociedad.
Los estudios sobre la relación entre ética e Inteligencia Artificial están recibiendo creciente atención, no sólo por los sesgos derivados de los Big Data sino porque se va estrechando la relación humano & máquina a gran velocidad y estamos muy lejos de resolver los cruciales temas valóricos que pudieran entrar en conflicto con su hipotética independencia a futuro
Los protagonistas son prácticamente los mismos: nosotros, la población humana planetaria por un lado y las grandes empresas tecnológicas por el otro, cuyo modelo de negocios es replicado por la gran mayoría de las empresas de tamaño mayor y a las que en muchos casos se agregan los Estados de cualquier signo político. El gran escenario es el ciberespacio. Las tecnologías son las de última generación. Se van renovando constantemente, ampliando su poderío, su alcance global, su progresiva dispersión, diversidad, levedad e invisibilidad. Los procesos de transformación van arrinconando a sujetos que buscan apartarse de lo imposible – el mundo digitalizado en su totalidad – defender su reducido espacio de privacidad, su conciencia sometida a presiones visibles e invisibles, su libertad que clama por su independencia y dignidad, y lo que queda de una rebeldía y una solidaridad amenazada.
La pregunta que se hacen tanto Zuboff como Lazar apunta en general al mismo horizonte: ¿Tienen solución los problemas detectados? Ambos coinciden que son de mucha trascendencia y dan una respuesta afirmativa. Pero habría que decir que en ambos casos falta algo bien esencial: una teoría del Estado que abarque los distintos modelos de sociedad; que se haga cargo con realismo de los derechos ciudadanos frente a nuevos y poderosos enemigos. Es cuestión de musculatura, de fuerza, de poder. Se tiene o no se tiene, esa es la cuestión. Enfrentar a consorcios o Estados poderosos requiere una sociedad civil empoderada. Es el único camino. El problema es cómo conseguirlo. Cada sociedad es diferente; el mismo objetivo, pero por distintos caminos.
Por ejemplo, Chile se encuentra en una encrucijada histórica: discutir, redactar y aprobar una nueva Constitución. Tarea trascendente, conquistada en luchas largas y dolorosas. ¿Qué momento más apropiado para pensar en los problemas que venimos discutiendo? ¿Qué ocasión mejor para normar, regular y legislar sobre el comportamiento de los más gravitantes componentes de la sociedad, incluyendo las grandes empresas y también al pueblo en toda su variedad y al Estado? Muchos años de lucha han costado ganar esta posibilidad de sepultar el estado subsidiario neoliberal abriendo la puerta a un estado social de derechos, que es la opción que podríamos aprobar si las fuerzas reaccionarias no imponen una vez más su criterio.
Todas las sociedades, todo pueblo, todo país tiene al frente el avance arrollador de las nuevas tecnologías y las profundas transformaciones y desafíos que deben enfrentar. Todo ciudadano, de cualquier país, tiene la necesidad, la presión y la obligación de pensar estas cosas, proteger su identidad, su dignidad y su privacidad, su familia, sus amigos y colegas, su pueblo en las circunstancias que le tocaron. Estas cuestiones teóricas nos conciernen. Son discusiones relevantes, pero no proponemos esperar que salga por una magia milagrosa la teoría y la ciencia política que abran el camino a la acción. Los antecedentes teóricos que hemos aportado cuentan con bases empíricas poderosas, pero no se consideran acabados. Son terrenos en parte ganados, pero con mucha tarea por delante. La experiencia irá aportado lo suyo. También la teoría.
Los contenidos publicados en elquintopoder.cl son de exclusiva responsabilidad de sus respectivos autores.
Te invitamos a conocer nuestras Reglas de Comunidad
Jose Miguel Arteaga
Estimado Fernando. En mi escrito no he planteado una alternativa mía propiamente tal. Me he limitado a exponer el punto de vista del filósofo Seth Lazar, su diagnóstico general de los efectos que estaría provocando la Ciudad Algorítmica y su esbozo de una teoría igualitaria democrática de la justicia comunicativa. Yo no detallo esta teoría lo que tal vez fue un error porque despliega una sólida argumentación, aunque no la comparto al 100 %. Agregué 3 elementos que me parecen esenciales: 1) Complementé con el concepto de Capitalismo de Vigilancia de S. Zuboff que mira los mismos problemas pero desde la economía y no desde la filosofía política y la ciencia jurídica que es el centro del interés de Lazar. 2) Dije que su propuesta no llega a la hondura suficiente al no considerar la base neoliberal de los fenómenos patológicos que examina. 3) Afirmé que para abrir una vía de solución a estos problemas se requiere una nueva teoría del Estado ya que se trata de gestionar instrumentos para regular un espacio social emergente, inexistente hasta hace poco, en acelerado despliegue y complejidad, determinante de todo el escenario social, por completo desconocido, donde operan los más grandes actores sociales, incluyendo el Estado, todo tipo de empresas, y toda la población. Desde mi punto de vista el ciberespacio requiere urgente análisis y tratamiento transversal. Creo que estamos al comienzo y que lo de Lazar contiene buenos aportes.
viveroscollyer
hola Josè Miguel, quiero comentar brevemente estas lineas tuyas :
«Posibilitan la desinformación y la polarización, los discursos del odio, la radicalización y otras múltiples patologías de la esfera pública digital. La filosofía política en boga es incapaz de resolverlos al suponer que la esfera pública saludable surgirá espontáneamente con sólo establecer los límites correctos de la libre expresión.»
Creo que el asunto para ti se puede pensar como dentro de los amplios àmbitos de la etica polìtica, y ello dentro de una cierta filosofìa polìtica. Me parece que la ètica polìtica que conozco, y no es poca, no ha planteado una soluciòn «espontànea» de lo bueno en el sentido de lo pùblico –tu lo dices como «esfera pùblica saludable», y a la manera de esos «liimites de la libre creaciòn».
Èstos limites, me parece, se deberìan entender al modo como funcionan las regulaciones de los mercados libres de la economìa neoclàsica. Por lo tanto, en tu manera de interpretar este asunto (tal como yo mismo alcanzo a comprender, y puedo estar equivocado). estarìamos en presencia de un enfoque econòmico y de mercado para la ètica. Es decir, a partir de una teorìa de la libertad como libres individualidades –no coacciòn por los colectivos–, cada un@ como egente libre, solamente lograrìamos alguna «armonìa», alguna «sanidad de lo pùblico» por las restricciones o normas adecuadas.
Si estoy en algo en lo cierto, ¿cuàl es la alternativa que propones?