#Política

Yuval Noah Harari y el impacto del desarrollo científico

4 |
COMPARTIR
EN WHATSAPP
COMPARTIR
EN WHATSAPP

imagen

En su libro Homo Deus. Breve historia del mañana, Harari analiza la disrupción tecnológica. Este concepto será resumido en tres hipótesis. La primera, que es presentada aquí, postula que la aplicación rutinaria de los descubrimientos de la biología y neurociencia podría desplazar la democracia liberal y el mercado libre basados en las ideas del libre albedrío e individuación. La segunda trata la “religión” del tecnohumanismo cuyo objetivo sería la creación de un Homo Deus cuyas extraordinarias capacidades, incluyendo los algoritmos inconscientes, nos conducirían al desarrollo de los valores humanos y plena autonomía. La tercera representa una “religión más audaz”, es el “Dataísmo” que sustituiría los deseos y experiencias como el origen de todo sentido y autoridad, y deja de venerar al hombre y a Dios para adorar los datos.


En el siglo XXI nuestros datos personales son probablemente el recurso más valioso que la mayoría de los humanos aún podría ofrecer, y los estamos cediendo a los gigantes tecnológicos a cambio de “servicios de correo electrónico y divertidos videos de gatitos”.

Es el primer movimiento desde la revolución francesa que ha conseguido crear un valor nuevo, esto es la libertad de información, que no es lo mismo que la libertad de expresión porque esta es concedida a los humanos, mientras que la libertad de información es un atributo concedido a la misma información. La propagación del dataísmo por todas las disciplinas da lugar a un paradigma científico unificado, y por lo mismo a una especie de “dogma irrefutable”.

Frente a estos posibles desarrolló Harari se pregunta si es realmente cierto que la vida es sólo un procesamiento de datos y que los algoritmos inconscientes son más valiosos que la conciencia.

Examinemos ahora más extensamente en esta entrega la primera hipótesis sobre el impacto de desarrollo científico en las ideas básicas del liberalismo. La segunda y tercera hipótesis las trataremos en próximas entregas.

Desarrollos científicos: los algoritmos no conscientes podrían superar los seres conscientes

Los descubrimientos científicos recientes surgidos de las ciencias de la vida -como por ejemplo la biología de la evolución y neurociencia-, y se logre al mismo tiempo su aplicación en técnicas rutinarias, las ideas sobre el libre albedrío y la individuación se verán profundamente socavadas.

El creciente aluvión de dispositivos tales como sensores, computadores portátiles incorporados a teléfonos inteligentes, relojes de pulsera, pulseras y ropa interior, además de variadas herramientas y estructuras, podrían terminar desplazando la democracia liberal y el mercado libre basados en las ideas liberales de libre albedrío e individuación.

En el siglo XXI los humanos perderían su utilidad militar y económica debido a los avances tecnológicos. El capitalismo pudo crecer porque cada ser humano tenía una gran utilidad en el masivo carácter de las guerras y economía modernas industriales. A Harari llama mucho la atención la coincidencia temporal entre la Declaración de los Derechos del Hombre y del Ciudadano y la promulgación del decreto sobre el servicio militar obligatorio. En ambos se arguye que todos los ciudadanos tienen igual valor e iguales derechos políticos. Se sostenía que los soldados y los obreros de los países democráticos rendían mejor que en las dictaduras porque gozaban de mayor motivación, la cual era de mucha utilidad en los ejércitos y en las industrias. Una lógica parecida subyacía en el otorgamiento de sufragio a las mujeres después de la Primera Guerra Mundial.

La sustitución del ser humano por los dispositivos tecnológicos

Para el siglo XXI, hombres y mujeres podrían perder su valor militar y económico. Los ejércitos más avanzados ahora se apoyan en tecnologías de última generación. Unos pocos expertos pueden dirigir drones sin pilotos y los cibergusanos están sustituyendo a los masivos ejércitos del siglo XX, mientras que los generales estarían delegando cada vez más decisiones a los algoritmos.

En la esfera económica está ocurriendo algo semejante. Aunque en 2016 los computadores no son más conscientes que en 1950, estaríamos cerca de una revolución trascendental. En la actualidad se están desarrollando nuevos tipos de inteligencia no conscientes, con más competencias para desarrollar tareas mucho mejor que los humanos. Todas estas tareas se basan en el reconocimiento de pautas. Los algoritmos no conscientes podrían superar pronto a los seres conscientes. En el siglo XXI “para ejércitos y compañías comerciales la inteligencia es obligatoria pero la consciencia es opcional”. Los algoritmos ahorran tiempo y dinero, y salvarían vidas humanas. Esto está ocurriendo en la manufactura, bancos, agencias de viaje, la bolsa de valores, y en muchas profesiones como la de abogados, detectives, profesores, y médicos generales e internistas, y en la actividad farmacéutica: en 2011 se fundó en San Francisco una farmacia dirigida por un solo robot.

Como sabemos, la historia del mercado laboral en Estados Unidos puede dividirse en el desarrollo de tres sectores: hasta cerca de 1800 la inmensa mayoría trabajaba en la agricultura. Durante la revolución industrial la mayoría empezó a trabajar en las industrias y los servicios. En 2010 solo el 2% de los estadounidenses trabajaba en la agricultura, un 20% en la industria y un 78% como profesores, médicos y diseñadores de páginas web y otros oficios.

“Cuando los algoritmos sin mente sean capaces de enseñar, diagnosticar y diseñar mejor que los humanos, ¿Qué haremos?”.

En los siglos pasados, las máquinas solo podían competir con los humanos en la ejecución de tareas manuales, pero no en tareas cognitivas. “¿Qué ocurrirá cuando los algoritmos sean mejores que nosotros recordando, analizando y reconociendo pautas?”.

Los avances de la investigación científica hacen muy difícil sostener la idea de que los humanos siempre superarán a los algoritmos no conscientes. Primero, todos los animales, incluido el Homo Sapiens, son un conjunto de algoritmos modelados por la selección natural durante millones de años de evolución. Segundo, los algoritmos no se resienten como acontece con los materiales usados en la fabricación de calculadoras.

El rápido y continuo desarrollo de los algoritmos favorecerán la expulsión de los seres humanos del mercado, y la riqueza podría terminar en las manos de una minúscula élite que posea los todopoderosos algoritmos, generando así una desigualdad social y política sin precedentes. Los algoritmos no sólo podrían dirigir empresas, sino que también llegar ser sus propietarios. En el siglo XXI podemos ver la formación de una nueva e inmensa clase no trabajadora, esto es a personas que perderían su utilidad desde un punto de vista económico y político. Lo mismo puede empezar a verse en el sector artístico.

Investigadores de la universidad de Oxford emplearon un algoritmo conforme al cual en los próximos 20 años muchos trabajadores quedarán desempleados. Por ejemplo, es probable que en 2033 el 99% de los televendedores y agentes de seguros pierdan sus puestos que serán ocupados por algoritmos. Probabilidades semejantes se esperan para otros numerosos oficios: árbitros deportivos, cajeras, camareras y guardias de seguridad, entre muchos. Sin embargo, hay algunos empleos seguros como el de los arqueólogos.

Es probable que para 2033 se creen nuevas ocupaciones, como las de diseñadores de nuevos mundos virtuales que superen las capacidades de los humanos. Pero este desarrollo no podrá dar empleo a millones de desempleados, quienes podrán sobrevivir gracias a la posesión de medios materiales que el progreso económico estaría en condiciones de proporcionarles. Harari sostiene que lo que ellos harían con su tiempo podría consistir en el consumo de drogas y videojuegos, accediendo a mundos llenos de emociones que el mundo exterior sería incapaz de ofrecerles.

Liberalismo, ciencias de la vida y algoritmos

Lo anterior asestaría un golpe mortal a la creencia liberal en el carácter sagrado de la vida. Muchos filósofos piensan que esta pesimista hipótesis traería consigo el fin del individuo. En este sentido, vale la pena destacar la reflexión de Habermas coincidente con la de Nick Bostrom -citado por Harari-. Habermas dice que el límite impuesto por el inescapable requerimiento de legitimidad que da vida al orden normativo y la dependencia de ese orden de interpretaciones convincentes sólo podrían eliminarse si la búsqueda de motivos se desligase de cualquier estructura comunicativa de la acción, debería modificarse la forma de la socialización y, con ella, la identidad de los sistemas socioculturales mismos. Solo si los motivos del actuar dejaran de adecuarse a normas que requieren justificación, y solo si las estructuras de personalidad ya no tuvieran que encontrar su unidad en sistemas de interpretación garantizadores de su identidad, la aceptación inmotivada de decisiones podría convertirse en una rutina irreprochable. En este caso, se evitaría una crisis del sistema.

Para Habermas, aceptar la hipótesis de una conducta inmotivada, asociada al elevado grado de complejidad alcanzado por el sistema capitalista durante su proceso de evolución, implicaría dar por muerta la esperanza de poder organizar democráticamente una sociedad que responda a la interacción libre y razonada de personas que procuran la realización de los ideales de emancipación, individuación y extensión de la comunicación libre de cualquier forma de dominación. Aceptar la hipótesis de la actuación desmotivada significa concordar con la hipótesis del fin del individuo, declarada tan apresuradamente por las teorías pesimistas.

Algunos obstáculos técnicos o decisiones políticas podrían desacelerar la invasión logarítmica del mercado laboral. Gran parte de la mente humana es aún un territorio inexplicado y no sabemos qué talentos pueden descubrir los humanos y qué profesiones podrían inventar para sustituir las pérdidas causadas por los algoritmos. Pero esto no sería suficiente para salvar al liberalismo debido a su creencia en el individuo: en la medida en que el sistema no pueda prescindir de los humanos, estos podrían ser necesarios como entidades colectivas y no como individuos. En todo caso el número de individuos que el sistema requeriría jamás podría ni siquiera aproximarse a los millones de trabajadores que el sistema está volviendo inútiles por el arrasador desarrollo de la tecnología, como ya se ha señalado.

Recordemos que el liberalismo se sustenta filosóficamente en la idea de que cada ser humano es un “individuo” que goza de una sustancia única e indivisible que constituye su verdadero “yo auténtico”. Esto es una especie de voz clara y única. Se supone que ese yo auténtico es completamente libre. Según este razonamiento, sólo el yo auténtico puede conocerse a sí mismo, y por eso es investido de tanta autoridad. No se debe confiar a nadie las propias elecciones más importantes porque el yo íntimo conoce sus sentimientos y deseos. “Esto explica que el votante sea quien mejor sabe lo que le conviene, porque el cliente siempre tiene la razón, y porque la belleza está en el ojo del espectador”.

Pero las ciencias de la vida desafían estos argumentos: los organismos son un conjunto de varios algoritmos que no poseen un yo auténtico. Dichos organismos no son libres, sino que están modelados por los genes y presiones ambientales. Sus decisiones son tomadas de manera determinista o por el azar, pero no son el resultado de la libertad.

Un algoritmo externo puede conocer mejor los sentimientos y deseos del ser humano que lo que él mismo cree conocer. Una vez que el algoritmo externo se desarrolle suficientemente y sea capaz de supervisar cada uno de los sistemas que componen el cuerpo y cerebro del ser humano, podría sustituir al votante, cliente y espectador. Los algoritmos del siglo XXI, y en pleno desarrollo, con la capacidad de supervisar a los seres humanos, han debilitado mucho el importante papel desempeñado por los individuos en los siglos XIX y XX.

En este siglo es posible que la autoridad concedida al individuo en el proceso de toma de decisiones pase a ser asumido por los algoritmos en red. A esto ya se ha llegado en el campo de la medicina. Unos ejemplos paradigmáticos entre los muchos descritos por Harari son los algoritmos informáticos de Watson de IBM y la pulsera inteligente Microsoft Brand lanzada por Microsoft; otro caso es el movimiento Quantified Self que sostiene que el yo no es otra cosa que pautas matemáticas. Mientras más se incorporen a la vida cotidiana tecnologías genéticas y la gente desarrolle relaciones íntimas con su ADN, el yo único podría difuminarse aún más.

Si se permitiera legalmente que Google leyera los correos electrónicos e hiciera seguimiento de nuestras actividades cotidianas, no es impensable que desarrolle competencias para alertar a los seres humanos de epidemias en gestación antes que los servicios de salud tradicionales. Un proyecto muy ambicioso de Google es el Google Baseline Study, dirigido a crear una base de datos gigantesca sobre la salud humana, estableciendo el perfil de “salud perfecta”.

Otros ejemplos destacados incluyen el reciente algoritmo de Facebook para juzgar la personalidad y disposiciones humanas. En un estudio de 2015 algunos analistas de este algoritmo destacaban que la gente podía dejar de lado sus propios juicios psicológicos y confiar sus decisiones sobre la elección de carreras y parejas a esos algoritmos. Más aún, señalaban que en las que iban a ser las próximas elecciones presidenciales de Estados Unidos en 2016, Facebook podía conocer las opiniones políticas de millones de votantes, así como identificar cuáles de ellos podrían cambiar sus opiniones y en qué sentido.

Otra ilustración es Cortana, un asistente personal de inteligencia artificial. Se espera que los usuarios permitan a Cortana acceder a todos sus archivos, correos electrónicos y aplicaciones para poder conocerlos mejor y dar consejos sobre una multitud de asuntos, transformándose en un agente virtual que represente los intereses del usuario. Now de Google y Siri de Apple y Amazon están desarrollando dispositivos en el mismo sentido.

Todos estos dispositivos podrían conducirnos a la imposibilidad de desconectarnos de una “red omnisciente” porque esto significará la muerte. En particular, si las expectativas médicas llegan a concretarse, la gente incorporará a su cuerpo varios dispositivos biométricos, órganos biónicos y nanorobots que supervisarán la salud, protegiendo la vida humana de infecciones, enfermedades y lesiones. Para que esto acontezca, es necesario estar permanentemente conectado, para conocer y disponer de los avances de la investigación médica. Es necesario entonces proteger marcapasos, audífonos, y el sistema inmunitario nanotecnológico de las plagas del ciberespacio.

Cuando los biólogos concluyeron que los organismos son logaritmos derrumbaron el muro que separaba lo orgánico de lo inorgánico. Ellos “transformaron la revolución informática que pasó de ser un asunto simplemente mecánico a un cataclismo biológico y transfirieron la autoridad de los individuos humanos a los algoritmos conectados en red […] la realidad será una malla de algoritmos bioquímicos y electrónicos sin fronteras claras y sin núcleos individuales”.

En estas condiciones, “¿cuál será la suerte […] de los humanos cuando ricos y pobres estén separados por enormes brechas en la posesión de la riqueza”.

Tecnología y desigualdad

A comienzos de 2016 los más ricos del mundo tenían tanto dinero como cerca de todo lo que poseían 7200 millones de personas. O sea, los 62 más ricos acumulaban la misma riqueza que toda la mitad inferior de la humanidad. Otra vez Harari se pregunta qué ocurriría cuando a esta brecha se añada también la brecha entre personas incapaces de prestar servicios al sistema y los superhombres.

La medicina del siglo XXI es un proyecto elitista

La medicina del siglo XX representó un proyecto humanitario, porque se comprometió con sanar a los enfermos, pero la medicina del siglo XXI aspira a mejorar aún más a los que ya están sanos. Esto es un proyecto elitista, porque rechaza el objetivo de una norma universal igualmente válida para toda la humanidad.

Este proyecto está en la búsqueda incesante de seres superdotados con una memoria e inteligencia por encima de la media. Las elites desecharían la medicina de masas del siglo XX que benefició a ejércitos y trabajadores, hombres y mujeres, porque gozaban de un valor utilitario. Para la medicina del siglo XXI no tendría sentido seguir invirtiendo en gente pobre e inútil, porque es mucho más inteligente, pero muy despiadado, construir a un puñado de superhumanos. Ellos serían capaces de alcanzar la prosperidad, la felicidad, la inmortalidad y hasta la divinidad.

TAGS: #Democracia #DesarrolloTecnológico Algoritmos Democracia Liberal Individuo

Los contenidos publicados en elquintopoder.cl son de exclusiva responsabilidad de sus respectivos autores.
Te invitamos a conocer nuestras  Reglas de Comunidad

Comentarios

Tu dirección de correo electrónico no será publicada.

Quedan 1500 carácteres.
Ordenar comentarios por:

03 de marzo

Mantengo mi esperanza en una sociedad que alcance un nivel superior de performance con resultados organizacionales basados en algoritmos que representen el bien común, la supervivencia, la estabilidad medio ambiental y la importancia de la conexión espiritual a un medio de vida eterna. Si hemos tenido resultados pobres en los que muchos se han enriquecido, mientras otros padecen las necesidades más básicas, ha sido precisamente porque ese algoritmo de desarrollo social ha sido deficiente, poniendo sus bases no el humanitarismo que trasciende más allá de la muerte, que nos obliga a actuar benévolamente, sino que en las vanidades que consumen a las mentes cegadas por el resplandor de los beneficios del mundo, siendo esto muchas veces la razón que corta el cordón umbilical del ser humano con la conciencia que da cabida a la eternidad.

Un ejemplo paradigmático de lo que digo es suponer, respetar y actuar consecuentemente con un algoritmo que establezca, como base de la convivencia humana, el que cada ser humano debe tener acceso a agua, comida y abrigo, y que si su condición es tal que si por si mismo no puede acceder a ello, cada Estado, en una acción de rescate de uno de sus componentes, le brinde a esa persona la necesidad que no haya satisfecho. Eso fija un mecanismo de acción distinta a los que hemos conocido, porque involucra al Estado en mayores decisiones y nuevas operaciones. Cabría esperar otro resultado, porque la herramienta fija el 95% de la calidad del resultado.

05 de marzo

Otro ejemplo de un paradigma de cambio en cuanto a la riqueza y la pobreza, es que los gobiernos hagan un esfuerzo por crear un Fondo Monetario Civil, con ayuda suficiente del Estado, para crear el abanico de posibilidades que permiten grandes sumas de dinero, es decir, banco propiedad de todos los chilenos, en este caso, así como AFP, empresas escogidas con pinzas, e incluso realizar las inversiones de expansión en recursos estratégicos y soberanos…

Eso permitiría que en el mediano y largo plazo el resultado de quien es más rico y pobre sea un terreno que se empareje, disminuyendo la diferencia de tanto pick de contraste…

Por supuesto, esto es algo que personalmente le he propuesto a varios gobiernos en Chile, sin embargo, prueba de que son la mafia política que defiende a la mafia económica, ninguno ha hecho esfuerzo alguno por colocarle la cuota de racionalidad al sistema económico, financiero y productivo que el sistema necesita…

Para mí, todo político chileno es corrupto, porque se defienden unos a otros. Secuestraron al Estado para perpetuar sus beneficios y los de sus amigotes…

Sin embargo, si la población chilena conociera a fondo los beneficios de la aplicación del paradigma que describo, le pederían a los gobiernos que implementase esta idea, que no pretende derrocar a nadie económicamente, sino que dinamizar la economía y racionalizar el acceso al poder económico en distintas medidas, para que la gente disfrute de sus beneficios…

jhfjd

07 de marzo

Muchas gracias por tus valiosos comentarios sobre lo que podemos llamar un «algoritmo ideal». Sin embargo, su realización depende claramente de cambios políticos de gran envergadura, de los cuales estamos hoy muy distantes. Esto no resta valor al «algoritmo ideal», cuyo contenido dependerá de una precisa y contundente definición de las condiciones necesarias para favorecer el cambio político.

08 de marzo

Estamos distantes de esos cambios políticos, pero, eso no quita que no podamos colocar un algoritmo como base y mejorarlo.

Para el caso, tengo uno bien simple.

La Ley 20.500 de Participación Ciudadana provee el marco. En su defecto, lo crea la ciudadanía…

Se parte con una Red Social Chilena.
Se crea una Base de Conocimiento en torno a la materia que sea necesaria.
Se desarrolla un método de Inteligencia Colectiva.
Se crea una Cámara Ciudadana Digital.
Se crea un Cuarto Poder del Estado, El Poder Civil.
Se desarrolla un Programa de Operaciones colectivamente.

Así, se cambia el actual método o algoritmo político, que consiste en escoger a un Presidente, que saca un Programa de Gobierno desde su sombrero y luego reparte 3.300 cargos a los que les dice: «Hagan en la medida de lo posible».

A diferencia de ese algoritmo, el que propongo, desarrolla un Programa de Operaciones de Gobierno con la rigurosidad e integrad de un Plan de Ingeniería de Métodos. Se escoge un Secretario Presidente y se le asigna el Programa de Operaciones de Gobierno desarrollado colectivamente. Los 3.300 cargos se escogen por elección popular y se les asigna su porción de tareas. Las decisiones para ese Programa se aprueban con amplias mayorías, partiendo por aprobar aquello en lo que el 95% de la Cámara está de acuerdo , y luego el 90% y así sucesivamente.

De hecho, casualmente, trabajo en un sitio web que promueve la creación de El Poder Civil con estas ideas…

Ver todos
Ocultar

#NuevaConstitución

VER TODO
Para la ciudadanía la rotonda sin salidas es como vivir el castigo de Sísifo, destinados a llevar una pesada roca política a la cima de la montaña, solo para verla rodar montaña abajo y volver a repeti ...
+VER MÁS
#Política

De vuelta a la rotonda política

Para la ciudadanía la rotonda sin salidas es como vivir el castigo de Sísifo, destinados a llevar una pesada roca política a la cima de la montaña, solo para verla rodar montaña abajo y volver a repetir el ciclo interminable de esfuerzo y fracaso

Que existe agotamiento en múltiples sectores, difícil es de negar. Y eso incide en la viabilidad política actual. Pero eso no significa que el dilema constitucional esté cerrado
+VER MÁS
#Política

El mito del cierre definitivo del proceso constituyente/constitucional

Que existe agotamiento en múltiples sectores, difícil es de negar. Y eso incide en la viabilidad política actual. Pero eso no significa que el dilema constitucional esté cerrado

A pesar de los obstáculos y desgastes, el compromiso adquirido para modificar la Constitución debe ser respetado y llevado a cabo para reconectar con las expectativas y necesidades del pueblo
+VER MÁS
#Política

¿Nos jodimos todos?

A pesar de los obstáculos y desgastes, el compromiso adquirido para modificar la Constitución debe ser respetado y llevado a cabo para reconectar con las expectativas y necesidades del pueblo

El pueblo de Chile, está hastiado de la reyerta de baja monta, no quiere ver más discusiones bizantinas, alejadas de sus problemas cotidianos. Los chilenos y chilenas favorecen los acuerdos, pero esos no ...
+VER MÁS
#Política

Las lecciones del plebiscito

El pueblo de Chile, está hastiado de la reyerta de baja monta, no quiere ver más discusiones bizantinas, alejadas de sus problemas cotidianos. Los chilenos y chilenas favorecen los acuerdos, pero esos no se han visto por ningún lado

Nuevos

La segregación social y la desigualdad económica exagerada destruye democracias y sociedades y aumenta la delincuencia. Una solución que considerar para construir sociedades prosperas y justas, es limita ...
+VER MÁS
#Sociedad

Cuando el Estado está ausente, la delincuencia se hace presente

¿Qué elementos tiene la alcaldesa para desacreditar nuestro sistema electoral y sus personas, que han dado pruebas de que dichas instancias son una fiesta para la democracia, y sostener que el fraude esta ...
+VER MÁS
#Educación

Cuando no crees en tu propio electorado

Una “tesis” fuerte posible de entrada dice: <los mejores continuadores de un Jacques Derrida, talvez no sean los filósof@s sino los físicos quántico-relativistas>. Veamos… Sabine Hossenfelde ...
+VER MÁS
#Ciencia

Una físico teórica y los “relatos” de la física actual

El Estado no tiene hoy ni los recursos ni las facultades para intervenir en la siderúrgica en tris de cierre. Lo de aumentar la salvaguarda, es un placebo, no va a reducir los costos de producción, ni a h ...
+VER MÁS
#Economía

La CAP es la punta del iceberg

Popular

No se justifica el interés público que exige la constitución, para mantener la concesión minera en Chile a empresas extranjeras. Su sola existencia es contraria al interés nacional
+VER MÁS
#Economía

A 52 años de la Nacionalización de la Gran Minería del Cobre en Chile

1 Acabo de participar en la “Fourth Chilean Conference on Philosophy of Physics”/ IV Conferencia Chilena en Filosofía de la Física, del 11 al 13 de marzo de 2024. Lo escribo en inglés como fue publi ...
+VER MÁS
#Cultura

Consideraciones iniciales de una filosofía de la física actual

Si por estas cosas curiosas de la vida, llegara a prosperar esta operación comercial, enfrente de la angosta vía local Camoens de Vitacura, se habrán reemplazado 6 viviendas ya demolidas por 7 oficinas, ...
+VER MÁS
#Ciudad

En Chile ''los de arriba'' mandan a todo evento

La segregación social y la desigualdad económica exagerada destruye democracias y sociedades y aumenta la delincuencia. Una solución que considerar para construir sociedades prosperas y justas, es limita ...
+VER MÁS
#Sociedad

Cuando el Estado está ausente, la delincuencia se hace presente