#Sociedad

¿En qué está la Inteligencia Artificial? ¿Por qué debería preocuparnos?

0 |
COMPARTIR
EN WHATSAPP
COMPARTIR
EN WHATSAPP

imagen

Hace pocos días uno de los mejores conocedores de estos temas, el exsenador Guido Girardi, en una entrevista al diario La Tercera que subtituló “Ni la socialdemocracia ni la derecha tienen respuestas para el mundo que viene” planteó la necesidad de ponernos al día como país sobre “el peligro que la era digital, la inteligencia artificial y el metaverso representan para la democracia y para la propia existencia de la raza humana”.


Ray Kurzweil, director de Ingeniería de Google, conocido ampliamente por su largo historial de precisas predicciones, sostiene que en 2040 la inteligencia no biológica será mil millones de veces más capaz que la biológica unida globalmente

Por mi parte, la primera pregunta en que quisiera enfocar este análisis, sin aspirar a responderla con total claridad porque la ciencia y la tecnología no la tienen resuelta, sería la siguiente: ¿En qué punto de su desarrollo está la inteligencia artificial general (IAG), entendiendo por ella la IA que supera a la inteligencia humana en todos los ámbitos, destrezas y capacidades?

La segunda pregunta que me parece pertinente abordar creo que tiene una clara respuesta: ¿Por qué debiera interesarnos a nosotros como país este sensible problema?

Respecto de lo primero. Si uno ingresa a la página del Future of Life Institute (FLI) organización de indiscutido prestigio, sin fines de lucro, fundada en 2014, cuyo trabajo tiene por objeto reducir el riesgo existencial y catastrófico global proveniente de tecnologías poderosas, llega a una conclusión sorprendente y abrumadora: estamos en un punto preciso de ese desarrollo en que algunas cuestiones decisivas de investigación y tecnología de la IAG deben detenerse porque no hay seguridad de que dar un paso más allá del punto al que se ha llegado pueda desencadenar consecuencias catastróficas para el futuro de la humanidad.

Cuando digo detenerse no significa que hay que abandonar el campo o una determinada línea de investigación. Cuando un investigador consulta con sus pares si dar un paso más en su línea de trabajo y hacer una prueba específica de capacidad del sistema en que trabaja, planteándole a la vez las dudas que le merece hacerlo por los riesgos que podría implicar, en diversos casos sus colegas le recomiendan abstenerse de esa prueba por los riesgos que implica. Estos se relacionan con que el sistema pierda de manera irrecuperable su alineación con los valores humanos, es decir, con el control humano sobre su desarrollo posterior. El asunto entra en discusión y se proponen nuevas opciones, hacer rodeos, acercarse a testear con menores riesgos, avanzar en la misma línea con mediaciones, con pasos intermedios, pero no perdiendo nunca el piso seguro de alineación con los valores humanos y el control humano del sistema.

Estamos en este umbral, en distintos lugares del mundo, en diversos países que poseen tecnologías de punta en IA, en el cual dar un paso más allá del punto a que se ha llegado en determinados desarrollos científico – tecnológicos, podría perderse la seguridad del alineamiento humano del sistema creado, por lo que darlo podría tener consecuencias catastróficas.

¿Cuáles podrían ser estas consecuencias? Se ponen algunos ejemplos: la desaparición en un plazo dado de los humanos sobre la faz de la tierra. La eliminación de la Tierra como centro de recursos por haber sido consumidos en su totalidad como materiales por las necesidades de desarrollo de los habitantes que nos habrían sucedido.

A pesar de los esfuerzos y recursos de investigación y desarrollo de los últimos años, aún no está resuelto el gran tema que Alan Turing puso sobre la mesa: ¿Cómo entrar al último rincón del cerebro de la IA para descubrir por completo y con total seguridad sus más profundas reflexiones e intenciones? ¿Cómo llegar a confiar con total certidumbre de estas creaciones nuestras si alguna vez llegan a escapar de nuestro control? ¿Cómo probar que estamos frente a un humano o a un robot?

Por otra parte, el desarrollo de la IA va de la mano no sólo con las más urgentes necesidades civiles de todo tipo y la solución de las graves carencias y enfermedades que enfrentamos. También acompañan y tiene el más poderoso motor en las necesidades y urgencias militares, de seguridad política y geopolítica. Los más grandes negocios, la competencia más dura y despiadada entre las empresas y consorcios más poderosos del planeta luchan por conseguir las tecnologías de punta en IA para competir y derribar a sus rivales.

Ray Kurzweil, director de Ingeniería de Google, conocido ampliamente por su largo historial de precisas predicciones, sostiene que en 2040 la inteligencia no biológica será mil millones de veces más capaz que la biológica unida globalmente. Por su parte, Stephen W. Hawking, físico teórico, astrofísico y cosmólogo, sostuvo que la invención de la inteligencia artificial podría ser lo mejor o lo peor en la historia de la humanidad. Podría significar el fin de la raza humana.

El FLI advierte que es probable que nos encontremos en una discontinuidad peligrosa en el desarrollo de la IA donde, en términos generales, el poder crece abruptamente mucho más rápido que la responsabilidad. Desde el 2022, sostiene, parece poco probable que el mundo pudiera coordinarse para evitar estos riesgos. El peligro no sería lo suficientemente visible para nuestras instituciones como para inspirar una respuesta vigorosa.

Por estos meses observamos y sufrimos las consecuencias de la guerra en Ucrania. No sabemos hasta donde pueda crecer en extensión e intensidad. Es un campo de prueba y ejercicio de armas, dispositivos e infraestructuras que incluyen IA en todos los campos, físicos, cibernéticos, reales y virtuales. También es un campo en que las principales fuerzas en conflicto ensayan y prueban nuevas armas y dispositivos logísticos y de comunicación. No hay ninguna real certidumbre que todo salga según lo programado. La extrema complejidad de esta guerra híbrida de nuevo tipo aumenta la posibilidad de accidentes y errores. Crece también la intromisión del terrorismo. La diplomacia, las negociaciones y la paz se ven lejanas. La guerra como tal puede escapar de las manos de sus protagonistas. Las ambiciones son desmesuradas. La polarización crece día a día. La retórica ya es demencial y desquiciada.

¿Qué hacemos nosotros como país y como región? ¿Es que no nos concierne? El doctor Girardi se refiere al proyecto de nueva Constitución sentenciando “Creo que lamentablemente es una Constitución que salda cuentas con el siglo XX, pero no tiene una palabra del siglo XXI. Vamos a aprobar para mejorar, porque esta Constitución no permite resolver ninguno de estos problemas de futuro”. Coincido en que habrá que mejorar el texto que se apruebe incorporando con fuerza problemas de futuro. Discrepo en que se trata de una Constitución que sólo salda cuentas del siglo XX. Hay muchos avances en derechos, justicia, diversidades, pueblos originarios y medio ambiente que no sólo saldan deudas sino apuntan a un futuro del que estamos gravemente rezagados. Por otra parte, Girardi no incluye los riesgos existenciales entre sus preocupaciones.

Creo que nuestra política exterior debiera incorporar con fuerza nuestra participación global conjunta con la región en estos temas. Ya no somos solamente una fértil provincia señalada de remotas naciones respetadas como nombró bellamente el soldado y poeta español hace 4 siglos y medio. Ya somos otro país en otro mundo, muy diverso y muy comunicado. Vale la pena hacernos cargo y que surja un poeta o poetiza que lo diga con belleza.

TAGS: #DesarrolloHumano #InteligenciaArtificial #NuevaConstitución

Los contenidos publicados en elquintopoder.cl son de exclusiva responsabilidad de sus respectivos autores.
Te invitamos a conocer nuestras  Reglas de Comunidad

Comentarios

Tu dirección de correo electrónico no será publicada.

Quedan 1500 carácteres.

#NuevaConstitución

VER TODO
Para la ciudadanía la rotonda sin salidas es como vivir el castigo de Sísifo, destinados a llevar una pesada roca política a la cima de la montaña, solo para verla rodar montaña abajo y volver a repeti ...
+VER MÁS
#Política

De vuelta a la rotonda política

Para la ciudadanía la rotonda sin salidas es como vivir el castigo de Sísifo, destinados a llevar una pesada roca política a la cima de la montaña, solo para verla rodar montaña abajo y volver a repetir el ciclo interminable de esfuerzo y fracaso

Que existe agotamiento en múltiples sectores, difícil es de negar. Y eso incide en la viabilidad política actual. Pero eso no significa que el dilema constitucional esté cerrado
+VER MÁS
#Política

El mito del cierre definitivo del proceso constituyente/constitucional

Que existe agotamiento en múltiples sectores, difícil es de negar. Y eso incide en la viabilidad política actual. Pero eso no significa que el dilema constitucional esté cerrado

A pesar de los obstáculos y desgastes, el compromiso adquirido para modificar la Constitución debe ser respetado y llevado a cabo para reconectar con las expectativas y necesidades del pueblo
+VER MÁS
#Política

¿Nos jodimos todos?

A pesar de los obstáculos y desgastes, el compromiso adquirido para modificar la Constitución debe ser respetado y llevado a cabo para reconectar con las expectativas y necesidades del pueblo

El pueblo de Chile, está hastiado de la reyerta de baja monta, no quiere ver más discusiones bizantinas, alejadas de sus problemas cotidianos. Los chilenos y chilenas favorecen los acuerdos, pero esos no ...
+VER MÁS
#Política

Las lecciones del plebiscito

El pueblo de Chile, está hastiado de la reyerta de baja monta, no quiere ver más discusiones bizantinas, alejadas de sus problemas cotidianos. Los chilenos y chilenas favorecen los acuerdos, pero esos no se han visto por ningún lado

Nuevos

En general todo incremento en los costos, son traspasados a precios. Por tanto, no es inocua la discusión sobre el nivel de ingresos que debiéramos tener en Chile, de acuerdo al tamaño de nuestra economía
+VER MÁS
#Trabajo

Para mejores sueldos

Hablar de los avances en los derechos de las mujeres se hace vital, y es que continuamente están en riesgo latente de ser un retroceso y volver al punto inicial
+VER MÁS
#Género

Siempre es 8M y nosotras lo sabemos

1 Acabo de participar en la “Fourth Chilean Conference on Philosophy of Physics”/ IV Conferencia Chilena en Filosofía de la Física, del 11 al 13 de marzo de 2024. Lo escribo en inglés como fue publi ...
+VER MÁS
#Cultura

Consideraciones iniciales de una filosofía de la física actual

Para nuestro proyecto político, no existe nada más revolucionario que un objeto concreto y patente que el Estado funciona, permitiendo que jóvenes de clases y medias y medias bajas puedan generar movilid ...
+VER MÁS
#Educación

El Frente Amplio debe valorar la selección en liceos emblemáticos

Popular

Para nuestro proyecto político, no existe nada más revolucionario que un objeto concreto y patente que el Estado funciona, permitiendo que jóvenes de clases y medias y medias bajas puedan generar movilid ...
+VER MÁS
#Educación

El Frente Amplio debe valorar la selección en liceos emblemáticos

Si bien las investigaciones son consistentes, hablan más de probabilidades y no de certezas, esto significa que entre los seres humanos existe una gran variabilidad individual, es decir, entre el blanco y ...
+VER MÁS
#Política

Ser conservador o liberal vendría predispuesto en el cerebro

La lección más importante, sobre todo, para el sector conservador, es a moderar sus palabras, no es sano, ni permisible, que personas que detentan cargos de responsabilidad política, acostumbren a declar ...
+VER MÁS
#Política

Un tobogán de emociones

La creación de un sistema de pensiones mixto, el aumento de la PGU mediante una fuente de financiamiento transparente y la reconfiguración del pilar contributivo son medidas cruciales
+VER MÁS
#Política

Pensiones: indiferencia y debates infructuosos