Hace pocos días uno de los mejores conocedores de estos temas, el exsenador Guido Girardi, en una entrevista al diario La Tercera que subtituló “Ni la socialdemocracia ni la derecha tienen respuestas para el mundo que viene” planteó la necesidad de ponernos al día como país sobre “el peligro que la era digital, la inteligencia artificial y el metaverso representan para la democracia y para la propia existencia de la raza humana”.
Por mi parte, la primera pregunta en que quisiera enfocar este análisis, sin aspirar a responderla con total claridad porque la ciencia y la tecnología no la tienen resuelta, sería la siguiente: ¿En qué punto de su desarrollo está la inteligencia artificial general (IAG), entendiendo por ella la IA que supera a la inteligencia humana en todos los ámbitos, destrezas y capacidades?Ray Kurzweil, director de Ingeniería de Google, conocido ampliamente por su largo historial de precisas predicciones, sostiene que en 2040 la inteligencia no biológica será mil millones de veces más capaz que la biológica unida globalmente
La segunda pregunta que me parece pertinente abordar creo que tiene una clara respuesta: ¿Por qué debiera interesarnos a nosotros como país este sensible problema?
Respecto de lo primero. Si uno ingresa a la página del Future of Life Institute (FLI) organización de indiscutido prestigio, sin fines de lucro, fundada en 2014, cuyo trabajo tiene por objeto reducir el riesgo existencial y catastrófico global proveniente de tecnologías poderosas, llega a una conclusión sorprendente y abrumadora: estamos en un punto preciso de ese desarrollo en que algunas cuestiones decisivas de investigación y tecnología de la IAG deben detenerse porque no hay seguridad de que dar un paso más allá del punto al que se ha llegado pueda desencadenar consecuencias catastróficas para el futuro de la humanidad.
Cuando digo detenerse no significa que hay que abandonar el campo o una determinada línea de investigación. Cuando un investigador consulta con sus pares si dar un paso más en su línea de trabajo y hacer una prueba específica de capacidad del sistema en que trabaja, planteándole a la vez las dudas que le merece hacerlo por los riesgos que podría implicar, en diversos casos sus colegas le recomiendan abstenerse de esa prueba por los riesgos que implica. Estos se relacionan con que el sistema pierda de manera irrecuperable su alineación con los valores humanos, es decir, con el control humano sobre su desarrollo posterior. El asunto entra en discusión y se proponen nuevas opciones, hacer rodeos, acercarse a testear con menores riesgos, avanzar en la misma línea con mediaciones, con pasos intermedios, pero no perdiendo nunca el piso seguro de alineación con los valores humanos y el control humano del sistema.
Estamos en este umbral, en distintos lugares del mundo, en diversos países que poseen tecnologías de punta en IA, en el cual dar un paso más allá del punto a que se ha llegado en determinados desarrollos científico – tecnológicos, podría perderse la seguridad del alineamiento humano del sistema creado, por lo que darlo podría tener consecuencias catastróficas.
¿Cuáles podrían ser estas consecuencias? Se ponen algunos ejemplos: la desaparición en un plazo dado de los humanos sobre la faz de la tierra. La eliminación de la Tierra como centro de recursos por haber sido consumidos en su totalidad como materiales por las necesidades de desarrollo de los habitantes que nos habrían sucedido.
A pesar de los esfuerzos y recursos de investigación y desarrollo de los últimos años, aún no está resuelto el gran tema que Alan Turing puso sobre la mesa: ¿Cómo entrar al último rincón del cerebro de la IA para descubrir por completo y con total seguridad sus más profundas reflexiones e intenciones? ¿Cómo llegar a confiar con total certidumbre de estas creaciones nuestras si alguna vez llegan a escapar de nuestro control? ¿Cómo probar que estamos frente a un humano o a un robot?
Por otra parte, el desarrollo de la IA va de la mano no sólo con las más urgentes necesidades civiles de todo tipo y la solución de las graves carencias y enfermedades que enfrentamos. También acompañan y tiene el más poderoso motor en las necesidades y urgencias militares, de seguridad política y geopolítica. Los más grandes negocios, la competencia más dura y despiadada entre las empresas y consorcios más poderosos del planeta luchan por conseguir las tecnologías de punta en IA para competir y derribar a sus rivales.
Ray Kurzweil, director de Ingeniería de Google, conocido ampliamente por su largo historial de precisas predicciones, sostiene que en 2040 la inteligencia no biológica será mil millones de veces más capaz que la biológica unida globalmente. Por su parte, Stephen W. Hawking, físico teórico, astrofísico y cosmólogo, sostuvo que la invención de la inteligencia artificial podría ser lo mejor o lo peor en la historia de la humanidad. Podría significar el fin de la raza humana.
El FLI advierte que es probable que nos encontremos en una discontinuidad peligrosa en el desarrollo de la IA donde, en términos generales, el poder crece abruptamente mucho más rápido que la responsabilidad. Desde el 2022, sostiene, parece poco probable que el mundo pudiera coordinarse para evitar estos riesgos. El peligro no sería lo suficientemente visible para nuestras instituciones como para inspirar una respuesta vigorosa.
Por estos meses observamos y sufrimos las consecuencias de la guerra en Ucrania. No sabemos hasta donde pueda crecer en extensión e intensidad. Es un campo de prueba y ejercicio de armas, dispositivos e infraestructuras que incluyen IA en todos los campos, físicos, cibernéticos, reales y virtuales. También es un campo en que las principales fuerzas en conflicto ensayan y prueban nuevas armas y dispositivos logísticos y de comunicación. No hay ninguna real certidumbre que todo salga según lo programado. La extrema complejidad de esta guerra híbrida de nuevo tipo aumenta la posibilidad de accidentes y errores. Crece también la intromisión del terrorismo. La diplomacia, las negociaciones y la paz se ven lejanas. La guerra como tal puede escapar de las manos de sus protagonistas. Las ambiciones son desmesuradas. La polarización crece día a día. La retórica ya es demencial y desquiciada.
¿Qué hacemos nosotros como país y como región? ¿Es que no nos concierne? El doctor Girardi se refiere al proyecto de nueva Constitución sentenciando “Creo que lamentablemente es una Constitución que salda cuentas con el siglo XX, pero no tiene una palabra del siglo XXI. Vamos a aprobar para mejorar, porque esta Constitución no permite resolver ninguno de estos problemas de futuro”. Coincido en que habrá que mejorar el texto que se apruebe incorporando con fuerza problemas de futuro. Discrepo en que se trata de una Constitución que sólo salda cuentas del siglo XX. Hay muchos avances en derechos, justicia, diversidades, pueblos originarios y medio ambiente que no sólo saldan deudas sino apuntan a un futuro del que estamos gravemente rezagados. Por otra parte, Girardi no incluye los riesgos existenciales entre sus preocupaciones.
Creo que nuestra política exterior debiera incorporar con fuerza nuestra participación global conjunta con la región en estos temas. Ya no somos solamente una fértil provincia señalada de remotas naciones respetadas como nombró bellamente el soldado y poeta español hace 4 siglos y medio. Ya somos otro país en otro mundo, muy diverso y muy comunicado. Vale la pena hacernos cargo y que surja un poeta o poetiza que lo diga con belleza.
Comentarios