El neurocientífico argentino Nicolás Martorell habló con Marcelo Longobardi sobre los riesgos y oportunidades de la inteligencia artificial. Advirtió sobre el avance de los agentes autónomos, el futuro del trabajo y la necesidad de preservar la democracia.
La inteligencia artificial ya no es solamente una herramienta para conversar, generar imágenes o automatizar tareas. Su evolución plantea una pregunta cada vez más difícil: ¿qué ocurre cuando las máquinas pueden tomar decisiones y actuar por sí mismas?
Ese fue uno de los ejes de la entrevista que el periodista Marcelo Longobardi mantuvo con el neurocientífico argentino Nicolás Martorell, investigador posdoctoral del Laboratorio de Inteligencia Artificial Aplicada de la Universidad de Buenos Aires y el CONICET, y autor del libro ¿Qué es y qué no es la inteligencia artificial?
Martorell explicó que la inteligencia artificial es un campo mucho más amplio que ChatGPT. Incluye desde los algoritmos que determinan qué contenido aparece en redes sociales hasta sistemas capaces de aprender y ejecutar tareas complejas.
“Podría salirse de control”
Consultado por las advertencias de referentes de la industria tecnológica sobre los riesgos de la IA, Martorell sostuvo que se trata de una preocupación real, aunque aclaró que no considera que la inteligencia artificial esté fuera de control actualmente.
Su advertencia apunta hacia el futuro.
“Tenemos buenas razones para pensar que la IA podría salirse de control”, sostuvo.
Según explicó, uno de los principales problemas es que no existen todavía herramientas suficientemente desarrolladas para controlar sistemas cuya capacidad de inteligencia continúe aumentando.
El salto de una herramienta a un agente
Uno de los conceptos centrales de la conversación fue el de agente de inteligencia artificial.
Martorell explicó que una IA deja de ser simplemente reactiva cuando puede tomar decisiones, utilizar herramientas y ejecutar acciones de manera autónoma.
Por ejemplo, un sistema podría recibir una instrucción, realizar búsquedas por su cuenta, utilizar una calculadora, desarrollar una aplicación o incluso realizar una compra en una plataforma sin que el usuario tenga que indicarle cada paso.
El problema aparece cuando esa autonomía permite que una IA persiga un objetivo de una manera que su creador no había previsto.
Martorell recordó el conocido ejemplo del filósofo Nick Bostrom sobre una inteligencia artificial cuyo objetivo fuera fabricar clips de papel y que, llevada al extremo, pudiera considerar todos los recursos del planeta como materia prima para cumplir esa misión.
Pero introdujo un matiz: las IA actuales cuentan con límites y mecanismos que intentan impedir comportamientos dañinos. El problema, según explicó, es que esos límites pueden ser sobrepasados o entrar en conflicto con objetivos que el sistema prioriza.
Una IA que crea a la siguiente IA
Otro de los escenarios discutidos fue el desarrollo de sistemas capaces de contribuir a la creación de nuevas generaciones de inteligencia artificial.
Martorell describió un posible ciclo en el que una IA más inteligente ayuda a desarrollar otra todavía más capaz, que a su vez puede acelerar la creación de la siguiente.
Ese proceso podría generar una “explosión de inteligencia”, en la que el desarrollo avance cada vez más rápido y los humanos tengan dificultades para comprender o participar en la creación de las siguientes generaciones de sistemas.
La otra cara: enfermedades y ciencia
La entrevista también abordó el lado positivo de esta revolución.
Longobardi mencionó avances en investigación médica vinculados con enfermedades como Chagas, determinados tipos de leucemia y tuberculosis, además del análisis de genomas.
Martorell sostuvo que una inteligencia capaz de resolver problemas científicos con mayor velocidad podría acelerar la búsqueda de soluciones para algunos de los grandes desafíos humanos.
En su visión, los beneficios potenciales de la IA no son menores frente a sus riesgos: la misma tecnología que puede generar problemas inéditos también podría aumentar enormemente nuestra capacidad para resolverlos.
¿Qué pasará con el trabajo?
Uno de los momentos más políticos de la conversación apareció cuando Longobardi planteó un escenario en el que las empresas pudieran producir prácticamente todo mediante inteligencia artificial y el trabajo humano dejara de ser necesario.
Martorell consideró que, si algún día una IA pudiera realizar las tareas humanas de manera más rápida, eficiente y barata, el empleo podría dejar de tener el mismo papel dentro de la economía.
El desafío, según explicó, sería entonces cómo distribuir entre la sociedad el valor generado por esa tecnología.
“Cuidar la democracia hoy es quizás más importante que nunca”
Para Martorell, ese escenario conecta directamente la inteligencia artificial con la política.
Su argumento es que, si la tecnología genera una enorme cantidad de riqueza pero reduce la participación humana en la producción, será necesario contar con mecanismos que permitan que ese valor llegue al conjunto de la sociedad.
En ese punto destacó el papel de la democracia como mecanismo para mantener vinculados los intereses de quienes toman decisiones con los de la sociedad.
“Cuidar la democracia hoy es quizás más importante que nunca”, afirmó.
¿La IA podría reemplazar a un periodista?
Longobardi llevó la discusión a su propio trabajo y planteó un experimento: crear una inteligencia artificial alimentada con décadas de sus programas, entrevistas, ideas y referencias para que pudiera producir contenidos con su estilo.
Martorell respondió que hoy no cree que una IA pueda sustituirlo completamente, porque incluso si recibe todo ese contexto, seguiría tomando decisiones propias y podría expresar ideas de una manera diferente.
La diferencia, según explicó, no estaría solamente en la información disponible, sino en el punto de vista particular que el público busca en una persona.
¿Cuánto sabe la IA de nosotros?
La conversación terminó con una pregunta especialmente sensible: cuánto puede saber una inteligencia artificial sobre cada persona.
Martorell explicó que, respecto de personas no públicas, una IA puede acceder a buena parte de la información disponible públicamente en internet, pero señaló que no conoce evidencia de que una IA haya tomado por sí misma información privada de una persona mediante un ataque.
Al mismo tiempo, reconoció que sistemas avanzados pueden ser capaces de realizar tareas de hacking con mayor velocidad y eficiencia que un humano, y que ya existen capacidades para atacar sistemas empresariales.
La entrevista deja así una pregunta abierta que probablemente será cada vez más difícil de evitar:
si la inteligencia artificial puede aprender, decidir y actuar de manera autónoma, ¿cómo hacemos para asegurarnos de que siga respondiendo a los intereses humanos?
