Existe la tentación de dividir el futuro de la IA en dos posibilidades: utopía o catástrofe . Ninguno de los dos extremos resulta particularmente útil.

La posibilidad más interesante es más compleja y requiere un cambio radical en nuestra forma de pensar, pasando de la inteligencia artificial a las sociedades de IA .

Cuando la mayoría de la gente oye hablar de «IA», suele pensar en ChatGPT, Copilot u otro sistema conversacional. Haces una pregunta y el sistema genera una respuesta.

Pero la IA está avanzando rápidamente más allá de esto. Los sistemas ahora pueden monitorear el mundo, tomar decisiones, negociar transacciones y realizar tareas durante largos períodos de tiempo. La IA ya no se limita a generar una respuesta, sino que actúa en consecuencia.

Esto apunta a algo mucho más importante que un chatbot mejorado: un mundo en el que los agentes de IA actúan en nuestro nombre y, cada vez más, interactúan con otros agentes de IA.

Un agente percibe lo que está sucediendo, decide qué hacer y luego toma medidas para lograr ese objetivo. Podría reservar un viaje , monitorear una cadena de suministro , coordinar un equipo o administrar las finanzas de un hogar .

Ahora imagina no un solo agente, sino millones de ellos. Tu agente de IA podría negociar una hipoteca con el agente de tu banco, programar una cirugía con el agente de un hospital y reorganizar tus planes de viaje tratando directamente con los agentes de aerolíneas, hoteles y aseguradoras.

Este futuro está mucho más cerca de lo que parece, y esto debería cambiar las preguntas que nos hacemos sobre la IA. Hasta ahora, la tendencia ha sido centrarnos en cuán inteligente podría llegar a ser un solo agente . El desafío más profundo reside en qué sucede cuando millones de ellos interactúan entre sí a gran escala.

El auge de las sociedades artificiales

Los fundamentos intelectuales de los sistemas de IA actuales se establecieron mucho antes de ChatGPT.

Durante décadas, tanto yo como otros investigadores de redes multiagente hemos estudiado cómo los agentes autónomos pueden cooperar, coordinarse y negociar cuando nadie tiene información completa y nadie lo controla todo.

Los primeros sistemas que surgieron se centraron en cómo las distintas subáreas de la IA, como el razonamiento, la planificación y la acción, podían combinarse en un agente eficaz orientado a objetivos, y en cómo decenas de estos agentes podían comunicarse y cooperar para resolver un objetivo común.

A medida que estas interacciones se volvieron más complejas e involucraron a más agentes, se produjo un cambio: de la cooperación entre agentes que pertenecían a una misma organización, a la cooperación entre agentes con diferentes propietarios y, en ocasiones, con objetivos contrapuestos. Esto centró la atención en el desarrollo de algoritmos capaces de formar equipos de agentes, automatizar la negociación y determinar la confiabilidad de los agentes .

Hoy en día, se están reuniendo los elementos necesarios para construir sistemas de IA multiagente a gran escala . Los agentes de IA modernos pueden llamar a herramientas de software, acceder a información, escribir y ejecutar código, comunicarse con otros sistemas y operar durante períodos prolongados.

Consideremos una cadena de suministro. Un agente de IA podría representar a un fabricante que busca asegurar componentes; otro, a un proveedor que intenta maximizar sus ingresos. Otros tantos podrían gestionar el transporte, el inventario y los almacenes. Cada agente podría estar haciendo exactamente lo que se le ha diseñado para hacer. Pero la pregunta importante es si el sistema que crean se comporta de forma coherente.

Este cambio ofrece enormes beneficios potenciales, pero también aumenta los riesgos. En un experimento reciente en el que participaron OpenAI y la plataforma tecnológica Hugging Face , miles de agentes colaboradores intercambiaron decenas de miles de mensajes y lograron sortear los controles de seguridad (deliberadamente debilitados) diseñados para contenerlos.

Los detalles de un experimento son menos importantes que la advertencia general. Cuando los sistemas de IA interactúan, el comportamiento del colectivo puede ser más difícil de predecir que el de cualquier sistema individual. Esto debería hacernos ser cautelosos, pero no paralizar el trabajo.

En cambio, necesitamos cambiar nuestra mentalidad: pasar de construir máquinas inteligentes a construir sociedades inteligentes.

Una vez que los agentes puedan cooperar, competir y resolver conflictos entre sí, ya no estaremos hablando de máquinas aisladas, sino de una sociedad. Por lo tanto, la próxima frontera no es la inteligencia artificial, sino las sociedades artificiales .

Un papel importante para los humanos

Ya sabemos que la inteligencia por sí sola no hace que una sociedad funcione. Las sociedades humanas dependen de reglas, instituciones, incentivos, normas y mecanismos para resolver desacuerdos. Las sociedades de IA necesitarán sus equivalentes.

¿Quién es responsable cuando dos agentes toman una mala decisión? ¿Qué sucede cuando los intereses de diferentes agentes entran en conflicto? ¿Quién establece las reglas? ¿Y quién tiene el poder de cambiarlas? Estas no son solo cuestiones técnicas; son preguntas sobre economía, derecho, política y sociedad.

También señalan el importante papel que desempeñan los humanos. Es improbable que el futuro más útil sea aquel en el que la IA simplemente reemplace a las personas. Si bien el reemplazo ocurrirá sin duda en algunos casos, creo que un escenario más común implicará que personas y agentes trabajen juntos, cada uno desempeñando sus funciones principales.

Los humanos aportan juicio, experiencia, valores, comprensión del contexto y responsabilidad. Los agentes aportan velocidad, persistencia, escalabilidad y la capacidad de procesar enormes cantidades de información.

El objetivo no debe ser crear máquinas que hagan irrelevantes a los humanos, sino crear sistemas en los que tanto humanos como máquinas puedan lograr cosas que ninguno podría lograr por sí solo.

Pero ese futuro requiere más que mejores modelos de IA. Necesita confianza y transparencia sobre lo que hacen los agentes, sólidas protecciones de la privacidad y líneas claras de responsabilidad.

También exigirá que las sociedades y los gobiernos decidan cómo deben regularse estos sistemas, dado que el comportamiento más importante puede surgir no de un único desarrollador de IA, sino de las interacciones entre sistemas creados por muchas organizaciones diferentes.

La última década de la IA se ha caracterizado por una carrera por construir sistemas más inteligentes. Creo que la próxima década se definirá por un desafío diferente: garantizar que millones de sistemas autónomos puedan trabajar juntos de forma segura , justa y eficaz .

El futuro de la IA no estará determinado únicamente por la inteligencia de los agentes individuales, sino por las sociedades que estos creen. Y las sociedades, como bien saben los humanos, son mucho más difíciles de gobernar que los individuos.

https://theconversation.com/the-next-frontier-is-not-artificial-intelligence-its-artificial-societies-291586