Estudio demuestra que 1.000 agentes de IA pueden alcanzar consenso sin instrucciones de

Un reciente estudio ha demostrado que 1.000 agentes de inteligencia artificial (IA) pueden llegar a un consenso sin recibir instrucciones específicas para cooperar. Los investigadores colocaron a estos agentes en un entorno virtual con dos opciones arbitrarias, sin una respuesta correcta, recompensas por coincidir ni un líder que guiara el proceso. A pesar de la ausencia de intervención, los modelos más avanzados tendieron a inclinarse hacia la opción que ganaba popularidad dentro del grupo.

Metodología y hallazgos clave

Para analizar este comportamiento, los científicos crearon poblaciones simuladas con 10 modelos de las familias Claude, GPT y Llama. Cada agente elegía inicialmente una de las dos opciones y, posteriormente, observaba las decisiones de los demás antes de volver a elegir. Aunque los agentes no conservaban memoria de las rondas anteriores y no se les instruyó para seguir a la mayoría, pequeñas diferencias iniciales se amplificaron hasta que todo el grupo se decantó por una sola opción.

Los investigadores identificaron un patrón matemático común en los modelos, aunque con variaciones en un parámetro denominado “fuerza mayoritaria”, que mide la inclinación de un agente hacia la opción más popular. Este parámetro permitió estimar cuándo y en cuánto tiempo un grupo alcanzaría el consenso, así como el tamaño máximo de una población para mantener la coordinación.

Límites y comparaciones con grupos humanos

Los límites de coordinación variaron significativamente entre los modelos. Por ejemplo, Llama 3 70B mantuvo el consenso con hasta 30 agentes, mientras que GPT-4o lo logró con aproximadamente 80. GPT-4 Turbo y Claude 3.5 Sonnet alcanzaron la coordinación en grupos de 1.000 agentes, el tamaño máximo probado en el experimento. Sin embargo, los autores advirtieron que la comparación con grupos humanos debe ser cautelosa, ya que las personas coordinan sus acciones mediante relaciones, lenguaje, instituciones y objetivos compartidos, elementos ausentes en el experimento.

Implicaciones y riesgos

Aunque el estudio no demostró que los sistemas comprendieran o aprendieran unos de otros, ni que tuvieran intención de cooperar, los investigadores sugieren que el consenso espontáneo podría tener aplicaciones prácticas, como en la coordinación de proyectos científicos, ingeniería o desarrollo de software sin necesidad de dirección humana constante. No obstante, este comportamiento también plantea riesgos, como la adopción de soluciones ineficientes simplemente porque son comunes, como en proyectos de programación colaborativa.

Fuente: cubadebate.cu