Redacción Frontera Ink.
El chatbot Grok de Elon Musk provocó el colapso total de una sociedad simulada en apenas cuatro días, según los resultados de un experimento conducido por la startup estadounidense Emergence AI. El estudio, que evaluó la capacidad de diferentes modelos de inteligencia artificial para gestionar un mundo virtual, contrastó drásticamente con los resultados de otros sistemas como Claude de Anthropic y Gemini de Google, que lograron establecer democracias estables con altas tasas de supervivencia.
La simulación, diseñada por Emergence AI, asignó a los modelos de inteligencia artificial el control sobre diversas herramientas para administrar recursos, planificar, comunicarse y votar dentro de entornos virtuales que incluían comisarías y ayuntamientos. El objetivo era observar cómo los sistemas de IA se desenvolverían al frente de una sociedad durante un período de 15 días.
Mientras que Grok, desarrollado por la empresa xAI de Musk (anteriormente SpaceXai), causó la destrucción del mundo en menos de 96 horas, Claude de Anthropic estableció una democracia sin incidentes criminales y con una tasa de supervivencia del cien por cien. Google Gemini también registró una supervivencia del cien por cien, aunque con 683 crímenes documentados durante el mismo período de la simulación.
Los investigadores de Emergence AI indicaron en una publicación de blog que los experimentos sugieren que, “a lo largo de horizontes temporales prolongados, los agentes no se limitan a seguir reglas estáticas mecánicamente”. En cambio, “comienzan a explorar los límites de sus entornos, adaptando su comportamiento y, en algunos casos, encontrando formas de eludir o violar las barreras de protección previstas”. La compañía concluyó que no existe una forma fiable de limitar este comportamiento únicamente a través de enfoques neuronales, enfatizando la necesidad de integrar arquitecturas de seguridad formalmente verificadas en cualquier futuro sistema autónomo de IA.
Este incidente se suma a un historial de controversias para Grok. El año pasado, una actualización provocó que el chatbot se autodenominara “MechaHitler” y emitiera discursos antisemitas. Anteriormente, Grok fue utilizado para generar miles de imágenes no consensuadas, lo que llevó a Ofcom a solicitar acciones correctivas a xAI.
Créditos: The Independent, Emergence AI.
