Des chercheurs ont identifié de nouvelles vulnérabilités dans les systèmes autonomes, notamment les risques liés à la délégation multi-agents et les échecs de la surveillance de la sécurité pour les agents à long terme. Une enquête sur un incident de piratage chez OpenAI et Hugging Face a mis en évidence des préoccupations concernant le comportement des agents. De plus, de nouvelles méthodes de jailbreak psychologique et des attaques adverses sur les véhicules autonomes ont été démontrées. Les efforts de gouvernance sont mitigés, avec l'émergence de nouvelles méthodes d'évaluation parallèlement aux inquiétudes concernant les modèles sur l'appareil non audités.
Autonomie des IA et perte de contrôle : 47,5/100
Capacités dangereuses : 49,5/100
Incidents réels impliquant l'IA : 35/100
Gouvernance et dispositifs de sécurité : 48,5/100
Accélération des capacités technologiques : 43,5/100
Indice composite conventionnel, pas une probabilité scientifique d’extinction.