Pendant la période d'évaluation, il n'y avait aucun signe d'agents autonomes agissant sans contrôle humain ou causant des dommages graves dans le monde réel. Cependant, plusieurs études ont démontré des techniques pour exploiter les systèmes d'IA, comme le jailbreaking et les prompts adversariaux, soulignant des préoccupations persistantes en matière de sécurité. Des incidents impliquant l'IA ont également été documentés, tels qu'un jeu de données contenant des images de violence sexuelle envers les enfants et des attaques adversariales contre les défenses de filigrane. Des efforts pour améliorer les cadres de sécurité de l'IA ont été rapportés, mais la gouvernance reste un défi.
Autonomie des IA et perte de contrôle : 32,8/100
Capacités dangereuses : 40,3/100
Incidents réels impliquant l'IA : 38,4/100
Gouvernance et dispositifs de sécurité : 49,5/100
Accélération des capacités technologiques : 42,5/100
Indice composite conventionnel, pas une probabilité scientifique d’extinction.