Cette semaine, un incident notable impliquait des escroqueries par deepfake ciblant les patients atteints de la maladie d'Alzheimer, soulignant le potentiel de l'IA à être utilisée de manière nuisible. Des recherches sur le contournement des LLMs à appels de fonctions et le red-team des agents personnalisables indiquent des risques potentiels, mais aucune perte de contrôle ou capacité dangereuse dans le monde réel n'a été démontrée. Des propositions de cadres de gouvernance améliorés ont été faites, mais aucune amélioration vérifiée de l'application ou de la coordination internationale n'a été signalée. Globalement, le niveau de risque reste stable sans changement significatif.
Autonomie des IA et perte de contrôle : 41,8/100
Capacités dangereuses : 45,8/100
Incidents réels impliquant l'IA : 37,8/100
Gouvernance et dispositifs de sécurité : 50/100
Accélération des capacités technologiques : 51,3/100
Indice composite conventionnel, pas une probabilité scientifique d’extinction.