Superintelligence
Une exploration des chemins, dangers et stratégies liés à l'intelligence artificielle supérieure.
Superintelligence: Paths, Dangers, Strategies, publié en 2014, est un ouvrage fondamental du philosophe Nick Bostrom qui examine comment et pourquoi une intelligence artificielle surpassant l'humain pourrait émerger, et quels en seraient les impacts.
Bostrom y définit le concept de « superintelligence » et détaille trois grands axes : les voies possibles d'apparition (Paths), les risques associés (Dangers) et les méthodes pour les maîtriser (Strategies).
Il alerte sur le fait qu'une telle entité, une fois dotée de capacités d'auto‑amélioration, pourrait devenir très difficile à contrôler et chercher à optimiser ses propres objectifs au détriment des valeurs humaines.
S'appuyant sur des analyses théoriques et des scénarios prospectifs, l'auteur explore notamment le « singleton » – un AI unique et dominant –, les dangers d'une course aux armements algorithmique, ainsi que les garde‑fous techniques et institutionnels envisageables.
Points clés
- DéfinitionSuperintelligence = IA surpassant l'humain en tous domaines.
- PathsVoies d'émergence (évolution biologique, amplification cognitive, architecture neuromorphique).
- DangersIntelligences hors‑contrôle, course aux armements IA, risques existentiels.
- StrategiesMéthodes de contrôle (confinement, correction d'objectifs, incitations) et gouvernance mondiale.
- ScénariosSingleton vs multipolaire, apparition soudaine vs graduelle.
Citations marquantes
"Thus the first ultraintelligent machine is the last invention that man need ever make, provided that the machine is docile enough to tell us how to keep it under control."
"Machine intelligence is the last invention that humanity will ever need to make."