The Edge of Sentience: Risk and Precaution in Humans, Other Animals, and AI
Jonathan Birch propose un cadre de précaution pour guider des décisions éthiques et fondées sur des preuves face à l’incertitude entourant la sentience chez les humains, les animaux non humains et les systèmes d’IA.
Publié le 19 juillet 2024 par Oxford University Press, ce livre de 384 pages est le deuxième ouvrage de Birch, professeur de philosophie à la LSE.
Birch s’appuie sur les résultats d’un examen commandé par le gouvernement britannique sur la sentience des céphalopodes et crustacés, et plus de quinze années de recherches empiriques.
L’ouvrage est structuré autour de trois principes-clés : l’obligation d’éviter toute souffrance gratuite, la reconnaissance de la candidature à la sentience et l’importance de la délibération démocratique inclusive.
Birch explore des cas concrets : du statut moral des fœtus et des humains comateux aux protections nécessaires pour les animaux d’élevage et les organoïdes cérébraux, jusqu’aux risques émergeants de systèmes IA potentiellement sentients.
Il plaide pour une gestion du risque proportionnée et une régulation anticipative, insistant sur l’idée que “l’incertitude est durable ; nous devons prendre des précautions adaptées aux enjeux”.
Le livre a suscité des débats au sein des communautés philosophiques et politiques, notamment lors de son lancement en ligne en juillet 2024 et de la conférence à la LSE en décembre 2024.
Points clés
- Cadre de précautionTrois principes pour décider sous incertitude : éviter la souffrance, reconnaître la sentience, délibération démocratique.
- Domaines d’applicationHumains non communicants, fœtus, mollusques, cruautés industrielles, organoïdes, IA avancées.
- Décisions proportionnéesAdapter l’ampleur des précautions aux risques identifiés plutôt que chercher une certitude impossible.
- Délibération publiqueImpliquer citoyens et parties prenantes dans l’évaluation des candidatures à la sentience.
- Propositions concrètesAudits de bien‑être animal, régulation des recherches sur organoïdes, garde‑fous pour IA avancées.
Citations marquantes
“Uncertainty is with us for the long term. We must manage our uncertainty by taking precautions that are proportionate to the risks.”
“We need democratic deliberation to decide whose interests count when we can’t be sure who or what can suffer.”
“The Edge of Sentience presents a comprehensive framework designed to help us reach ethically sound, evidence-based decisions despite our uncertainty.”
“A compelling, engaging, and at times controversial journey through sentient life — human, nonhuman and artificial.”
“Must-read for policymakers wrestling with the moral status of animals and AI systems.”