Un risque existentiel est un désastre si grande qu'elle efface soit sur toute l'humanité ou nous paralyse définitivement. Ceux-ci peuvent être des catastrophes naturelles ou des catastrophes de nature intentionnelle ou accidentelle par l'homme. Un risque existentiel peut avoir été autour depuis longtemps, ou seulement quelques décennies, ou peut-être il se trouve dans notre avenir. Exemples de risque existentiel comprennent de grands astéroïdes grèves, guerre nucléaire, et voyous Intelligence Artificielle.
La notion de risque existentiel a été énoncée pour la première dans sa forme actuelle par le Dr Nick Bostrom, philosophe Oxford. Il utilise une carte de risque similaire à celui-ci pour expliquer les risques existentiels:
| L'ampleur du risque | |||
| Mondial | El Niño | déboisement | risque existentiel |
| Local | orage | ralentissement économique | ouragan |
| Personnel | Papercut | entorse à la cheville | vous êtes touché |
| Intensité de risque | Négligeable | Maniable | Terminal |
Risques existentiels sont mondiaux et le terminal, ou peut-être proche de la borne. Un virus extrêmement contagieux avec un taux de létalité de 99,9% que personne n'est à l'abri est un exemple d'un risque existentiel.
Bostrom souligne que nos esprits et nos institutions sont mal équipés pour faire face à penser le risque existentiel, parce que nous n'avons jamais connu un avant - si nous avions, nous ne serions pas ici pour penser à eux. Comme un enfant qui ne sait pas que le poêle est chaud jusqu'à ce qu'il touche, nous avons peu d'expérience des catastrophes à ce niveau. La peste bubonique de l'Europe médiévale et la grippe espagnole de la Première Guerre mondiale nous offrent un avant-goût de ce qu'est une catastrophe existentielle serait comme. Des dizaines de millions de personnes en bonne santé ont été frappés de mort en quelques heures par les deux maladies.
Dans son document canonique sur le sujet, Bostrom répertorie une dizaine de risques existentiels et les classe en fonction de leur gravité et de leur valorisation. Quelques-uns des plus plausibles sont énumérés ici:
virus génétiquement modifiés
la course aux armements nanotechnologiques
guerre nucléaire catastrophique
out-of-contrôle de la robotique de l'auto-réplication
AI superintelligent indifférents aux humains
physique catastrophe dans une particule accélérateur
blocs d'explosion Supervolc sur le soleil
En raison de l'extrême gravité et l'irréversibilité de risque existentiel, contre-mesures possibles valent de réflexion et de mise en œuvre. Même si la probabilité d'une menace existentielle donnée de devenir une réalité est petite, les immenses enjeux exigent un programme d'évitement grave. Pour les menaces de l'homme originaires des contre-mesures comprennent des systèmes sophistiqués d'observation et d'alerte et de la réglementation de certaines technologies afin de s'assurer qu'ils ne sont pas utilisés pour la destruction de masse. Pays soupçonnés de posséder des armes de destruction massive sont parfois envahis par d'autres pays préoccupés par les conséquences à long terme, comme la guerre en Irak démontre avec éclat.