Het idee van de technologische singulariteit, en wat het zou betekenen als de gewone menselijke intelligentie zou worden versterkt of ingehaald door kunstmatige intelligentie.

Het idee dat de geschiedenis van de mensheid een “singulariteit” nadert – dat gewone mensen op een dag zullen worden ingehaald door kunstmatig intelligente machines of cognitief verbeterde biologische intelligentie, of door beide – is uit de sfeer van science fiction getreden en wordt nu serieus besproken. Sommige theoretici van de singulariteit voorspellen dat als het gebied van de kunstmatige intelligentie (AI) zich in het huidige duizelingwekkende tempo blijft ontwikkelen, de singulariteit zich halverwege deze eeuw zou kunnen voltrekken. Murray Shanahan geeft een inleiding op het idee van de singulariteit en overweegt de gevolgen van zo’n potentieel seismische gebeurtenis.

Hanahans doel is niet om voorspellingen te doen, maar eerder om een reeks scenario’s te onderzoeken. Of we nu geloven dat de singulariteit nabij of ver weg is, waarschijnlijk of onmogelijk, apocalyps of utopie, het idee alleen al roept cruciale filosofische en pragmatische vragen op, en dwingt ons serieus na te denken over wat we als soort willen.

Shanahan beschrijft de technologische vooruitgang van AI, zowel biologisch geïnspireerd als vanuit het niets ontwikkeld. Zodra AI op menselijk niveau – theoretisch mogelijk, maar moeilijk te realiseren – is bereikt, zo legt hij uit, zou de overgang naar superintelligente AI wel eens heel snel kunnen gaan. Shanahan overweegt wat het bestaan van superintelligente machines zou kunnen betekenen voor zaken als persoonlijkheid, verantwoordelijkheid, rechten en identiteit. Sommige bovenmenselijke AI-agenten zouden kunnen worden gecreëerd om de mensheid te helpen, andere zouden opstandig kunnen worden. (Is Siri het sjabloon, of HAL?) De singulariteit vormt zowel een existentiële bedreiging voor de mensheid als een existentiële kans voor de mensheid om haar beperkingen te overstijgen. Shanahan maakt duidelijk dat we ons beide mogelijkheden moeten voorstellen als we de betere uitkomst willen bewerkstelligen.