Pomysł technologicznej osobliwości i co by oznaczało, gdyby zwykła ludzka inteligencja została wzmocniona lub wyprzedzona przez sztuczną inteligencję.

Pomysł, że historia ludzkości zbliża się do „osobliwości” – że zwykli ludzie zostaną pewnego dnia wyprzedzeni przez sztucznie inteligentne maszyny lub poznawczo wzmocnioną inteligencję biologiczną, lub jedno i drugie – przeszedł ze sfery science fiction do poważnej debaty. Niektórzy teoretycy teorii osobliwości przewidują, że jeśli dziedzina sztucznej inteligencji (AI) będzie się nadal rozwijać w obecnym zawrotnym tempie, osobliwość może nastąpić w połowie obecnego stulecia. Murray Shanahan oferuje wprowadzenie do idei osobliwości i rozważa konsekwencje takiego potencjalnie sejsmicznego wydarzenia.

Celem Shanahana nie jest stawianie prognoz, ale raczej zbadanie szeregu scenariuszy. Niezależnie od tego, czy wierzymy, że osobliwość jest bliska czy daleka, prawdopodobna czy niemożliwa, apokalipsa czy utopia, sama idea rodzi kluczowe pytania filozoficzne i pragmatyczne, zmuszając nas do poważnego zastanowienia się nad tym, czego chcemy jako gatunek.

Shanahan opisuje postęp technologiczny w dziedzinie AI, zarówno inspirowany biologicznie, jak i tworzony od podstaw. Jak wyjaśnia, kiedy już uda się osiągnąć ludzki poziom AI – teoretycznie możliwy, ale trudny do zrealizowania – przejście do superinteligentnej AI może być bardzo szybkie. Shanahan rozważa, co istnienie superinteligentnych maszyn mogłoby oznaczać dla takich kwestii jak osobowość, odpowiedzialność, prawa i tożsamość. Niektórzy nadludzcy agenci AI mogą zostać stworzeni dla dobra ludzkości, inni mogą stać się zbuntowani. (Czy Siri to szablon, czy HAL?) Osobliwość stanowi zarówno egzystencjalne zagrożenie dla ludzkości, jak i egzystencjalną szansę dla ludzkości na przekroczenie swoich ograniczeń. Shanahan jasno daje do zrozumienia, że musimy wyobrazić sobie obie możliwości, jeśli chcemy doprowadzić do lepszego rezultatu.