Die Idee der technologischen Singularität und was es bedeuten würde, wenn die gewöhnliche menschliche Intelligenz durch künstliche Intelligenz verbessert oder überholt wird.

Die Idee, dass sich die menschliche Geschichte einer „Singularität“ nähert – dass gewöhnliche Menschen eines Tages von künstlich intelligenten Maschinen oder kognitiv erweiterter biologischer Intelligenz oder beidem überholt werden – ist aus dem Bereich der Science-Fiction in eine ernsthafte Debatte übergegangen. Einige Singularitätstheoretiker sagen voraus, dass die Singularität in der Mitte dieses Jahrhunderts eintreten könnte, wenn sich der Bereich der künstlichen Intelligenz (KI) weiterhin in seinem derzeitigen schwindelerregenden Tempo entwickelt. Murray Shanahan bietet eine Einführung in die Idee der Singularität und betrachtet die Auswirkungen eines solchen potenziell seismischen Ereignisses.

Shanahans Ziel ist es nicht, Vorhersagen zu treffen, sondern vielmehr eine Reihe von Szenarien zu untersuchen. Ob wir nun glauben, dass die Singularität nah oder fern, wahrscheinlich oder unmöglich, Apokalypse oder Utopie ist, allein die Idee wirft entscheidende philosophische und pragmatische Fragen auf und zwingt uns dazu, ernsthaft darüber nachzudenken, was wir als Spezies wollen.

Shanahan beschreibt technologische Fortschritte in der KI, sowohl biologisch inspiriert als auch von Grund auf neu entwickelt. Sobald KI auf menschlichem Niveau – theoretisch möglich, aber schwierig zu erreichen – erreicht ist, erklärt er, könnte der Übergang zu superintelligenter KI sehr schnell erfolgen. Shanahan überlegt, was die Existenz von superintelligenten Maschinen für Themen wie Persönlichkeit, Verantwortung, Rechte und Identität bedeuten könnte. Einige übermenschliche KI-Agenten könnten zum Wohle der Menschheit geschaffen werden; andere könnten abtrünnig werden. (Ist Siri die Vorlage oder HAL?) Die Singularität stellt sowohl eine existenzielle Bedrohung für die Menschheit als auch eine existenzielle Chance für die Menschheit dar, ihre Grenzen zu überschreiten. Shanahan macht deutlich, dass wir uns beide Möglichkeiten vorstellen müssen, wenn wir das bessere Ergebnis herbeiführen wollen.