La idea de la singularidad tecnológica, y lo que significaría que la inteligencia humana ordinaria fuera mejorada o superada por la inteligencia artificial.
La idea de que la historia de la humanidad se aproxima a una «singularidad» -que los seres humanos corrientes serán superados algún día por máquinas artificialmente inteligentes o por inteligencia biológica cognitivamente mejorada, o por ambas- ha pasado del ámbito de la ciencia ficción a un debate serio. Algunos teóricos de la singularidad predicen que, si el campo de la inteligencia artificial (IA) sigue desarrollándose a su vertiginoso ritmo actual, la singularidad podría producirse a mediados del presente siglo. Murray Shanahan ofrece una introducción a la idea de la singularidad y considera las ramificaciones de un acontecimiento tan potencialmente sísmico.
El objetivo de Shanahan no es hacer predicciones, sino investigar una serie de escenarios. Independientemente de que creamos que la singularidad está cerca o lejos, que es probable o imposible, que es un apocalipsis o una utopía, la sola idea plantea cuestiones filosóficas y pragmáticas cruciales, que nos obligan a pensar seriamente en lo que queremos como especie.
Shanahan describe los avances tecnológicos de la IA, tanto los de inspiración biológica como los diseñados desde cero. Una vez que se haya alcanzado la IA de nivel humano -teóricamente posible, pero difícil de lograr-, explica, la transición a la IA superinteligente podría ser muy rápida. Shanahan considera lo que la existencia de máquinas superinteligentes podría significar para cuestiones como la personalidad, la responsabilidad, los derechos y la identidad. Algunos agentes de IA sobrehumana podrían ser creados para beneficiar a la humanidad; otros podrían volverse rebeldes. (¿Es Siri el modelo, o HAL?) La singularidad presenta tanto una amenaza existencial para la humanidad como una oportunidad existencial para que la humanidad trascienda sus limitaciones. Shanahan deja claro que debemos imaginar ambas posibilidades si queremos conseguir el mejor resultado.