技術的特異点という考え方、そして普通の人間の知能が人工知能によって強化されたり、追い越されたりした場合に何を意味するのかということ。

人類の歴史が「シンギュラリティ（技術的特異点）」に近づいているという考え、つまり、普通の人間がいつの日か人工的に知能を持った機械や認知的に強化された生物学的知能、あるいはその両方に追い越されるという考えは、SFの領域から真剣な議論へと移行しています。 シンギュラリティ理論家の中には、人工知能（AI）の分野が現在のような目まぐるしい発展を続ければ、シンギュラリティは今世紀半ばに到来すると予測する人もいます。

マレー・シャナハン氏は、シンギュラリティという考え方を紹介し、このような地震のような出来事がもたらす影響について考察しています。

シャナハン氏の目的は、予測を立てることではなく、さまざまなシナリオを検討することです。シンギュラリティが近いか遠いか、可能性があるかないか、黙示録かユートピアか、どちらを信じるかにかかわらず、このアイデアは、重要な哲学的および実用的な問題を提起し、私たちが種として何を望んでいるかについて真剣に考えることを促します。

シャナハン氏は、生物学的に着想されたものと、ゼロから設計されたものの両方を含む、AIの技術的進歩について述べています。 理論的には可能だが実現が難しい人間レベルのAIが実現すれば、超知能AIへの移行は非常に速いものになると説明しています。 シャナハンは、超知能マシンの存在が、人間性、責任、権利、アイデンティティなどの問題にどのような意味を持つのかを考えている。 超人的なAIエージェントの中には、人類のために作られるものもあれば、暴走するものもあるかもしれません。 シンギュラリティは、人類にとって実存的な脅威であると同時に、人類がその限界を超えるための実存的な機会でもあるのです。 シャナハンは、より良い結果をもたらしたいのであれば、両方の可能性を想像する必要があることを明確にしています。