L’idée de singularité technologique, et ce que cela signifierait si l’intelligence humaine ordinaire était améliorée ou dépassée par l’intelligence artificielle.
L’idée que l’histoire humaine s’approche d’une « singularité » – que les humains ordinaires seront un jour dépassés par des machines artificiellement intelligentes ou une intelligence biologique cognitivement améliorée, ou les deux – est passée du domaine de la science-fiction à un débat sérieux. Certains théoriciens de la singularité prédisent que si le domaine de l’intelligence artificielle (IA) continue à se développer à son rythme vertigineux actuel, la singularité pourrait se produire au milieu du siècle actuel. Murray Shanahan propose une introduction à l’idée de la singularité et envisage les ramifications d’un tel événement potentiellement sismique.
Le but de Shanahan n’est pas de faire des prédictions mais plutôt d’étudier un éventail de scénarios. Que nous croyions que la singularité est proche ou lointaine, probable ou impossible, apocalypse ou utopie, l’idée même soulève des questions philosophiques et pragmatiques cruciales, nous obligeant à réfléchir sérieusement à ce que nous voulons en tant qu’espèce.
Shanahan décrit les avancées technologiques de l’IA, à la fois inspirées par la biologie et conçues de toutes pièces. Une fois que l’IA de niveau humain – théoriquement possible, mais difficile à réaliser – a été atteinte, explique-t-il, la transition vers une IA superintelligente pourrait être très rapide. M. Shanahan examine ce que l’existence de machines superintelligentes pourrait signifier pour des questions telles que la personnalité, la responsabilité, les droits et l’identité. Certains agents d’IA surhumains pourraient être créés pour le bien de l’humanité, d’autres pourraient devenir des voyous. (Siri est-il le modèle ou HAL ?) La singularité présente à la fois une menace existentielle pour l’humanité et une opportunité existentielle pour l’humanité de transcender ses limites. Shanahan indique clairement que nous devons imaginer les deux possibilités si nous voulons provoquer le meilleur résultat.