"Être humain à l'ère de l'intelligence Artificielle". De Max Tegmark. Editions Dunod "Quai des Sciences". A paraître le 23 mai 2018 (première édition US en 2017). Pages : 426. Prix : 27 euros.
Cet ouvrage, extrêmement passionnant et sérieux, débute par une courte nouvelle de science-fiction qui sera reprise (et transformée) au fil des interrogations de l'auteur dans les chapitres suivants. Après "une brève histoire de la complexité" et "les trois étapes de la vie", nous entrons dans le dur du sujet : l'intelligence artificielle, en plein développement aujourd'hui, entraînera les êtres humains vers quel avenir ? Et qu'est-ce que l'intelligence ? La mémoire ? L'apprentissage ? Qu'est-ce que la conscience ? Y a-t-il des risques à cohabiter avec une intelligence artificielle supérieure ? Comment s'en prémunir ? Quelles peuvent être les conséquences au niveau social (amplification des inégalités ou, au contraire, vie de loisirs tandis que les robots feront le travail) d'une super-intelligence qui gérerait le monde et des robots ? Sont analysées diverses hypothèses, de "l'utopie libertarienne" aux "gardiens de zoo" (les humains étant les animaux en voie de disparition) en passant par le "dictateur bienveillant", le "dieu protecteur" ou le "dieu asservi", etc.
La colonisation de l'espace est largement abordée également. Jusqu'où pourrons-nous aller (l'expansion de l'Univers nous créera une limite...) ? Quelle peut être la durée de vie d'une civilisation ? Et si nous parvenons à ensemencer des galaxies lointaines "l'énergie sombre, après des dizaines de milliards d'années, morcellera cet empire cosmique en milliers de régions différentes incapables de communiquer entre elles." L'auteur va au bout de toutes les hypothèses, même celles qui semblent les plus irréalistes....
"Le véritable risque avec une IA (intelligence artificielle) générale ne viendra pas de la méchanceté mais de la compétence." Plus intelligente que nous, pourrons-nous brider ses objectifs afin de pouvoir continuer à la contrôler ? En autoperfectionnement, même si nous lui donnons des buts, les conservera-t-elle ou les fera-t-elle évoluer ? car "Il y a plutôt des signes que la propension à changer de but en réponse à des expériences et des idées nouvelles ne décroît pas mais augmente avec l'intelligence."
L'auteur fait donc le point sur nos objectifs propres, nos désirs pour le futur, mais en analysant également les risques nombreux qui pourraient entraîner pour nous des conséquences pour le moins malheureuses. Nécessité de réfléchir à l'éthique, à la responsabilité, aux valeurs humaines que nous souhaitons conserver, au bien commun, et donc avant tout de réfléchir au contrôle car "nous sommes les gardiens de l'avenir de la vie" écrit-il à la fin.
En épilogue : la création du FLI (Futur of Life Institut : Institut pour l'avenir de la vie).
De nombreux liens Internet renvoient à des articles permettant d'approfondir les divers sujets traités.
Destiné à toute personne s'intéressant au transhumanisme afin d'en explorer les possibles avantages... et surtout les risques ! Quelques parties, trop ardues pour les non scientifiques, pourront être sautées sans rien perdre de la compréhension générale. Complet, argumenté, cet ouvrage nous entraîne dans une saine réflexion sur notre futur tout en faisant le point sur nos connaissances actuelles sur le fonctionnement de la nature, de notre cerveau, ...
