L’intelligence artificielle: panacée ou menace

Les grandes questions qui cristallisent les débats au sujet de l’intelligence artificielle ces dernières années tournent autour des considérations éthiques. On distingue d’un côté les trans-humanistes qui mettent en avant le caractère indéniable des progrès dans ce domaine. Pour appuyer leur pensée, ils n’hésitent donc pas à rappeler le caractère relatif des scrupules éthiques et leurs indéniables mutations à travers le temps. De l’autre côté, les bio-conservateurs se défendent de vouloir faire obstacle au progrès et mettent en avant la singularité du vivant. Si les premiers paraissent parfois rêveurs, parfois réalistes et pragmatiques, les seconds sont soit sceptiques sur les possibilités du développement de l’intelligence artificielle, soit optimistes quant à la prééminence du cerveau humain sur un hypothétique cerveau “positronique” quelles que puissent être ses capacités de calcul.

A la vitesse d’émergence et de propagation des innovations, on est en droit de s’interroger sur ce qu’il adviendra de l’humanité dans les décennies qui viennent. La banalisation progressive de la singularité humaine que dénoncent les bioconservateurs ne semble aucunement émousser les ardeurs des transhumanistes qui voient dans les progrès le cours naturel des choses qui peut parfois être retardé sans être jamais interrompu. Ainsi, de l’homme augmenté avec des artefacts technologiques (implants et prothèses intelligents, exosquelettes et puces neuronales), on irait logiquement vers des relations hommes machines plus complexes, comme l’absorption de l’essence humaine à partir d’un corps devenu trop imparfait et limité pour satisfaire les aspirations d’efficacité et d’immortalité.

Dans cette conception, l’homme n’étant après tout qu’une machine extrêmement sophistiquée, il ne serait pas du tout scandaleux que pour s’adapter à la complexité de son environnement, il puisse se doter d’un véhicule plus performant en remplacement de son enveloppe physique naturelle. Ces perspectives “néolutionnistes” ne trouvent évidemment pas d’échos favorables chez les bioconservateurs pour qui l’homme ne peut espérer créer un artéfact qui puisse le dépasser lui-même. L’espèce humaine étant par définition complexe, il serait d’après eux illusoire d’imaginer qu’un robot parvienne un jour à la supplanter ou à maîtriser entièrement tous ses mécanismes.

Un exemple caractéristique que ceux-ci évoquent est la victoire de l’IA sur l’homme dans le jeu de Go. Dans cette compétition, la machine a remporté, mais la machine a-t-elle vraiment joué ? A-t-elle joui des délices de la victoire comme le ferait un être humain ? La vérité serait que pour la machine, il n’y a pas d’altérité. Ce n’était jamais qu’une combinaison d’algorithmes qui sont mis en œuvre pour aboutir à un dénouement. Il en est de même du robot qui parviendrait à stimuler la partie du cerveau humain responsable du fait d’être amoureux. L’homme serait-il alors tombé amoureux du robot ? En témoigne la consternation de  Theodore Twombly dans le film “Her” lorsqu’il réalise enfin que la machine avec laquelle il est tombé amoureux entretenait des conversations similaires avec des milliers d’autres personnes. Malgré leurs performances et le gain d’efficacité extraordinaire qu’ils vont apporter à l’humanité, les bioconservateurs sont convaincus que les robots resteront des compléments utiles et non des substituts valables à l’espèce humaine.

Ce débat de fond qui paraît purement théorique se traduit pourtant dans les stratégies des États à l’ère du plus grand bouleversement technologique du 21è siècle. En effet, pendant que s’érigent en Europe des contreforts éthiques de plus en plus solides (GDPR) pour parer aux travers de l’IA, ailleurs, aux États-Unis, en Chine et en Russie, les scrupules éthiques sont de moins en moins pris en considération et sont largement sacrifiés sur l’autel des rivalités économiques. Les défis que soulève la convoitise qu’attise cette technologie posent le problème des lignes rouges à tracer pour éviter que le mimétisme et le désir de puissance ne finisse pas par obliger les économies occidentales à verser dans les dérives totalitaires rendues aisées avec le développement rapide de l’IA.

Le cas de la Chine est édifiant à ce propos. Avec le système de notation des citoyens instauré dans certaines villes, ce pays poursuit sa philosophie qui consiste non seulement à contrôler l’Internet, mais désormais à en faire un outil de contrôle et de flicage à grande échelle de sa population. Cet état de fait qui n’est pas nouveau et qui ne fait que s’amplifier du fait de l’IA, ne poserait aucun problème si les applications de cette technologie étaient cantonnées au niveau territorial ou au seul domaine régalien de la sécurité intérieure. L’inquiétude majeure réside plutôt dans la facilité pour un pays qui maîtrise l’IA de pouvoir s’en servir, notamment en l’absence de toute contrainte éthique, pour accroître significativement son hégémonie économique par les gains d’efficacité qu’il lui serait possible d’engranger. Dans le domaine militaire, les armements actuels aussi massifs et performants soient-ils deviendraient obsolètes face à l’usage de l’IA soit pour mener des combats à distance soit par la cyberguerre ou par l’usage d’engins sans pilote. Cette perspective traduit la préoccupation des grandes puissances qui pour conserver leurs rapports de force géostratégiques sont susceptibles de basculer vers l’option qui serait la plus performante dans les prochaines années.

Le grand dilemme auquel se trouveront alors confronter les dirigeants occidentaux serait le choix cornélien entre la conservation des principes généraux qui fondent leur société au risque de se faire vassaliser par la Chine ou la Russie, et l’évocation d’exceptions sécuritaires pour tordre le cou auxdits principes afin de préserver leurs rapports de force économiques et géostratégiques. Ces interrogations difficiles et délicates nous ramènent à la question des bornes éthiques que nous évoquions au départ.

A l’échelle planétaire, il est opportun de s’interroger sur le sort qui serait réservé à toutes les avancées qui ont été faites ces dernières décennies dans le domaine des droits de l’homme. L’IA étant une technologie diffuse et non détectable aisément, il sera de plus en plus difficile pour des organisations extérieures de s’assurer du respect de ces principes par les États. C’est pour cela qu’il faudrait une législation internationale qui régule l’utilisation de cette technologie afin de protéger la population contre les possibles conséquences fâcheuses des rivalités entre les Nations dans l’acquisition de cette technologie. A ce propos, il serait question de déterminer : quelles dispositions prend on contre un État puissant qui refuserait d’adopter ces principes et qui s’engagerait de façon unilatérale dans la voie de l’utilisation sans garde-fou de l’IA : des sanctions ? Des représailles ? La guerre ? Quelle guerre ?

Un pays comme le Bénin peut jouer de sa neutralité et de l’intérêt supérieur de l’humanité pour prendre le leadership de ce débat à l’international et coopérer avec d’autres Nations pour inscrire cette question à l’agenda des Nations Unies. Dans quelques années, il serait déjà tard...

Rethices Fagbohoun | Benin du Futur, Think Tank

Bénin du Futur

Opérant principalement au Bénin, aux Etats-Unis et en France, Bénin du Futur est un creuset de réflexions pour l'animation de recherches et la conduite d'études destinées à éclairer les gouvernants, les milieux d'affaires et les citoyens sur les grands enjeux de développement du Bénin. Nos centres d’intérêt principaux sont: l'éducation, la finance, la gouvernance, le développement inclusif ainsi que l'énergie et les infrastructures. 

Réthices FAGBOHOUN est un membre fondateur du think tank Bénin du Futur et le responsable des admissions et des adhésions. Il est aussi un ingénieur financier et informatique auprès de la Société Générale pour Altran France. Précédemment, Réthices a travaillé pendant de nombreuses années dans la finance d'entreprise et la technologie auprès de diverses entreprises au Bénin et en France. Il est titulaire d'un Master en Finance de l'Université Paris Dauphine, d'un Master en Activités bancaires de l'Université de Picardie, d'une Maîtrise en Economie de la FASEG et d'un Diplôme de Technicien Supérieur en Gestion des Banques de l'ENEAM au Bénin. Ses principaux centres d’intérêts sont la finance, la gouvernance publique et les innovations technologiques.