Humanisme artificiel

Parfois, trouver un sujet d’éditorial n’est pas une sinécure, mais à l’heure de rédiger celui-ci, c’est un vrai festival de thématiques qui se bousculent. J’ai donc été tenté de vous interpeller sur les ouvriers de GM&S et le risque que représente un excès de mépris à leur égard. Et là, boum, les activistes de Greenpeace organisent un petit feu d’artifice au pied du mur de la piscine de la centrale de Cattenom. Alors, changement de pied, je m’apprête à vous alerter sur le danger que nous fait courir le déni des responsables d’EDF en négligeant le rapport des experts soulignant un risque majeur. Et bien, c’était sans compter l’interview vidéo d’un jeune historien israélien que j’ai trouvée dans l’Usine Nouvelle. Yuval Noah Harari est un historien, auteur du livre « Sapiens, une brève histoire de l’humanité » qui connaît un succès majeur, et qui vient d’en sortir un nouveau sous le titre « Homo Deus, une brève histoire de l’avenir ». Dans ce dernier ouvrage, il imagine différents scenarii possibles au devenir de notre espèce, en mêlant des aspects historiques, économiques, scientifiques et technologiques. Le champs des possibles qu’il dresse n’est pas idyllique, il s’en faut de beaucoup, et on peut considérer que ses spéculations sont pure science-fiction, mais il fait preuve d’une telle acuité sur des points très précis de notre futur proche, qu’il semble raisonnable de se poser au moins quelques questions. Il est d’ailleurs intéressant de noter que l’une de ses préoccupations principales concerne l’intelligence artificielle, tout comme Elon Musk, l’emblématique patron de Tesla, SpaceX et Consor. « L’essence de l’humanisme, c’est la croyance que les principales sources d’autorité dans le monde sont les sentiments humains, les choix et le libre arbitre des individus » : Yuval Noah Harari y voit la clé de voûte de nos démocraties et la justification du libre échangisme économique. Dans ce contexte, et même s’il reconnaît que ce libre arbitre est une mythologie, il était jusque là impossible de savoir de manière sûre et déterministe les ressorts des choix individuels que nous opérons plus ou moins librement, alors qu’aujourd’hui il est tout à fait concevable de comprendre, d’analyser et d’influer sur ces choix intimes grâce aux connaissances acquises en biologie et à la puissance de calcul dont nous disposons pour mettre ces connaissances en équation. Un domaine où nous jouons clairement aux apprentis sorciers car, selon lui, « la complexité et la puissance de ces algorithmes que nous allons élaborer conduira inévitablement à ce qu’ils échappent à leurs créateurs ». Là, vous vous dites qu’on nage en pleine science-fiction, avec zéro argument tangible ? Eh bien non, nous sommes déjà pour partie dans le présent d’après ce qu’il rapporte : « les banques utilisent déjà des algorithmes extrêmement sophistiqués auxquels elles délèguent leurs stratégies de prêt. Les demandes sur lesquelles statuait hier un humain sont arbitrées par un algorithme si complexe et dépendent de tellement de données qu’aucun humain ne peut comprendre comment le « système » a pris sa décision ». Il ne s’agit que de prêts bancaires pour l’instant, mais si l’on étend cette inévitable perte de contrôle mise en avant par d’autres auteurs comme Franck Herbert en 1966 (Destination vide) ou Arthur C. Clarke (mis en image par Stanley Kubrick), il semble que le sujet gagnerait à être encadré de la plus grande prudence.
Pour autant, aux vues des enjeux économiques et stratégiques, je suis persuadé qu’il n’en sera rien avant la survenue d’une catastrophe de taille. Si vous en doutez, sachez que les banques utilisent également des algorithmes de ce type pour réaliser du « trading à haute fréquence » et, qu’à la suite « de l’enrayement du logiciel », certain fonds de pension et même des banques d’affaires vieilles de plusieurs centaines d’années se sont vus ruinés en quelques minutes. Là encore, il ne s’agit pour l’instant que d’argent !

Vincent Lebugle