Météo, santé, finances, Web… Les algorithmes deviennent omniprésents et de plus en plus puissants. Mais leur manque de transparence attise les craintes.

Ils sont partout. L’un d’entre eux a été développé pour prédire la vie ou la mort des personnages de la série « Game of Thrones ». Des start-up les utilisent pour conseiller des particuliers en matière d’investissement. Et ils ne nous lâchent plus dès que l’on surfe sur le Web. Les algorithmes sont l’un des piliers de la révolution numérique. « Un algorithme est une succession d’actions systématiques visant, étape par étape, à la résolution d’un problème ou à l’obtention d’un résultat. Un peu comme une recette de cuisine. Un exemple simple : une méthode pour trier un jeu de cartes dans un ordre croissant ou décroissant », résume David Monniaux, chercheur au CNRS.

S’ils remontent à l’Antiquité, les algorithmes ont vu leur potentiel décuplé à l’occasion de leur mariage avec l’ordinateur, ce dernier apportant ses capacités de calcul et de stockage des données. Certaines sciences en ont été bouleversées, à l’image de la météo. Quant à la simulation numérique elle lui doit tout. Avec le Big Data, les algorithmes sont désormais capables d’apprendre par eux-mêmes en ingurgitant un grand volume de données. En intelligence artificielle, cela a donné naissance au « deep learning », utilisé pour la reconnaissance d’images ou pour battre le meilleur joueur de go. Dans la finance, les ordinateurs ne se contentent plus d’exécuter les ordres, mais prennent les décisions. « Le trading algorithmique représente de 60 % à 80 % du volume des transactions sur les marchés européen et nord-américain », écrit Yannick Malevergne, professeur à l’université de Saint-Etienne, dans le dernier numéro de la revue « France Forum » (« Vers l’Homo Algorithmus », avril 2016).

Certains espèrent s’appuyer sur les algorithmes pour réduire le chômage. Ainsi, le site Meteojob compare automatiquement les 7.000 offres d’emploi reçues quotidiennement avec une base de 3 millions de CV. « Les candidats obtiennent un rendez-vous pour cinq candidatures. Notre objectif est de descendre à trois », explique Marko Vujasinovic cofondateur de Meteojob.

Devoir de « loyauté »

Le plus spectaculaire viendra de la médecine. « Son avenir repose sur les algorithmes », prédit le professeur Israël Nisand, chef du pôle de gynécologie obstétrique du CHRU de Strasbourg. « C’est évident dans le domaine du cancer. Devant une tumeur cancéreuse, le système Watson d’IBM passe en revue tout la littérature scientifique. Il en sait plus en quelques minutes qu’un cancérologue travaillant trente ans sur le sujet. » A tel point que le médecin, fondateur du Forum européen de bioéthique, s’inquiète du retard pris par la France dans l’utilisation des données médicales : « La dernière loi de santé est trop restrictive et constitue un recul. Aux Etats-Unis, on numérise des milliers de dossiers et autant de cas cliniques. La conséquence, c’est que, dans l’avenir, pour les traitements personnalisés du cancer, on s’adressera à Watson qui préconisera des molécules produites aux Etats-Unis. »

Le travail aussi sera impacté. Peut-être pour le meilleur, car les données disponibles pourraient libérer les cadres du fastidieux travail de reporting. « Avec des données réelles sur le monde du travail, qui le montrent tel qu’il est », analyse Anne-Florence Quintin, secrétaire nationale CFDT cadres. On peut aussi craindre le pire, à l’image de l’utilisation qu’en fait une chaîne de restauration rapide. « Les algorithmes indiquent aux salariés dans quel magasin aller travailler en fonction des prévisions de fréquentation. Une fois sur place, c’est la machine qui prescrit le travail au fil de la journée », dénonce Anne-Florence Quintin : « La grande angoisse des salariés est de se voir dépossédés de leur travail. D’accord pour les algorithmes faisant de la prédiction, non à ceux faisant de la prescription. »

L’algorithme le plus utilisé au monde reste PageRank de Google, chargé de classer les réponses du moteur de recherche. Comment fonctionne-t-il ? Quels sont les critères utilisés ? Mystère, d’autant que PageRank évolue en permanence et que Google est fréquemment accusé de favoriser ses propres services. Mêmes questions pour les autres géants du Web, Facebook, Amazon ou Apple. D’où des réflexions en cours sur l’obligation qu’auraient les géants du Web à devoir obéir à un devoir de « loyauté ». « On ne peut demander à un algorithme d’être neutre, mais, en revanche, on peut lui demander d’être « loyal », puisqu’on peut supposer qu’il y a un écart entre ce que les sites disent faire et la réalité », explique le sociologue Dominique Cardon, auteur de l’essai « A quoi rêvent les algorithmes » (Seuil, 2015). Il juge essentiel d’ouvrir ces algorithmes, qui sont devenus des « boîtes noires » : « Une radiographie critique des algorithmes est un enjeu démocratique aussi essentiel qu’inaperçu. »

Mais cette ouverture est devenue difficile à envisager avec des systèmes devenus « autoapprenants ». « Un algorithme autoapprenant génère des millions d’opérations et, d’une certaine façon, définit son propre comportement. Si bien que le concepteur aura du mal à en expliciter le résultat. On peut imaginer des algorithmes de contrôle pour surveiller le fonctionnement d’un tel algorithme. Il faudra en tout cas des règles, à l’image des lois imaginées par Asimov pour les robots », prédit Serge Abiteboul, directeur de recherche à l’Inria et

auteur d’un blog sur le sujet.

Débats âpres autour de la lutte contre la criminalité

L’ouverture des algorithmes ne suffira pas. Elle exigera en parallèle de développer la culture technique de la population. « On a éduqué les enfants à l’image, il est nécessaire, face au déploiement de la société des calculs, d’encourager la diffusion d’une culture statistique », insiste Dominique Cardon.

Les débats plus âpres auront sans doute lieu autour de la lutte contre la criminalité, avec au premier rang contre le terrorisme. La star du domaine, Palantir, financée à ses débuts par la CIA, a été valorisée 20 milliards de dollars lors de sa dernière levée de fonds l’an dernier. Elle fournit des algorithmes aux gouvernements et services de renseignement de nombreux pays. « Auparavant, on faisait une surveillance ciblée à partir de requêtes judiciaires. Les technologies permettent désormais d’accumuler des données sur des gens a priori non suspectés », explique Serge Abiteboul. Ce qui, selon l’expert, soulève au moins deux questions : « Est-ce que l’on veut s’engager dans ce type de société où le citoyen est systématiquement surveillé ? Et qui a le droit de décider de récolter et exploiter de telles données : le gouvernement ou une autorité judiciaire ? »