Les algorithmes complexes rencontrent des difficultés dans des contextes incertains, tandis que l'intelligence humaine s'est développée pour résoudre ces problèmes sans dépendre de la quantité de données disponibles.

Dans son ouvrage « Plus sage que les algorithmes », l'auteur Gerd Gigerenzer analyse la façon dont les humains utilisent la technologie algorithmique et l'intelligence artificielle (IA) pour prendre des décisions, en révélant leurs capacités et leurs limites.

La clé pour garder le contrôle à l'ère de l'IA

Aujourd'hui, les algorithmes et l'IA ont pénétré tous les aspects de la vie humaine. Ils nous aident à choisir nos partenaires amoureux, à surveiller notre santé et notre mode de vie, à gérer nos finances... Ils sont même appliqués à différents niveaux dans de nombreux domaines : la sécurité (reconnaissance des criminels), la médecine (diagnostic et méthodes de traitement), la justice (prédiction de la récidive), les transports (véhicules autonomes)...

Les algorithmes nous impactent particulièrement au niveau informationnel. Avec le modèle publicitaire personnalisé, les informations que nous recevons sont très probablement celles que les annonceurs veulent nous montrer.

Pour servir leurs clients publicitaires, les entreprises technologiques collectent chaque minute des données sur votre localisation, vos activités et ce que vous regardez. Cependant, cette collecte d'informations soulève de nombreuses préoccupations concernant la surveillance, la perte de vie privée, et l'impact sur la démocratie et la dignité humaine.

Dans les discussions sur les algorithmes et l'IA, nous rencontrons souvent deux camps opposés : l'un croit qu'ils rendront le monde meilleur ; l'autre craint que les robots et l'IA remplacent et dominent les humains, nous menant vers un avenir apocalyptique. Tant les partisans confiants que les opposants inquiets, les optimistes comme les pessimistes, partagent une vision commune : les algorithmes et machines feront tout mieux que les humains (« plus précisément, plus rapidement, moins cher »). C'est aussi la promesse et l'argument de vente des entreprises technologiques.

Cependant, l'auteur Gerd Gigerenzer considère cette conclusion comme erronée, car il existe des domaines où ils surpassent les humains, mais pas dans d'autres. Cela transformera notre façon de penser et d'agir dans notre relation avec la technologie.

Dans ce livre, Gigerenzer souligne : « les algorithmes complexes peuvent réussir dans des situations stables, mais rencontreront de nombreuses difficultés dans des contextes incertains ».

Il croit qu'une attitude lucide et sage est la clé pour garder le contrôle à cette ère de l'IA : « Maintenir une attitude lucide et sage signifie comprendre le potentiel et les risques de la technologie numérique, et rester fermement proactif dans un monde rempli d'algorithmes. »

En comprenant le potentiel et, plus important encore, les limites et risques de ces technologies, en saisissant ce qu'elles peuvent et ne peuvent pas faire, vous n'aurez ni à paniquer ni à faire confiance aveuglément. Nous pouvons devenir des citoyens numériques avisés.

Potentiel et limites des algorithmes

Dans le livre, pour aider les lecteurs à comprendre le potentiel et les limites des algorithmes, l'auteur analyse comment nous appliquons les algorithmes dans différents domaines (rencontres, recrutement, véhicules autonomes, traduction, reconnaissance criminelle, diagnostic et traitement médical...).

À travers chaque exemple, Gigerenzer montre clairement ce que les algorithmes peuvent et ne peuvent pas faire, puis compare l'intelligence artificielle à l'intelligence humaine. Par des analyses concrètes et éclairantes, l'auteur nous aide à voir la différence fondamentale entre ces deux types d'intelligence.

Le premier exemple choisi par Gigerenzer concerne les applications de rencontres. Il présente les promesses d'applications comme Parship (« toutes les 11 minutes, un cœur solitaire tombe amoureux »), EliteSingles, Tinder, Jdate... et nous explique comment fonctionnent les algorithmes de l'amour. Fondamentalement, toutes les applications se basent sur les profils personnels fournis par les utilisateurs, notent et comparent les caractéristiques pour évaluer la compatibilité entre différentes personnes.

Cependant, le profil d'une personne n'est pas cette personne. De plus, pour fidéliser les utilisateurs, les applications facilitent l'accès à de nombreux partenaires potentiels, incitant les gens à « toujours chercher quelqu'un de mieux ». Plus grave encore, de nombreuses escroqueries se sont produites par des individus voulant exploiter ce système.

À partir du faible taux de succès des applications de rencontres, Gigerenzer révèle ce en quoi l'IA excelle, à travers le principe du monde stable : « Les algorithmes complexes sont plus efficaces dans des situations stables, déterminées, avec de grandes quantités de données. L'intelligence humaine s'est développée pour résoudre des problèmes incertains, indépendamment de la quantité de données disponibles. »

C'est pourquoi dans les jeux aux règles déterminées comme les échecs ou le go, l'IA a battu les meilleurs joueurs (victoire d'AlphaZero contre le joueur de go Ke Jie en 2017, victoire de Deep Blue contre le joueur d'échecs Kasparov en 1997).

Mais dans des situations incertaines, nous ne connaissons pas tous les résultats possibles ou les conséquences à venir. Le succès d'une relation, les résultats d'élections présidentielles, les processus de recrutement, la prédiction des taux de grippe... ce sont des situations incertaines. C'est là que l'IA et les algorithmes ont connu des échecs.

Le taux de succès des rencontres sur l'application Parship n'atteint qu'environ 5%. Google Flu Trends n'a pas pu prédire l'épidémie de grippe de 2009 aux États-Unis et après de nombreux autres échecs, malgré les efforts d'amélioration, il a dû cesser ses activités en 2015. Les algorithmes avaient aussi prédit une victoire écrasante d'Hillary Clinton lors de l'élection présidentielle américaine de 2016.

C'est la différence fondamentale entre l'intelligence humaine et l'intelligence artificielle. C'est aussi la limitation commune de l'IA dans tous les domaines. Quand les humains sont impliqués, de nombreux facteurs incertains apparaissent. Et même un peu d'incertitude désoriente l'IA. De même, l'IA ne peut pas réussir absolument dans des domaines comme le diagnostic médical, la traduction, les véhicules autonomes, la reconnaissance criminelle... Elle peut être appliquée à un certain niveau, mais ne peut pas complètement remplacer les humains.

À partir de l'analyse du potentiel et des limites des algorithmes, Gigerenzer propose quelques méthodes pour que les individus reprennent activement le contrôle : gérer l'attention, vérifier les sources d'information, et particulièrement limiter la dépendance aux technologies comme ChatGPT...