Intelligence artificielle, monde parfait, réduction des biais et fuite en avant…

On a tous déjà entendu parler de ces biais qui polluent les résultats des intelligences artificielles, comme ces applications de reconnaissances faciales principalement alimentées avec des photos d’hommes blancs et donc moins capables de reconnaître ceux avec des peaux plus sombres (une étude démontre les biais de la reconnaissance faciale, plus efficace sur les hommes blancs – 12.02.2018 – https://tinyurl.com/n5z97t7j). Biais inacceptables dans la mesure où une des promesses majeures de l’IA est justement de pouvoir prendre des décisions parfaites, c’est à dire sur base de performances objectives et nullement influencées par des comportements humains.

Un récent article publié sur technologyreview.com met en évidence un phénomène similaire dans le domaine du recrutement. Les biais, parce qu’ici il y en a plusieurs, ne sont pas liés à la couleur de peau, plutôt aux comportements et à la maîtrise de la langue (LinkedIn’s job-matching AI was biased. The company’s solution? More AI – https://tinyurl.com/5uvatd7m). C’est chez LinkedIn que le constat a été fait que les processus de matching entre offres d’emplois et CV favorisaient les hommes en raison de « une plus grande agressivité » de ces derniers dans leurs recherches d’emplois. Il semble que les hommes sont plus généreux que les femmes lorsqu’il s’agit de se considérer comme apte pour un poste ouvert.

La réponse de l’IA à ce biais sera probablement de mettre davantage d’IA pour analyser le biais et l’annuler. Dans le cas présent, la solution a été de prendre en compte de nouveaux aspects, pour faire en sorte que « des personnes aux profils équivalents se voient proposer les mêmes offres d’emplois ». En l’occurrence on a demandé aux algorithmes de prendre en compte, outre les données fournies par les candidats, une comparaison avec des profils similaires ainsi que des données relatives au comportement sur les sites (fréquences de consultation, d’interactions…) Pourquoi pas, mais il nul doute que cela va générer de nouveaux biais entre ceux qui déclarent plus ou moins d’expériences, plus ou moins bien, et ceux qui passent leur vie sur les sites et les autres. Alors, la parade sera-t-elle d’implémenter la capture de nouvelles données et de les associer à de nouvelles stratégies de sélection, qui seront à l’origine de nouveaux biais ? Le danger est donc de s’engager sur une route sans fin, à la poursuite d’une chimère.

Bon, le sujet de ce billet n’est pas de mettre l’IA à l’amende. Plutôt de s’interroger sur la quête d’absolu à laquelle nous invite (depuis toujours) la technologie. Alors, oui, l’IA peut certainement aider les entreprises à acquérir de nouveaux avantages compétitifs (ou simplement, à conserver leur position). Mais l’investissement dans le déploiement de l’intelligence artificielle doit être limité par la proposition de valeur et surtout par la contribution potentielle des ressources allouées à un objectif opérationnel, lequel devra rester modeste… Et le souvenir de la loi de Pareto ne sera jamais loin …

Rechercher sur le blog

Recherche à travers les sites de la SPI

Send this to a friend