Decideo - Actualités sur le Big Data, Business Intelligence, Data Science, Data Mining

Abonnez-vous gratuitement à Decideo !


Decideo

 


Pour une éthique de l'intelligence artificielle au service du plus grand nombre


Rédigé par Matthieu Sénéchal, mieuxplacer.com le 10 Octobre 2018

Prêts bancaires, orientation universitaire : l’intelligence artificielle est au cœur de toutes les prises de décision individuelles. En témoignent les bacheliers qui ont passé l’été suspendu aux caprices de Parcoursup… sans y comprendre grand-chose. En effet, le système technique qui sous-tend l’IA a tout d’une boîte noire, dont émergeraient des oracles débarrassés de tous les aléas humains. Or, il n’en est rien.



Matthieu Sénéchal, Co-Fondateur et Chief Science Officer chez mieuxplacer.com
Matthieu Sénéchal, Co-Fondateur et Chief Science Officer chez mieuxplacer.com
Un mécanisme qui n’évacue pas les biais humains

En 2015, des chercheurs de Carnegie Mellon ont découvert que dans les offres d’emplois sponsorisées par Google Ad, la grille de salaire proposée pouvait différer selon que vous êtes un homme ou une femme. En fonction de la couleur de votre peau, les logiciels de reconnaissance faciale auront plus ou moins de facilité à vous identifier. De même que les dictionnaires, censés délivrer des définitions « objectives », reflètent les mœurs d’un lieu et d’une époque – sous la troisième République coloniale, il n’était pas rare d’y lire que les personnes de couleur étaient pourvues d’un plus petit cerveau -, les algorithmes sont empreints des stéréotypes de ceux qui les conçoivent. Les développeurs définissent pour un système donné les réactions attendues dans différentes configurations, en fonction de leurs valeurs et de ce qu’eux-mêmes s’attendent à observer. Le processus est biaisé depuis ses prémisses ! Dans le cas où la conception ne se fait pas ex nihilo, l’arbitraire n’est jamais loin non plus. On recourt alors à l’apprentissage de comportements basés sur des données historiques… mais pas forcément représentatives ! Dans le cas de la reconnaissance faciale, si la base de données qui fait référence contient plus de visages d’hommes blancs que d’autres types de visage, l’algorithme sera tout aussi empreint de biais.

La construction des systèmes d’intelligence artificielle, un acte politique

En 2000, Lawrence Lessig écrivait dans son article « Code is Law » que c’est le code qui façonne le cyberespace, définit son architecture, et au-delà, nos fondamentaux de liberté. Deux choses ont changé depuis. D’une part, depuis l’essor d’Internet et l’avènement des smartphones, le cyberespace n’est plus une entité cloisonnée du monde réel. D’autre part, les systèmes d’intelligence artificielle se sont massivement généralisés pour investir peu à peu tous les pans de l’activité humaine (finance, santé, éducation…). Jusque-là, ces domaines ont toujours été régis par des lois votées par des députés. Aujourd’hui, nous sommes à un tournant : ce n’est plus tant le législateur que le technicien qui est aux commandes. Au travers des systèmes automatisés qu’il développe, c’est lui qui définit les nouvelles normes.

Il n’y a rien là de bien inédit : les ingénieurs ont toujours indirectement façonné la société au gré de leurs réalisations. Le train, par exemple, a remodelé notre conception des territoires. La technologie, quand elle est de rupture, bouleverse les modes de vie et démocratise des usages. Ce qui est inédit avec les nouveaux systèmes, c’est la « personnalisation de masse ». Là où, auparavant, l’innovation touchait l’intégralité d’une population de manière indifférenciée, l’intelligence artificielle est dotée d’une capacité de ciblage extrêmement fine, jamais atteinte jusqu’alors. Les concepteurs de ces systèmes ont une responsabilité bien plus lourde qu’assurer une maintenance technique. Législateurs modernes, ils intègrent une part de leur subjectivité dans les lois qu’ils édictent, et qui impactent la vie des individus.

La prise de conscience permettra de concevoir des systèmes au service du plus grand nombre

Le danger d’un nouveau positivisme nous guette, qui porte aux nues la technologie comme fin en soi. Selon les mots de Marcuse, la technique, « domination sur la nature et sur les hommes », est le reflet de ce que la société entend faire des individus. Dès lors, il nous appartient à tous de définir une éthique du progrès technologique, de sorte à servir les intérêts humains et éviter toute dystopie. Des voix se font déjà entendre, notamment au travers de la conférence « Fairness, Accountability and Transparency », ou de la « Global Initiative for Ethical Considerations in Artificial Intelligence and Autonomous Systems ». Des mouvements comme Women in AI et Black in AI militent pour l’inclusion dans les secteurs de la tech. Nous ne pouvons qu’encourager ces prises de conscience ! En effet, l’Intelligence Artificielle sera ce que les individus en font. Dans un avenir proche, nous aurons tous accès aux outils qui permettent de concevoir des systèmes d’IA. La question qui se pose dès lors est de veiller à ce que les valeurs éthiques en cours de définition chez les experts de la tech se répandent au même rythme que les nouveaux outils. C’est notre défi à tous de construire une intelligence artificielle au service du bien commun.




Commentaires

1.Posté par Vallaud Thierry le 11/11/2018 17:31
C'est moi qui suis surement le seul à ressentir cela mais parler d'éthique d'IA quand on est le date scientist d'un site comparateur de placements bancaireq c'est un peu comme si le grand méchant loup parlait d'adoption dans un éco systèmes uniquement peuplé de petits moutons gentils et de chaperons rouges
C'est étrange….même si sur le fond on ne peut être que d'accord.

2.Posté par Bruno Saint-Cast le 15/11/2018 09:21
Bonjour,
D'accord avec vous sur le fond et les intentions, mais le biais que vous évoquez est bel et bien un biais humain. Un moteur d'IA doit par définition rester neutre, transparent (exit les black boxes) et traçables. L'IA doit être un outil au service des hommes qui les utilisent, certainement pas les asservir. Je vous retrouve sur linkedin.

3.Posté par Philippe NIEUWBOURG le 15/11/2018 10:27
J'adore ce débat, sur les "biais". Que c'est difficile de faire comprendre que l'algorithme n'a pas de biais. L'IA parfaite n'a aucun biais. C'est l'humain qui introduit les biais ! Le raciste, ou l'anti-racisme; le sexisme, ou l'égalité; ne sont pas des biais algorithmiques. L'anti-raciste, la discrimination positive, l'égalitarisme, sont les biais, des biais humains introduits pour créer une société plus juste. Plus juste que quoi ? Plus juste que la société algorithmique qui n'est que mathématique, et donc raciste, sexiste et discriminatoire. C'est même son fondement de discriminer. Commençons par adopter le bon vocabulaire : nous souhaitons introduire des biais dans l'algorithme pour le faire se comporter comme nous souhaitons qu'il se comporte. Une IA éthique serait donc une IA biaisée, par l'humain.

4.Posté par Thierry Vallaud le 15/11/2018 11:05
@Bruno Merci pour votre réponse, quelle relation entre vous, Mieux Placer et Mondobrain ?
@Philippe en fait ta position c'est que par construction un IA pure serait éthique mais comme elle est programmé dans un but par un humain elle ne l'est pas (le biais). Mais une IA serait "rationnelle" si elle était pure, une décision rationnelle est t'elle tjs éthique ? On dirait un sujet de philo au bac.

Nouveau commentaire :
Facebook Twitter

Vous pouvez commenter ou apporter un complément d’information à tous les articles de ce site. Les commentaires sont libres et ouverts à tous. Néanmoins, nous nous réservons le droit de supprimer, sans explication ni préavis, tout commentaire qui ne serait pas conforme à nos règles internes de fonctionnement, c'est-à-dire tout commentaire diffamatoire ou sans rapport avec le sujet de l’article. Par ailleurs, les commentaires anonymes sont systématiquement supprimés s’ils sont trop négatifs ou trop positifs. Ayez des opinions, partagez les avec les autres, mais assumez les ! Merci d’avance. Merci de noter également que les commentaires ne sont pas automatiquement envoyés aux rédacteurs de chaque article. Si vous souhaitez poser une question au rédacteur d'un article, contactez-le directement, n'utilisez pas les commentaires.