Decideo - Actualités sur le Big Data, Business Intelligence, Data Science

Abonnez-vous gratuitement à Decideo !


Decideo

 


Podcast: Giovanni Mangani, Responsable avant-vente chez Pegasystems, nous parle des biais en intelligence artificielle


Rédigé par le 1 Juillet 2020

L'intelligence artificielle est au menu de la transformation digitale de nombreuses entreprises. Mais, tout comme l'Être Humain, elle est parfois biaisée. Nous connaissons tous ce terme. Mais savons-nous réellement ce qu'il signifie ? Nous avons fait le point avec Giovanni Mangani, qui nous explique ce qu'est un biais et comment le détecter.




Giovanni Mangani est spécialiste de l'intelligence artificielle chez Pegasystems. Nous l'avons rencontré afin de lui faire parler des biais, parfois introduits dans les systèmes d'apprentissage machine, et susceptibles de fausser une prise de décision. "Correctement exploitée, l'IA permet aux entreprises de valoriser chaque interaction client, pour renforcer leur confiance et augmenter leurs bénéfices. Il peut pourtant arriver que les modèles d’IA « apprennent » des données biaisées de manière involontaire au fil du temps, comme l'âge, l'appartenance ethnique ou le genre. Non détectées, elles peuvent générer des pratiques discriminatoires néfastes comme la réduction du nombre de prêts, de polices d’assurances ou d’offres promotionnelles, et stigmatiser certaines populations. Nous vivons actuellement dans une économie imprévisible où les entreprises ne peuvent pas risquer de perdre la confiance de leurs clients, qui sont déjà plus vulnérables en raison de la pandémie", explique-t-il.

- Commençons par une question importante, qu'est-ce qu'un biais ?
- Les biais sont-ils toujours involontaires ou peuvent-ils être volontaires ?
- Donnez nous quelques exemples des conséquences que des biais non détectés peuvent avoir sur des décisions.
- Votre plateforme dit "éliminer les données biaisées". Comment peut-on les détecter si ce sont des données comme les autres ?
- Un biais c'est aussi l'absence de certaines données. Comment est-ce détectable ?
- Y a-t-il un aspect règlementaire ? Est-ce les biais seront prochainement "contrôlés" dans certains secteurs ?
Giovanni Mangani, responsable avant-ventes chez Pegasystems
Giovanni Mangani, responsable avant-ventes chez Pegasystems




Nouveau commentaire :
Twitter

Vous pouvez commenter ou apporter un complément d’information à tous les articles de ce site. Les commentaires sont libres et ouverts à tous. Néanmoins, nous nous réservons le droit de supprimer, sans explication ni préavis, tout commentaire qui ne serait pas conforme à nos règles internes de fonctionnement, c'est-à-dire tout commentaire diffamatoire ou sans rapport avec le sujet de l’article. Par ailleurs, les commentaires anonymes sont systématiquement supprimés s’ils sont trop négatifs ou trop positifs. Ayez des opinions, partagez les avec les autres, mais assumez les ! Merci d’avance. Merci de noter également que les commentaires ne sont pas automatiquement envoyés aux rédacteurs de chaque article. Si vous souhaitez poser une question au rédacteur d'un article, contactez-le directement, n'utilisez pas les commentaires.