Répondre aux enjeux des biais de données grâce à l’intégrité

Tendü Yoğurtçu, Chief Technology Officer chez Precisely, estime que les initiatives en matière de diversité, d'équité et d'inclusion (DEI) sont de plus en plus prioritaires pour les organisations désireuses d’améliorer la représentation des talents, mais que nombre d'entre elles manquent encore de l’élément crucial que constitue cette représentation dans leurs données.

« Bien que nous aimions à penser que les données sont factuelles, voire impartiales, les préjugés humains continuent de créer des biais dans les données. Il s'agit plus que jamais d'un défi majeur à relever, face à l'utilisation croissante de technologies comme l'IA et l'automatisation, alimentées par des ensembles de données potentiellement biaisés. En effet, les modèles d'IA étant le produit des données sur lesquelles ils sont formés, cela crée une variété de problèmes dans le monde réel. Par exemple, des logiciels de reconnaissance faciale défectueux peuvent par exemple moins bien identifier les femmes et les personnes de couleur. De même, des inégalités dans la dispense de soins de santé peuvent émerger.

Pour y remédier, les entreprises doivent s’assurer d’alimenter les programmes d'IA et d'automatisation avec des données très fiables et hautement intègres. L’intégrité des données s’appuie sur des piliers fondamentaux tels que l'intégration à l'échelle de l'entreprise, l'exactitude et la qualité, l'intelligence de localisation et l'enrichissement des données. En utilisant ces piliers, les organisations garantissent ainsi l’accès aux ʺbonnesʺ données, qu’elles peuvent ensuite enrichir avec des jeux de données de tiers de confiance et veiller ainsi à ce qu'elles soient correctement préparées, pour une utilisation dans des modèles intelligents. Avec cette approche, les dirigeants pourront prendre des décisions plus représentatives et de meilleure qualité. »