La sécurité de l’IA, une réelle préoccupation pour les entreprises

L’utilisation de l’open source dans le domaine de l’IA est captivante. Bien qu’il ne soit pas exempté de critiques, l'open source constitue avant tout une base de collaboration et de croissance pour les entreprises. Comme l'a fait remarquer Jean-Noël Barrot, ministre français délégué chargé du numérique lors du sommet sur l'IA à Bletchley Park, personne ne devrait "écarter d'emblée l'open source". L'argument en faveur de l'open source dans l'IA est intéressant. Selon lui, l'open source a eu une valeur significative dans d'autres domaines technologiques, en assurant "l'équité concurrentielle" et en empêchant le développement de monopoles, qui sont préjudiciables à l'innovation.

Une lettre ouverte de Mozilla a été publiée la veille de ce sommet. Mozilla préconise d’investir dans diverses approches allant de l'open source à la science ouverte. Cela servirait de base pour accélérer la compréhension des capacités, des risques et des inconvénients de l'IA grâce à une recherche indépendante, à la collaboration et au partage des connaissances. Mozilla a également appelé à un contrôle et à une responsabilisation accrue du public et a estimé que l'open source pourrait également réduire les barrières à l'entrée pour les nouveaux acteurs qui se concentrent sur la création d'une IA responsable.

L'open source doit être vu comme l’avenir de l’IA pour une gestion en toute transparence. En effet, les développeurs peuvent grâce à l’open source accéder à des modèles d’IA et des LLM qui leur permettent de travailler plus efficacement et de créer leur propre modèles d’IA plus vite et à un coût moins important.

Il faut aussi garder à l’esprit que l’open source peut être considéré comme une proposition valable dans le cadre des débats qui agitent ce sujet considéré comme brûlant : il faut une solution pour parvenir à trouver un équilibre entre l'habilitation, la croissance et la sécurité. En tant que plateformes technologiques habilitantes, les fournisseurs de cloud doivent faire tout ce qui est en leur pouvoir pour aider leurs clients à mieux maîtriser et à mieux utiliser les technologies et les outils les plus récents. Ces éléments sont tous liés et non exclusifs, et l'open source doit être considéré comme une proposition valable dans le cadre d'un débat permanent sur les méthodologies.

Les avancées technologiques sont souvent préemptées par des entreprises qui ont le budget nécessaire pour se les approprier et elles ne bénéficient pas au plus grand nombre. L’IA et l’IA générative ont été développées au sein d'une communauté open-source et c’est pour cela que leur croissance est sans pareille. Bien sûr les propositions commerciales vont croître et des systèmes propriétaires vont émerger ; pour autant si la technologie a été appréhendée par une vaste majorité, elle continuera de progresser dans sa version open-source.

Les organisations du secteur public et privé devront continuer à collaborer à l'élaboration de lignes directrices réglementaires, mais entre-temps, l'industrie continue à progresser à un rythme soutenu. C'est pourquoi le développement de l'IA doit rendre la technologie disponible, fiable, crédible et contrôlable. Nous avons investi dans des technologies telles que le calcul préservant la vie privée et l'IA explicable afin d'accroître la transparence et l'équité des algorithmes, de protéger la vie privée des utilisateurs et de renforcer la sécurité des données.

L'idée est que les écosystèmes peuvent favoriser l'innovation, en utilisant l'IA pour permettre aux entreprises de penser au-delà de leurs frontières traditionnelles. L'open source permet d'éviter l'enfermement dans des systèmes propriétaires et de réduire la barrière à l'entrée pour les innovateurs et les jeunes entreprises. Il encourage l'expérimentation et la collaboration, à moindre coût et au sein de communautés solides, ouvrant des opportunités avec moins de risques.

Pour conclure, à une époque où les entreprises parlent constamment de flexibilité et de résilience, l'open source peut fournir une plateforme volontaire pour évoluer à moindre coût. Il est certain que l’open source et l’IA doivent faire partie du mix, cependant il y a encore des réticences. ChatGPT nous a montré qu’il y a des moments de chamboulements dans la technologie et avec l'IA, cela ne fait que s'accélérer. Le défi pour tous les pays et toutes les entreprises est de savoir comment engager, activer et gérer l'IA dès maintenant. L'élan est déjà important et l'industrie technologique dans son ensemble doit jouer son rôle en prenant la responsabilité d'être le garde-fou de l'IA, pour aujourd'hui et pour demain. Vivement le prochain sommet sur la sécurité de l’IA prévu à Paris en cette fin d’année pour refaire le point sur les innovations et les développements qui façonneront le paysage de la sécurité dans le domaine de l'intelligence artificielle.