Interdire ou empêcher : deux logiques de gouvernance à l’épreuve des données et de l’IA
De passage sur TikTok pour y écouter parler de philosophie (si, si, on parle de philo sur TikTok… abonnez-vous par exemple au compte de @philo_sophia_) l’algorithme m’a conduit à une comparaison argumentée entre l’interdiction et l’empêchement. Faisant le parallèle avec les contextes de gouvernance des données et de l’intelligence artificielle, qui semblent si difficiles à faire accepter aux opérationnels, il m’a semblé porteur de poser quelques réflexions sur le thème : faut-il imposer ou proposer une gouvernance des données ? Faut-il interdire ou empêcher une mauvaise, ou l’absence de gouvernance ?
Une distinction conceptuelle aux implications politiques majeures
La distinction entre interdire et empêcher paraît, au premier abord, triviale ; elle structure pourtant en profondeur les deux grands régimes de régulation possibles dans une société technologisée.
Interdire est un acte normatif. La règle s’adresse à un sujet supposé libre, capable de comprendre la norme, d’en délibérer et, le cas échéant, d’y contrevenir. L’interdiction présuppose la possibilité matérielle de la transgression : c’est précisément cette possibilité qui ouvre l’espace de la responsabilité, du jugement, de la sanction et corrélativement de la contestation. Lawrence Lessig identifie ainsi la loi comme l’une des quatre modalités de régulation, qui contraint par la menace de la sanction, aux côtés des normes sociales, du marché et de l’architecture.
Empêcher, à l’inverse, relève d’un dispositif factuel : la conduite n’est pas réprouvée, elle est rendue impossible. Aucun sujet n’a à délibérer, aucun juge n’a à trancher, aucun contrevenant n’a à répondre. Dans le cyberespace, cette modalité est portée par le code informatique lui-même. Lessig démontre que le code, et l’architecture, définissent la manière dont nous vivons le cyberespace, et détermine s’il est facile ou non de protéger sa vie privée, ou de censurer la parole. L’architecture remplace la délibération par la configuration.
La portée critique de cette distinction a été remarquablement développée par Alain Supiot dans La Gouvernance par les nombres (Fayard, 2015). Il y montre comment la loi cède la place au programme et la réglementation à la régulation, dans un imaginaire institutionnel où l’on viserait la réalisation efficace d’objectifs mesurables plutôt que l’obéissance à des lois justes. L’enjeu, pour Supiot, n’est pas seulement technique : en envisageant les hommes comme des ordinateurs programmables, la gouvernance par les nombres sape le règne de la loi et fait ressurgir un système d’allégeance quasi féodal. Là où la loi suppose un sujet juridique responsable, le programme suppose un comportement à conditionner.
Mon opinion : pour une primauté de l’interdiction sur l’empêchement
Au terme de cette analyse, je défends la thèse suivante : dans la gouvernance des données et de l’IA, l’interdiction doit être première, l’empêchement instrumental. Mais c’est à vous de me dire dans les commentaires si vous êtes en accord avec cette vision… ou pas.
Cette hiérarchie repose sur trois raisons.
D’abord, une raison de principe démocratique. L’interdiction émane d’une délibération publique ; elle peut être discutée, amendée, abrogée. L’empêchement, lorsqu’il est inscrit dans le code, échappe à cette publicité : il est défini par les concepteurs, souvent privés, et son fonctionnement est opaque pour la majorité. Substituer systématiquement le dispositif à la norme, c’est déplacer la souveraineté politique vers les architectes techniques, ce que Supiot identifie comme une régression institutionnelle majeure.
Ensuite, une raison anthropologique. L’interdiction maintient ouvert l’espace dans lequel l’agent peut choisir d’obéir ou de transgresser, et donc peut être tenu pour responsable. Un monde de pure prévention technique est un monde sans sujets moraux. Or, comme le rappellent Rouvroy et Berns, sans cet espace, c’est la possibilité même de la subjectivation politique qui s’efface et avec elle, paradoxalement, toute critique du système. Big Brother et George Orwell ne sont plus très loin…
Enfin, une raison d’efficacité réflexive. Les dispositifs techniques sont faillibles, biaisés, contournables, et leurs erreurs se diffusent à grande échelle. La norme, parce qu’elle s’applique à des cas concrets via le jugement, conserve une plasticité que le code ne possède pas. Réserver à la loi le rôle de fixer ce qui doit être interdit, et au dispositif celui de rendre cette interdiction matériellement effective lorsque les asymétries d’échelle l’exigent, permet de cumuler les avantages des deux régimes sans en payer tous les coûts.
Cela ne signifie pas qu’il faille rejeter l’empêchement technique. Face au passage à l’échelle des systèmes d’IA, à la rapidité des traitements automatisés, à l’asymétrie d’information entre opérateurs et personnes concernées, l’interdiction seule serait souvent purement déclaratoire. Le RGPD et l’AI Act ont raison de combiner les deux registres. Mais l’ordre de priorité importe : le dispositif doit servir la norme, et non la remplacer. Concrètement, cela impose trois critères à tout empêchement by design :
1. Traçabilité juridique : le dispositif doit pouvoir être référé à une norme publique, débattue et amendable.
2. Contestabilité effective : la personne empêchée doit pouvoir comprendre qu’elle l’est, savoir pourquoi, et disposer d’un recours humain réel, au sens de l’article 22 du RGPD.
3. Réversibilité politique : aucun dispositif ne doit verrouiller à un degré tel qu’un changement démocratique de la règle deviendrait techniquement impraticable.
Sans ces garde-fous, l’empêchement par le code n’est pas le prolongement de l’État de droit : il en est la sortie silencieuse !b[
De passage sur TikTok pour y écouter parler de philosophie (si, si, on parle de philo sur TikTok… abonnez-vous par exemple au compte de @philo_sophia_) l’algorithme m’a conduit à une comparaison argumentée entre l’interdiction et l’empêchement. Faisant le parallèle avec les contextes de gouvernance des données et de l’intelligence artificielle, qui semblent si difficiles à faire accepter aux opérationnels, il m’a semblé porteur de poser quelques réflexions sur le thème : faut-il imposer ou proposer une gouvernance des données ? Faut-il interdire ou empêcher une mauvaise, ou l’absence de gouvernance ?
Une distinction conceptuelle aux implications politiques majeures
La distinction entre interdire et empêcher paraît, au premier abord, triviale ; elle structure pourtant en profondeur les deux grands régimes de régulation possibles dans une société technologisée.
Interdire est un acte normatif. La règle s’adresse à un sujet supposé libre, capable de comprendre la norme, d’en délibérer et, le cas échéant, d’y contrevenir. L’interdiction présuppose la possibilité matérielle de la transgression : c’est précisément cette possibilité qui ouvre l’espace de la responsabilité, du jugement, de la sanction et corrélativement de la contestation. Lawrence Lessig identifie ainsi la loi comme l’une des quatre modalités de régulation, qui contraint par la menace de la sanction, aux côtés des normes sociales, du marché et de l’architecture.
Empêcher, à l’inverse, relève d’un dispositif factuel : la conduite n’est pas réprouvée, elle est rendue impossible. Aucun sujet n’a à délibérer, aucun juge n’a à trancher, aucun contrevenant n’a à répondre. Dans le cyberespace, cette modalité est portée par le code informatique lui-même. Lessig démontre que le code, et l’architecture, définissent la manière dont nous vivons le cyberespace, et détermine s’il est facile ou non de protéger sa vie privée, ou de censurer la parole. L’architecture remplace la délibération par la configuration.
La portée critique de cette distinction a été remarquablement développée par Alain Supiot dans La Gouvernance par les nombres (Fayard, 2015). Il y montre comment la loi cède la place au programme et la réglementation à la régulation, dans un imaginaire institutionnel où l’on viserait la réalisation efficace d’objectifs mesurables plutôt que l’obéissance à des lois justes. L’enjeu, pour Supiot, n’est pas seulement technique : en envisageant les hommes comme des ordinateurs programmables, la gouvernance par les nombres sape le règne de la loi et fait ressurgir un système d’allégeance quasi féodal. Là où la loi suppose un sujet juridique responsable, le programme suppose un comportement à conditionner.
Mon opinion : pour une primauté de l’interdiction sur l’empêchement
Au terme de cette analyse, je défends la thèse suivante : dans la gouvernance des données et de l’IA, l’interdiction doit être première, l’empêchement instrumental. Mais c’est à vous de me dire dans les commentaires si vous êtes en accord avec cette vision… ou pas.
Cette hiérarchie repose sur trois raisons.
D’abord, une raison de principe démocratique. L’interdiction émane d’une délibération publique ; elle peut être discutée, amendée, abrogée. L’empêchement, lorsqu’il est inscrit dans le code, échappe à cette publicité : il est défini par les concepteurs, souvent privés, et son fonctionnement est opaque pour la majorité. Substituer systématiquement le dispositif à la norme, c’est déplacer la souveraineté politique vers les architectes techniques, ce que Supiot identifie comme une régression institutionnelle majeure.
Ensuite, une raison anthropologique. L’interdiction maintient ouvert l’espace dans lequel l’agent peut choisir d’obéir ou de transgresser, et donc peut être tenu pour responsable. Un monde de pure prévention technique est un monde sans sujets moraux. Or, comme le rappellent Rouvroy et Berns, sans cet espace, c’est la possibilité même de la subjectivation politique qui s’efface et avec elle, paradoxalement, toute critique du système. Big Brother et George Orwell ne sont plus très loin…
Enfin, une raison d’efficacité réflexive. Les dispositifs techniques sont faillibles, biaisés, contournables, et leurs erreurs se diffusent à grande échelle. La norme, parce qu’elle s’applique à des cas concrets via le jugement, conserve une plasticité que le code ne possède pas. Réserver à la loi le rôle de fixer ce qui doit être interdit, et au dispositif celui de rendre cette interdiction matériellement effective lorsque les asymétries d’échelle l’exigent, permet de cumuler les avantages des deux régimes sans en payer tous les coûts.
Cela ne signifie pas qu’il faille rejeter l’empêchement technique. Face au passage à l’échelle des systèmes d’IA, à la rapidité des traitements automatisés, à l’asymétrie d’information entre opérateurs et personnes concernées, l’interdiction seule serait souvent purement déclaratoire. Le RGPD et l’AI Act ont raison de combiner les deux registres. Mais l’ordre de priorité importe : le dispositif doit servir la norme, et non la remplacer. Concrètement, cela impose trois critères à tout empêchement by design :
1. Traçabilité juridique : le dispositif doit pouvoir être référé à une norme publique, débattue et amendable.
2. Contestabilité effective : la personne empêchée doit pouvoir comprendre qu’elle l’est, savoir pourquoi, et disposer d’un recours humain réel, au sens de l’article 22 du RGPD.
3. Réversibilité politique : aucun dispositif ne doit verrouiller à un degré tel qu’un changement démocratique de la règle deviendrait techniquement impraticable.
Sans ces garde-fous, l’empêchement par le code n’est pas le prolongement de l’État de droit : il en est la sortie silencieuse !b[
Abonnez-vous pour ne manquer aucun épisode du Podcast Decideo
Pour ne manquer aucun épisode du podcast Decideo, abonnez-vous, c'est gratuit !
- Sur Apple Podcast : https://podcasts.apple.com/es/podcast/decideo-data-science-big-data-intelligence-augment%C3%A9e/id1505073603
- Sur Podcast Addict : https://podcastaddict.com/podcast/decideo-data-science-big-data-intelligence-augmentee/4102946
- Sur Spotify : https://open.spotify.com/show/1Cs8jBS1PB7ehZU4s4EiyB?si=ec6b704dd15d4454
Ou sur votre plateforme de podcast préférée, cherchez "Decideo" !
- Sur Apple Podcast : https://podcasts.apple.com/es/podcast/decideo-data-science-big-data-intelligence-augment%C3%A9e/id1505073603
- Sur Podcast Addict : https://podcastaddict.com/podcast/decideo-data-science-big-data-intelligence-augmentee/4102946
- Sur Spotify : https://open.spotify.com/show/1Cs8jBS1PB7ehZU4s4EiyB?si=ec6b704dd15d4454
Ou sur votre plateforme de podcast préférée, cherchez "Decideo" !
Autres articles
-
Podcast : Découvrons le context engineering avec Dataloma
-
Podcast : Catalogue de données, LLM et MCP
-
Podcast : Un catalogue de données social et orienté utilisateurs
-
Podcast : IA, RH et données, avec José Rodriguez, Cornerstone
-
Podcast : Les agriculteurs dépossédés de leurs données, avec Caroline Gans Combe
