Ce que l'IA fait de nous · Pouvoir et gouvernance de l'IA

Chapitre huit · Le pouvoir

Qui règle le thermostat ?

Le vrai pouvoir, à l'ère des systèmes qui médiatisent notre rapport au réel, ne consiste plus à donner des ordres. Il consiste à définir les réglages par défaut d'une civilisation. C'est le thermostat, pas le poing.

De la guerre de l'attention à l'infrastructure du réel

En 2017, le dirigeant de Netflix expliquait publiquement que son concurrent était le sommeil. Un an plus tôt, le fondateur de Spotify décrivait l'ambition de mettre en musique chaque moment d'une vie. La conquête portait alors sur nos limites biologiques : le sommeil, le silence, les temps morts.

Cette bataille est derrière nous. Les grands laboratoires ne se disputent plus votre temps d'écran, ils construisent la couche par laquelle vous traiterez l'information, rédigerez, chercherez, déciderez. Ce n'est plus un service, c'est une infrastructure.

Trois laboratoires, trois adversaires désignés

Chaque acteur majeur combat un ennemi différent, et cet ennemi révèle sa vision du monde. Le premier considère que le danger principal est l'opacité : des systèmes dont personne ne sait vraiment ce qu'ils font, d'où un effort concentré sur l'interprétabilité et l'encadrement du comportement des modèles. Le deuxième combat la rareté : rareté de l'intelligence disponible, de l'énergie, de la puissance de calcul, avec la promesse d'une abondance cognitive comparable à une utilité publique. Le troisième combat la fragmentation : l'information dispersée en silos, à réunifier dans des systèmes capables de traiter tous les formats, dans le prolongement d'une mission d'organisation du savoir mondial.

Aucune de ces trois visions n'est absurde. Aucune n'a été soumise au vote.

Un outil que tout le monde utilise et que presque personne ne peut fabriquer

C'est la situation inédite. Les semi-conducteurs de pointe, les centres de calcul et les laboratoires capables d'entraîner des modèles de frontière sont concentrés dans un très petit nombre de mains, réparties pour l'essentiel entre les États-Unis et la Chine. Dépendre d'une infrastructure que l'on ne peut ni auditer ni produire est une question de souveraineté avant d'être une question technique.

Le paradoxe européen, honnêtement posé

L'Europe a produit le cadre réglementaire le plus abouti au monde. L'AI Act pose des exigences réelles sur les usages à haut risque, la transparence et les droits des personnes : ce n'est pas rien, et l'effet d'entraînement normatif de Bruxelles est documenté depuis le règlement sur les données personnelles.

Le revers mérite d'être nommé avec la même franchise. Réguler une infrastructure que l'on n'héberge pas et que l'on ne fabrique pas revient à une demi-souveraineté : on écrit les règles d'un terrain qui appartient à d'autres. Et l'incertitude juridique, quand elle se prolonge, produit à l'échelle d'un continent le même effet qu'en comité de direction : la prudence devient de l'attentisme.

Le débat n'est pas tranché, et c'est précisément pour cela qu'il mérite d'être tenu en dehors des cercles d'initiés.

Questions fréquentes