Comment émerge une « tocratie de l’IA » | Actualités du MIT

De nombreux chercheurs, analystes et autres observateurs ont suggéré que la résistance à l’innovation est le talon d’Achille des régimes autoritaires. De tels gouvernements peuvent échouer à suivre les changements technologiques qui aident leurs adversaires ; ils peuvent également, en étouffant les droits, entraver l’activité économique innovante et affaiblir la situation à long terme du pays.

Mais une nouvelle étude codirigée par un professeur du MIT suggère quelque chose de tout à fait différent. En Chine, selon l’étude, le gouvernement a de plus en plus déployé une technologie de reconnaissance faciale basée sur l’IA pour réprimer la dissidence ; a réussi à limiter les protestations ; et, ce faisant, a stimulé le développement de meilleurs outils de reconnaissance faciale basés sur l’IA et d’autres formes de logiciels.

"Ce que nous avons découvert, c'est que dans les régions de Chine où il y a plus de troubles, cela conduit à une augmentation des achats publics d'IA à reconnaissance faciale, par la suite par les unités gouvernementales locales telles que les services de police municipaux", explique Martin Beraja, économiste au MIT. -auteur d'un nouvel article détaillant les résultats.

Ce qui suit, comme le note le document, est que « l’innovation en matière d’IA renforce le régime, et l’investissement du régime dans l’IA à des fins de contrôle politique stimule davantage l’innovation de pointe ».

Les chercheurs appellent cet état de fait une « tocratie de l’IA », décrivant le cycle connecté dans lequel le déploiement accru de technologies basées sur l’IA réprime la dissidence tout en renforçant la capacité d’innovation du pays.

Le document en libre accès, également appelé «Tocratie de l'IA", paraît dans le numéro d'août du Journal trimestriel d'économie. Les co-auteurs sont Beraja, professeur agrégé d’économie Pentti Kouri en développement de carrière au MIT ; Andrew Kao, doctorant en économie à l'Université Harvard ; David Yang, professeur d'économie à Harvard ; et Noam Yuchtman, professeur de gestion à la London School of Economics.

Pour mener l’étude, les chercheurs se sont appuyés sur plusieurs types de preuves couvrant une grande partie de la dernière décennie. Pour cataloguer les cas de troubles politiques en Chine, ils ont utilisé les données du projet GDELT (Global Database of Events, Language, and Tone), qui enregistre les flux d’actualités dans le monde entier. L’équipe a identifié 9 267 incidents de troubles entre 2014 et 2020.

Les chercheurs ont ensuite examiné les dossiers de près de 3 millions de contrats d'achat émis par le gouvernement chinois entre 2013 et 2019, à partir d'une base de données gérée par le ministère chinois des Finances. Ils ont constaté que les achats par les gouvernements locaux de services d'IA de reconnaissance faciale et d'outils de sécurité publique complémentaires (caméras vidéo haute résolution) ont considérablement augmenté au cours du trimestre suite à un épisode de troubles publics dans cette région.

Étant donné que les responsables du gouvernement chinois répondaient clairement aux activités de dissidence publique en intensifiant la technologie de reconnaissance faciale, les chercheurs ont ensuite examiné une question complémentaire : cette approche a-t-elle fonctionné pour supprimer la dissidence ?

Les chercheurs pensent que c’est le cas, même si, comme ils le notent dans l’article, ils « ne peuvent pas estimer directement l’effet » de la technologie sur les troubles politiques. Mais pour répondre à cette question, ils ont étudié la relation entre les conditions météorologiques et les troubles politiques dans différentes régions de Chine. Certaines conditions météorologiques sont propices aux troubles politiques. Mais dans les préfectures chinoises qui ont déjà investi massivement dans la technologie de reconnaissance faciale, de telles conditions météorologiques sont moins propices aux troubles que dans les préfectures qui n'ont pas fait les mêmes investissements.

Ce faisant, les chercheurs ont également pris en compte des questions telles que la question de savoir si des niveaux de richesse relatifs plus élevés dans certains domaines auraient pu générer des investissements plus importants dans les technologies basées sur l’IA, indépendamment des schémas de protestation. Cependant, les chercheurs sont toujours parvenus à la même conclusion : la technologie de reconnaissance faciale a été déployée en réponse aux manifestations passées, réduisant ainsi le niveau des protestations.

«Cela suggère que la technologie est efficace pour dissuader les troubles», dit Beraja.

Enfin, l'équipe de recherche a étudié les effets de la demande accrue d'IA sur le secteur technologique chinois et a découvert que l'utilisation accrue par le gouvernement des outils de reconnaissance faciale semble faire progresser le secteur technologique du pays. Par exemple, les entreprises qui obtiennent des contrats d’achat pour des technologies de reconnaissance faciale produisent par la suite environ 49 % de produits logiciels de plus qu’auparavant au cours des deux années suivant l’obtention du contrat gouvernemental.

"Nous examinons si cela conduit à une plus grande innovation de la part des entreprises d'IA de reconnaissance faciale, et c'est effectivement le cas", déclare Beraja.

De telles données – fournies par le ministère chinois de l'Industrie et des Technologies de l'information – indiquent également que les outils basés sur l'IA n'évincent pas nécessairement d'autres types d'innovation de haute technologie.

En additionnant tout cela, le cas de la Chine montre comment les gouvernements autocratiques peuvent potentiellement atteindre un état proche de l’équilibre dans lequel leur pouvoir politique est renforcé, plutôt que bouleversé, lorsqu’ils exploitent les progrès technologiques.

« À l’ère de l’IA, où les technologies non seulement génèrent de la croissance mais sont aussi des technologies de répression, elles peuvent être très utiles » aux régimes autoritaires, dit Beraja.

Ces résultats portent également sur des questions plus vastes concernant les formes de gouvernement et la croissance économique. Un nombre important de recherches universitaires montrent que les institutions démocratiques qui accordent des droits génèrent effectivement une plus grande croissance économique au fil du temps, en partie en créant de meilleures conditions pour l’innovation technologique. Beraja note que la présente étude ne contredit pas ces conclusions antérieures, mais qu’en examinant les effets de l’utilisation de l’IA, elle identifie une voie par laquelle les gouvernements autoritaires peuvent générer plus de croissance qu’ils ne l’auraient fait autrement.

« Cela pourrait conduire à des cas où davantage d’institutions autocratiques se développeraient parallèlement à la croissance », ajoute Beraja.

D'autres experts dans les applications sociétales de l'IA affirment que le document apporte une contribution précieuse dans le domaine.

"Il s'agit d'un article excellent et important qui améliore notre compréhension de l'interaction entre la technologie, la réussite économique et le pouvoir politique", déclare Avi Goldfarb, titulaire de la chaire Rotman en intelligence artificielle et soins de santé et professeur de marketing à la Rotman School of Management de l'Université de Toronto. « Le document documente une boucle de rétroaction positive entre l’utilisation de la technologie de reconnaissance faciale de l’IA pour surveiller la répression des troubles locaux en Chine et le développement et la formation de modèles d’IA. Cet article est une recherche pionnière en matière d’IA et d’économie politique. À mesure que l’IA se diffuse, je m’attends à ce que ce domaine de recherche gagne en importance.

De leur côté, les chercheurs continuent de travailler sur des aspects connexes de cette question. L’un de leurs articles à paraître examine dans quelle mesure la Chine exporte des technologies avancées de reconnaissance faciale dans le monde entier – mettant en évidence un mécanisme par lequel la répression gouvernementale pourrait se développer à l’échelle mondiale.

Le soutien à la recherche a été fourni en partie par le programme de bourses de recherche pour diplômés de la National Science Foundation des États-Unis ; la Harvard Data Science Initiative; et le programme Global Professorships de la British Academy.