Come emerge una “tocrazia basata sull’intelligenza artificiale” | Notizie del MIT

Molti studiosi, analisti e altri osservatori hanno suggerito che la resistenza all’innovazione è il tallone d’Achille dei regimi autoritari. Tali governi possono non riuscire a tenere il passo con i cambiamenti tecnologici che aiutano i loro avversari; potrebbero anche, soffocando i diritti, inibire l’attività economica innovativa e indebolire la condizione a lungo termine del paese.

Ma un nuovo studio condotto in collaborazione da un professore del MIT suggerisce qualcosa di completamente diverso. In Cina, secondo la ricerca, il governo ha utilizzato sempre più la tecnologia di riconoscimento facciale basata sull’intelligenza artificiale per reprimere il dissenso; è riuscito a limitare la protesta; e, nel processo, ha stimolato lo sviluppo di migliori strumenti di riconoscimento facciale basati sull’intelligenza artificiale e altre forme di software.

“Quello che abbiamo scoperto è che nelle regioni della Cina dove ci sono più disordini, ciò porta a maggiori appalti governativi per l’intelligenza artificiale per il riconoscimento facciale, successivamente, da parte di unità governative locali come i dipartimenti di polizia municipale”, afferma l’economista del MIT Martin Beraja, co-autore. -autore di un nuovo articolo che descrive in dettaglio i risultati.

Ciò che segue, come osserva il documento, è che “l’innovazione dell’intelligenza artificiale rafforza il regime, e gli investimenti del regime nell’intelligenza artificiale per il controllo politico stimolano un’ulteriore innovazione di frontiera”.

Gli studiosi chiamano questo stato di cose una “tocrazia dell’intelligenza artificiale”, descrivendo il ciclo connesso in cui una maggiore diffusione della tecnologia basata sull’intelligenza artificiale reprime il dissenso, aumentando allo stesso tempo la capacità di innovazione del paese.

Il documento ad accesso aperto, chiamato anche “Tocrazia dell’intelligenza artificiale”, appare nel numero di agosto del Giornale trimestrale di economia. I coautori sono Beraja, professore associato di economia Pentti Kouri Career Development al MIT; Andrew Kao, dottorando in economia all'Università di Harvard; David Yang, professore di economia ad Harvard; e Noam Yuchtman, professore di management alla London School of Economics.

Per condurre lo studio, gli studiosi hanno attinto a molteplici tipi di prove che abbracciano gran parte dell’ultimo decennio. Per catalogare i casi di disordini politici in Cina, hanno utilizzato i dati del progetto Global Database of Events, Language, and Tone (GDELT), che registra i feed di notizie a livello globale. Il team ha riscontrato 9.267 episodi di disordini tra il 2014 e il 2020.

I ricercatori hanno poi esaminato i registri di quasi 3 milioni di contratti di appalto emessi dal governo cinese tra il 2013 e il 2019, da un database gestito dal Ministero delle Finanze cinese. Hanno scoperto che gli appalti da parte dei governi locali di servizi di intelligenza artificiale per il riconoscimento facciale e strumenti complementari di pubblica sicurezza – videocamere ad alta risoluzione – sono aumentati in modo significativo nel trimestre a seguito di un episodio di disordini pubblici in quella zona.

Dato che i funzionari del governo cinese stavano chiaramente rispondendo alle attività di dissenso pubblico intensificando la tecnologia di riconoscimento facciale, i ricercatori hanno quindi esaminato una domanda di follow-up: questo approccio ha funzionato per sopprimere il dissenso?

Gli studiosi ritengono di sì, anche se, come notano nel documento, “non possono stimare direttamente l’effetto” della tecnologia sui disordini politici. Ma per rispondere a questa domanda, hanno studiato la relazione tra il clima e i disordini politici in diverse aree della Cina. Alcune condizioni meteorologiche favoriscono disordini politici. Ma nelle prefetture cinesi che avevano già investito molto nella tecnologia di riconoscimento facciale, tali condizioni meteorologiche sono meno favorevoli ai disordini rispetto alle prefetture che non avevano fatto gli stessi investimenti.

In tal modo, i ricercatori hanno anche tenuto conto di questioni quali se maggiori livelli di ricchezza relativa in alcune aree avrebbero potuto o meno produrre maggiori investimenti nelle tecnologie basate sull’intelligenza artificiale, indipendentemente dai modelli di protesta. Tuttavia, gli studiosi sono comunque giunti alla stessa conclusione: la tecnologia di riconoscimento facciale veniva utilizzata in risposta alle proteste passate, riducendo quindi ulteriori livelli di protesta.

“Ciò suggerisce che la tecnologia è efficace nel calmare i disordini”, afferma Beraja.

Infine, il gruppo di ricerca ha studiato gli effetti dell’aumento della domanda di intelligenza artificiale sul settore tecnologico cinese e ha scoperto che il maggiore utilizzo da parte del governo di strumenti di riconoscimento facciale sembra stia spingendo avanti il settore tecnologico del paese. Ad esempio, le aziende a cui vengono assegnati contratti di appalto per tecnologie di riconoscimento facciale successivamente producono circa il 49% in più di prodotti software nei due anni successivi all’ottenimento del contratto governativo rispetto a prima.

"Esaminiamo se questo porta a una maggiore innovazione da parte delle aziende di intelligenza artificiale di riconoscimento facciale, e in effetti è così", afferma Beraja.

Tali dati – provenienti dal Ministero cinese dell’Industria e dell’Information Technology – indicano anche che gli strumenti basati sull’intelligenza artificiale non stanno necessariamente “spiazzando” altri tipi di innovazione high-tech.

Sommando tutto, il caso della Cina indica come i governi autocratici possano potenzialmente raggiungere uno stato di quasi equilibrio in cui il loro potere politico viene rafforzato, anziché ribaltato, quando sfruttano i progressi tecnologici.

“In quest’era di intelligenza artificiale, quando le tecnologie non solo generano crescita ma sono anche tecnologie di repressione, possono essere molto utili” ai regimi autoritari, afferma Beraja.

La scoperta riguarda anche questioni più ampie relative alle forme di governo e alla crescita economica. Un significativo corpus di ricerche accademiche mostra che le istituzioni democratiche che garantiscono i diritti generano effettivamente una maggiore crescita economica nel tempo, in parte creando condizioni migliori per l’innovazione tecnologica. Beraja osserva che lo studio attuale non contraddice i risultati precedenti, ma esaminando gli effetti dell’intelligenza artificiale in uso, identifica una strada attraverso la quale i governi autoritari possono generare una crescita maggiore di quella che avrebbero altrimenti.

“Ciò potrebbe portare a casi in cui istituzioni più autocratiche si sviluppano parallelamente alla crescita”, aggiunge Beraja.

Altri esperti nelle applicazioni sociali dell’intelligenza artificiale affermano che il documento fornisce un prezioso contributo in questo campo.

"Si tratta di un documento eccellente e importante che migliora la nostra comprensione dell'interazione tra tecnologia, successo economico e potere politico", afferma Avi Goldfarb, Rotman Chair in Intelligenza Artificiale e Sanità e professore di marketing presso la Rotman School of Management dell'Università di Washington. l'Università di Toronto. “Il documento documenta un circolo vizioso tra l’uso della tecnologia di riconoscimento facciale dell’intelligenza artificiale per monitorare e reprimere i disordini locali in Cina e lo sviluppo e la formazione di modelli di intelligenza artificiale. Questo articolo rappresenta una ricerca pionieristica nel campo dell’intelligenza artificiale e dell’economia politica. Con la diffusione dell’intelligenza artificiale, mi aspetto che quest’area di ricerca cresca di importanza”.

Da parte loro, gli studiosi continuano a lavorare sugli aspetti correlati di questa questione. Uno dei loro articoli di prossima pubblicazione esamina la misura in cui la Cina sta esportando tecnologie avanzate di riconoscimento facciale in tutto il mondo, evidenziando un meccanismo attraverso il quale la repressione governativa potrebbe crescere a livello globale.

Il sostegno alla ricerca è stato fornito in parte dal Graduate Research Fellowship Program della National Science Foundation statunitense; l'iniziativa sulla scienza dei dati di Harvard; e il programma Global Professorships della British Academy.