Jak vzniká „AI-tokracie“ | Zprávy MIT

Mnoho učenců, analytiků a dalších pozorovatelů tvrdilo, že odpor vůči inovacím je Achillovou patou autoritářských režimů. Takové vlády nemusí držet krok s technologickými změnami, které pomáhají jejich odpůrcům; mohou také potlačováním práv brzdit inovační ekonomickou aktivitu a oslabovat dlouhodobou kondici země.

Nová studie pod vedením profesora MIT však naznačuje něco docela jiného. Výzkum zjistil, že v Číně vláda stále více nasazuje technologii rozpoznávání obličeje řízenou umělou inteligencí, aby potlačila nesouhlas; byl úspěšný při omezení protestů; a v tomto procesu podnítil vývoj lepších nástrojů pro rozpoznávání obličeje založených na umělé inteligenci a dalších forem softwaru.

„Zjistili jsme, že v oblastech Číny, kde panuje větší nepokoj, to vede k většímu zadávání vládních zakázek na umělou inteligenci rozpoznávající obličej, následně místními vládními jednotkami, jako jsou oddělení městské policie,“ říká ekonom MIT Martin Beraja, který je spolupracovníkem. -autor nového článku, který podrobně popisuje zjištění.

Co následuje, jak dokument poznamenává, je, že „inovace AI zakotvují režim a investice režimu do AI za účelem politické kontroly stimulují další hraniční inovace.“

Vědci nazývají tento stav „AI-tokracie“, popisující propojený cyklus, ve kterém zvýšené nasazení technologie řízené AI potlačuje nesouhlas a zároveň posiluje inovační kapacitu země.

Papír s otevřeným přístupem, nazývaný také „AI-tokracie“ se objeví v srpnovém vydání Čtvrtletní ekonomický časopis. Spoluautory jsou Beraja, který je docentem ekonomie Pentti Kouri pro rozvoj kariéry na MIT; Andrew Kao, doktorand v oboru ekonomie na Harvardské univerzitě; David Yang, profesor ekonomie na Harvardu; a Noam Yuchtman, profesor managementu na London School of Economics.

Při provádění studie učenci vycházeli z mnoha druhů důkazů, které pokrývají většinu posledního desetiletí. Ke katalogizaci případů politických nepokojů v Číně použili data z projektu Global Database of Events, Language and Tone (GDELT), který zaznamenává zpravodajské kanály po celém světě. Tým zaznamenal v letech 2014 až 2020 9 267 případů nepokojů.

Výzkumníci poté prozkoumali záznamy o téměř 3 milionech veřejných zakázek vydaných čínskou vládou v letech 2013 až 2019 z databáze spravované čínským ministerstvem financí. Zjistili, že zakázky místních vlád na služby umělé inteligence pro rozpoznávání obličeje a doplňkové nástroje veřejné bezpečnosti – videokamery s vysokým rozlišením – ve čtvrtletí výrazně vzrostly po epizodě veřejných nepokojů v této oblasti.

Vzhledem k tomu, že čínští vládní úředníci jasně reagovali na aktivity veřejného nesouhlasu tím, že zavedli technologii rozpoznávání obličeje, výzkumníci poté zkoumali následnou otázku: Pomohl tento přístup k potlačení nesouhlasu?

Vědci se domnívají, že ano, ačkoli jak poznamenávají v článku, „nemohou přímo odhadnout účinek“ technologie na politické nepokoje. Ale jako jeden způsob, jak se k této otázce dostat, studovali vztah mezi počasím a politickými nepokoji v různých oblastech Číny. Určité povětrnostní podmínky vedou k politickým nepokojům. Ale v prefekturách v Číně, které již hodně investovaly do technologie rozpoznávání obličeje, takové povětrnostní podmínky méně napomáhají nepokojům ve srovnání s prefekturami, které stejné investice neinvestovaly.

Výzkumníci přitom zohlednili také problémy, jako je, zda vyšší relativní úrovně bohatství v některých oblastech mohly vést k větším investicím do technologií řízených umělou inteligencí bez ohledu na vzory protestů. Vědci však stále dospěli ke stejnému závěru: technologie rozpoznávání obličeje byla nasazena v reakci na minulé protesty a poté se snížila další úroveň protestů.

"Naznačuje to, že technologie je účinná při zmírňování nepokojů," říká Beraja.

Nakonec výzkumný tým studoval účinky zvýšené poptávky po AI na čínský technologický sektor a zjistil, že větší využívání nástrojů pro rozpoznávání obličeje ze strany vlády pohání technologický sektor v zemi kupředu. Například firmy, které dostanou zakázky na technologie rozpoznávání obličeje, následně během dvou let po získání vládní zakázky vyrobí o 49 procent více softwarových produktů, než měly předtím.

„Zkoumáme, zda to vede k větším inovacím ze strany firem zabývajících se umělou inteligencí rozpoznávající obličej, a skutečně to tak je,“ říká Beraja.

Tyto údaje – od čínského ministerstva průmyslu a informačních technologií – také naznačují, že nástroje řízené umělou inteligencí nemusí nutně „vytlačovat“ jiné druhy high-tech inovací.

Když to všechno sečteme, případ Číny ukazuje, jak mohou autokratické vlády potenciálně dosáhnout téměř rovnovážného stavu, ve kterém je jejich politická moc posílena, nikoli převrácena, když využívají technologický pokrok.

„V tomto věku umělé inteligence, kdy technologie nejen generují růst, ale jsou také technologiemi represe, mohou být velmi užitečné“ pro autoritářské režimy, říká Beraja.

Zjištění také souvisí s většími otázkami ohledně forem vlády a ekonomického růstu. Významný soubor vědeckých výzkumů ukazuje, že demokratické instituce udělující práva generují v průběhu času větší hospodářský růst, částečně vytvářením lepších podmínek pro technologické inovace. Beraja poznamenává, že současná studie není v rozporu s těmito dřívějšími zjištěními, ale při zkoumání účinků používané umělé inteligence identifikuje jednu cestu, jejímž prostřednictvím mohou autoritářské vlády generovat větší růst, než by jinak měly.

„To může vést k případům, kdy se vedle růstu vyvíjejí autokratičtější instituce,“ dodává Beraja.

Jiní odborníci na společenské aplikace umělé inteligence tvrdí, že tento článek je cenným příspěvkem v této oblasti.

„Toto je vynikající a důležitý dokument, který zlepšuje naše chápání interakce mezi technologií, ekonomickým úspěchem a politickou mocí,“ říká Avi Goldfarb, Rotman Chair in Artificial Intelligence and Healthcare a profesor marketingu na Rotman School of Management na univerzitě v Torontu. „Příspěvek dokumentuje pozitivní zpětnou vazbu mezi používáním technologie AI pro rozpoznávání obličeje k monitorování potlačení místních nepokojů v Číně a vývojem a školením modelů AI. Tento článek je průkopnickým výzkumem v oblasti umělé inteligence a politické ekonomie. Jak se AI rozšíří, očekávám, že tato oblast výzkumu poroste na významu.“

Vědci ze své strany pokračují v práci na souvisejících aspektech této problematiky. Jeden jejich připravovaný dokument zkoumá, do jaké míry Čína vyváží pokročilé technologie rozpoznávání obličeje po celém světě – a zdůrazňuje mechanismus, jehož prostřednictvím by vládní represe mohla celosvětově narůstat.

Podpora výzkumu byla zčásti poskytnuta programem stipendijního programu pro postgraduální výzkum americké National Science Foundation; Harvard Data Science Initiative; a program Global Professorships Britské akademie.