Bagaimana "AI-tocracy" muncul | Berita MIT

Ramai cendekiawan, penganalisis, dan pemerhati lain telah mencadangkan bahawa penentangan terhadap inovasi adalah tumit Achilles 'rejim autoritarian. Kerajaan sedemikian boleh gagal untuk mengikuti perubahan teknologi yang membantu lawan mereka; mereka juga boleh, dengan menyekat hak, menghalang aktiviti ekonomi inovatif dan melemahkan keadaan jangka panjang negara.

Tetapi kajian baru yang diketuai oleh seorang profesor MIT mencadangkan sesuatu yang agak berbeza. Di China, penyelidikan mendapati, kerajaan telah semakin menggunakan teknologi pengecaman muka dipacu AI untuk mengatasi perbezaan pendapat; telah berjaya mengehadkan bantahan; dan dalam proses itu, telah mendorong pembangunan alat pengecaman muka berasaskan AI yang lebih baik dan bentuk perisian lain.

"Apa yang kami temui ialah di wilayah China di mana terdapat lebih banyak pergolakan, yang membawa kepada perolehan AI pengecaman muka kerajaan yang lebih besar, seterusnya, oleh unit kerajaan tempatan seperti jabatan polis perbandaran," kata ahli ekonomi MIT Martin Beraja, yang bersama -pengarang kertas baru yang memperincikan penemuan.

Apa yang berikut, seperti yang dinyatakan dalam kertas itu, ialah "inovasi AI mengukuhkan rejim, dan pelaburan rejim dalam AI untuk kawalan politik merangsang inovasi sempadan selanjutnya."

Para sarjana memanggil keadaan ini sebagai "AI-tocracy", menggambarkan kitaran yang berkaitan di mana peningkatan penggunaan teknologi dipacu AI memadamkan perbezaan pendapat sambil juga meningkatkan kapasiti inovasi negara.

Kertas akses terbuka, juga dipanggil "AI-tocracy,” muncul dalam edisi Ogos Jurnal Ekonomi Suku Tahun. Pengarang bersama ialah Beraja, yang merupakan Profesor Madya Pembangunan Kerjaya Pentti Kouri di MIT; Andrew Kao, calon kedoktoran dalam bidang ekonomi di Universiti Harvard; David Yang, seorang profesor ekonomi di Harvard; dan Noam Yuchtman, seorang profesor pengurusan di London School of Economics.

Untuk menjalankan kajian, para sarjana menggunakan pelbagai jenis bukti yang merangkumi sebahagian besar dekad yang lalu. Untuk mengkatalog kejadian pergolakan politik di China, mereka menggunakan data daripada Projek Pangkalan Data Peristiwa, Bahasa dan Nada Global (GDELT), yang merekodkan suapan berita secara global. Pasukan itu menemui 9,267 insiden pergolakan antara 2014 dan 2020.

Para penyelidik kemudian memeriksa rekod hampir 3 juta kontrak perolehan yang dikeluarkan oleh kerajaan China antara 2013 dan 2019, daripada pangkalan data yang diselenggara oleh Kementerian Kewangan China. Mereka mendapati bahawa perolehan kerajaan tempatan bagi perkhidmatan AI pengecaman muka dan alat keselamatan awam yang pelengkap — kamera video resolusi tinggi — melonjak dengan ketara pada suku tersebut berikutan episod pergolakan awam di kawasan itu.

Memandangkan pegawai kerajaan China dengan jelas bertindak balas terhadap aktiviti perbezaan pendapat orang ramai dengan meningkatkan teknologi pengecaman muka, para penyelidik kemudian meneliti soalan susulan: Adakah pendekatan ini berfungsi untuk menyekat perbezaan pendapat?

Para sarjana percaya bahawa ia berlaku, walaupun seperti yang mereka perhatikan dalam kertas itu, mereka "tidak dapat menganggarkan secara langsung kesan" teknologi itu terhadap pergolakan politik. Tetapi sebagai salah satu cara untuk menjawab soalan itu, mereka mengkaji hubungan antara cuaca dan pergolakan politik di kawasan yang berbeza di China. Keadaan cuaca tertentu adalah kondusif kepada pergolakan politik. Tetapi di wilayah di China yang telah melabur banyak dalam teknologi pengecaman muka, keadaan cuaca seperti itu kurang kondusif untuk pergolakan berbanding wilayah yang tidak membuat pelaburan yang sama.

Dengan berbuat demikian, para penyelidik juga mengambil kira isu seperti sama ada tahap kekayaan relatif yang lebih besar di beberapa kawasan mungkin telah menghasilkan pelaburan yang lebih besar dalam teknologi dipacu AI tanpa mengira corak bantahan. Walau bagaimanapun, para sarjana masih mencapai kesimpulan yang sama: Teknologi pengecaman muka sedang digunakan sebagai tindak balas kepada bantahan lalu, dan kemudian mengurangkan tahap bantahan selanjutnya.

"Ia menunjukkan bahawa teknologi itu berkesan dalam meredakan pergolakan," kata Beraja.

Akhirnya, pasukan penyelidik mengkaji kesan peningkatan permintaan AI ke atas sektor teknologi China dan mendapati penggunaan alat pengecaman muka kerajaan yang lebih meluas nampaknya memacu sektor teknologi negara itu ke hadapan. Sebagai contoh, firma yang diberikan kontrak perolehan untuk teknologi pengecaman muka kemudiannya menghasilkan kira-kira 49 peratus lebih banyak produk perisian dalam tempoh dua tahun selepas mendapat kontrak kerajaan daripada yang mereka miliki sebelum ini.

"Kami memeriksa sama ada ini membawa kepada inovasi yang lebih besar oleh firma AI pengecaman muka, dan sememangnya ia berlaku," kata Beraja.

Data sedemikian — daripada Kementerian Perindustrian dan Teknologi Maklumat China — juga menunjukkan bahawa alat dipacu AI tidak semestinya "menyesakkan" jenis inovasi teknologi tinggi yang lain.

Menambah semuanya, kes China menunjukkan bagaimana kerajaan autokratik berpotensi mencapai keadaan hampir keseimbangan di mana kuasa politik mereka dipertingkatkan, dan bukannya dinaikkan, apabila mereka memanfaatkan kemajuan teknologi.

"Dalam zaman AI ini, apabila teknologi bukan sahaja menjana pertumbuhan tetapi juga teknologi penindasan, ia boleh menjadi sangat berguna" kepada rejim autoritarian, kata Beraja.

Penemuan ini juga membawa kepada persoalan yang lebih besar tentang bentuk kerajaan dan pertumbuhan ekonomi. Satu badan penyelidikan ilmiah yang penting menunjukkan bahawa institusi demokrasi yang memberi hak menjana pertumbuhan ekonomi yang lebih besar dari semasa ke semasa, sebahagiannya dengan mewujudkan keadaan yang lebih baik untuk inovasi teknologi. Beraja menyatakan bahawa kajian semasa tidak bercanggah dengan penemuan terdahulu tersebut, tetapi dalam mengkaji kesan AI yang digunakan, ia mengenal pasti satu jalan yang melaluinya kerajaan autoritarian boleh menjana lebih banyak pertumbuhan daripada yang sepatutnya mereka lakukan.

"Ini mungkin membawa kepada kes di mana lebih banyak institusi autokratik berkembang seiring dengan pertumbuhan," tambah Beraja.

Pakar lain dalam aplikasi kemasyarakatan AI berkata kertas itu memberi sumbangan berharga kepada bidang itu.

"Ini adalah kertas kerja yang sangat baik dan penting yang meningkatkan pemahaman kita tentang interaksi antara teknologi, kejayaan ekonomi dan kuasa politik," kata Avi Goldfarb, Pengerusi Rotman dalam Kecerdasan Buatan dan Penjagaan Kesihatan dan seorang profesor pemasaran di Sekolah Pengurusan Rotman di Universiti Toronto. “Kertas itu mendokumenkan gelung maklum balas positif antara penggunaan teknologi pengecaman muka AI untuk memantau menyekat pergolakan tempatan di China dan pembangunan serta latihan model AI. Makalah ini merintis penyelidikan dalam AI dan ekonomi politik. Apabila AI meresap, saya menjangkakan bidang penyelidikan ini akan berkembang dengan kepentingannya.”

Bagi pihak mereka, para ulama terus mengusahakan aspek berkaitan isu ini. Satu kertas kerja mereka yang akan datang meneliti sejauh mana China mengeksport teknologi pengecaman muka termaju ke seluruh dunia — menonjolkan mekanisme yang melaluinya penindasan kerajaan boleh berkembang secara global.

Sokongan untuk penyelidikan itu disediakan sebahagiannya oleh Program Fellowship Penyelidikan Siswazah Yayasan Sains Kebangsaan AS; Inisiatif Sains Data Harvard; dan program Profesor Global Akademi British.