Cómo surge una “IA-tocracia” | Noticias del MIT

Muchos académicos, analistas y otros observadores han sugerido que la resistencia a la innovación es el talón de Aquiles de los regímenes autoritarios. Estos gobiernos pueden no mantenerse al día con los cambios tecnológicos que ayudan a sus oponentes; también pueden, al sofocar los derechos, inhibir la actividad económica innovadora y debilitar la condición a largo plazo del país.

Pero un nuevo estudio codirigido por un profesor del MIT sugiere algo bastante diferente. En China, según la investigación, el gobierno ha implementado cada vez más tecnología de reconocimiento facial impulsada por inteligencia artificial para reprimir la disidencia; ha logrado limitar las protestas; y en el proceso, ha estimulado el desarrollo de mejores herramientas de reconocimiento facial basadas en inteligencia artificial y otras formas de software.

"Lo que encontramos es que en las regiones de China donde hay más disturbios, eso conduce a una mayor adquisición gubernamental de IA de reconocimiento facial, posteriormente, por parte de unidades gubernamentales locales como los departamentos de policía municipales", dice el economista del MIT Martin Beraja, quien es co -autor de un nuevo artículo que detalla los hallazgos.

Lo que sigue, como señala el artículo, es que “la innovación en IA afianza al régimen, y la inversión del régimen en IA para el control político estimula una mayor innovación de frontera”.

Los académicos llaman a esta situación una “IA-tocracia”, que describe el ciclo conectado en el que un mayor despliegue de la tecnología impulsada por la IA sofoca la disidencia y al mismo tiempo impulsa la capacidad de innovación del país.

El documento de acceso abierto, también llamado “IA-tocracia”, aparece en la edición de agosto de la Revista trimestral de economía. Los coautores son Beraja, profesor asociado de economía de desarrollo profesional Pentti Kouri en el MIT; Andrew Kao, candidato a doctorado en economía de la Universidad de Harvard; David Yang, profesor de economía de Harvard; y Noam Yuchtman, profesor de gestión en la London School of Economics.

Para realizar el estudio, los académicos se basaron en múltiples tipos de evidencia que abarcan gran parte de la última década. Para catalogar los casos de malestar político en China, utilizaron datos del Proyecto de Base de Datos Global de Eventos, Lenguaje y Tono (GDELT), que registra noticias a nivel mundial. El equipo detectó 9.267 incidentes de disturbios entre 2014 y 2020.

Luego, los investigadores examinaron los registros de casi 3 millones de contratos públicos emitidos por el gobierno chino entre 2013 y 2019, a partir de una base de datos mantenida por el Ministerio de Finanzas de China. Descubrieron que la adquisición por parte de los gobiernos locales de servicios de inteligencia artificial de reconocimiento facial y herramientas complementarias de seguridad pública (cámaras de video de alta resolución) aumentó significativamente en el trimestre posterior a un episodio de malestar público en esa área.

Dado que los funcionarios del gobierno chino estaban respondiendo claramente a las actividades públicas de disidencia intensificando la tecnología de reconocimiento facial, los investigadores examinaron una pregunta de seguimiento: ¿Funcionó este enfoque para suprimir la disidencia?

Los académicos creen que sí, aunque, como señalan en el artículo, “no pueden estimar directamente el efecto” de la tecnología sobre el malestar político. Pero como una forma de abordar esa pregunta, estudiaron la relación entre el clima y el malestar político en diferentes áreas de China. Ciertas condiciones climáticas favorecen el malestar político. Pero en las prefecturas de China que ya habían invertido mucho en tecnología de reconocimiento facial, esas condiciones climáticas son menos propicias para el malestar en comparación con las prefecturas que no habían hecho las mismas inversiones.

Al hacerlo, los investigadores también tuvieron en cuenta cuestiones como si mayores niveles de riqueza relativa en algunas áreas podrían haber producido mayores inversiones en tecnologías impulsadas por la IA, independientemente de los patrones de protesta. Sin embargo, los académicos llegaron a la misma conclusión: la tecnología de reconocimiento facial se estaba implementando en respuesta a protestas pasadas y luego reduciendo aún más los niveles de protesta.

"Esto sugiere que la tecnología es eficaz para calmar el malestar", dice Beraja.

Finalmente, el equipo de investigación estudió los efectos del aumento de la demanda de IA en el sector tecnológico de China y descubrió que el mayor uso de herramientas de reconocimiento facial por parte del gobierno parece estar impulsando el avance del sector tecnológico del país. Por ejemplo, las empresas a las que se les conceden contratos de adquisición de tecnologías de reconocimiento facial posteriormente producen aproximadamente un 49 por ciento más de productos de software en los dos años posteriores a la obtención del contrato gubernamental que los que habían producido antes.

"Examinamos si esto conduce a una mayor innovación por parte de las empresas de inteligencia artificial de reconocimiento facial, y de hecho así es", afirma Beraja.

Estos datos (del Ministerio de Industria y Tecnología de la Información de China) también indican que las herramientas impulsadas por la IA no necesariamente están "desplazando" otros tipos de innovación de alta tecnología.

En conjunto, el caso de China indica cómo los gobiernos autocráticos pueden alcanzar potencialmente un estado cercano al equilibrio en el que su poder político se fortalece, en lugar de verse alterado, cuando aprovechan los avances tecnológicos.

"En esta era de la IA, cuando las tecnologías no sólo generan crecimiento sino que también son tecnologías de represión, pueden ser muy útiles" para los regímenes autoritarios, afirma Beraja.

El hallazgo también se refiere a cuestiones más amplias sobre las formas de gobierno y el crecimiento económico. Un importante conjunto de investigaciones académicas muestra que las instituciones democráticas que otorgan derechos generan un mayor crecimiento económico con el tiempo, en parte al crear mejores condiciones para la innovación tecnológica. Beraja señala que el estudio actual no contradice esos hallazgos anteriores, pero al examinar los efectos de la IA en uso, identifica una vía a través de la cual los gobiernos autoritarios pueden generar más crecimiento del que habrían generado de otra manera.

“Esto puede conducir a casos en los que instituciones más autocráticas se desarrollen junto con el crecimiento”, añade Beraja.

Otros expertos en las aplicaciones sociales de la IA dicen que el artículo hace una valiosa contribución al campo.

"Este es un artículo excelente e importante que mejora nuestra comprensión de la interacción entre tecnología, éxito económico y poder político", dice Avi Goldfarb, catedrático Rotman de Inteligencia Artificial y Atención Médica y profesor de marketing en la Escuela de Administración Rotman de la Universidad de Toronto. “El documento documenta un ciclo de retroalimentación positiva entre el uso de tecnología de reconocimiento facial de IA para monitorear la represión de los disturbios locales en China y el desarrollo y entrenamiento de modelos de IA. Este artículo es una investigación pionera en IA y economía política. A medida que la IA se difunda, espero que esta área de investigación crezca en importancia”.

Por su parte, los académicos continúan trabajando en aspectos relacionados con este tema. Un artículo suyo de próxima publicación examina hasta qué punto China está exportando tecnologías avanzadas de reconocimiento facial a todo el mundo, destacando un mecanismo a través del cual la represión gubernamental podría crecer a nivel mundial.

El apoyo a la investigación fue proporcionado en parte por el Programa de becas de investigación para graduados de la Fundación Nacional de Ciencias de EE. UU.; la Iniciativa de Ciencia de Datos de Harvard; y el programa de Cátedras Globales de la Academia Británica.