Cómo el uso gubernamental de la IA podría dañar la democracia

Muchos países están explorando cómo la inteligencia artificial podría ayudar con todo, desde el procesamiento de impuestos hasta la determinación de los beneficios de bienestar. Pero una encuesta muestra que los ciudadanos no están tan entusiasmados como sus gobiernos, y esto puede crear riesgos reales para la democracia.

“Centrarse solo en las ganancias de eficiencia a corto plazo y la tecnología brillante corren el riesgo de provocar una reacción pública y contribuir a una disminución a largo plazo en la confianza democrática y la legitimidad”, dice Alexander Wuttke de la Universidad Ludwig Maximilian de Munich en Alemania.

Wuttke y sus colegas pidieron a alrededor de 1200 personas en el Reino Unido que compartieran sus sentimientos sobre acciones gubernamentales donde un humano o una IA manejaron la tarea. Estos escenarios hipotéticos incluyeron procesar declaraciones de impuestos, aprobar o rechazar las solicitudes de bienestar y realizar evaluaciones de riesgos sobre si los acusados deberían ser elegibles para la fianza.

A algunas personas solo se les informó sobre cómo la IA podía mejorar la eficiencia del gobierno, pero otras aprendieron tanto sobre los beneficios y los riesgos relacionados con la IA. Estos riesgos incluyeron dificultades para comprender cómo se toman las decisiones de IA, la creciente dependencia del gobierno de la IA que se vuelve menos reversible con el tiempo y la falta de caminos claros para que los ciudadanos impugnen y corrijan las decisiones de la IA.

Cuando las personas se dieron cuenta de los riesgos relacionados con la IA, informaron una disminución significativa en su confianza en el gobierno y una sensación de perder el control. Por ejemplo, el porcentaje de participantes que informaron la pérdida del control democrático en su gobierno aumentó del 45 por ciento a más del 81 por ciento en escenarios en los que el gobierno dependió cada vez más de la IA para manejar tareas específicas.

La proporción de personas que exigen menos IA en el gobierno también aumentó bruscamente una vez que los participantes aprendieron sobre los riesgos, aumentando de menos del 20 por ciento en el escenario de referencia a más del 65 por ciento en cualquier escenario en el que aprendieron tanto sobre los beneficios como los riesgos de la IA.

A pesar de estos resultados, los gobiernos democráticos podrían hacer uso de la IA de manera responsable que retenga la confianza de los ciudadanos, dice Hannah Quay-de La Vallee en el Centro de Democracia y Tecnología en Washington DC. Pero ella dice que hasta ahora hay pocas historias de éxito de IA en el gobierno. Mientras tanto, ya hay “bastantes casos de falla”, y las apuestas de estos casos pueden ser increíblemente altas.

Por ejemplo, los esfuerzos estatales de los Estados Unidos para automatizar el procesamiento de reclamos de beneficios públicos han llevado a decenas de miles de personas a que se les cobre erróneamente por fraude. Algunas de esas personas terminaron teniendo que declararse en bancarrota o perder sus hogares. “Los errores del gobierno tienen enormes impactos de largo alcance”, dice Quay-de La Vallee.