La incorporación de la inteligencia artificial (IA) en el ámbito público mexicano ha aumentado considerablemente en tiempos recientes. No obstante, este progreso tecnológico ha sido acompañado por inquietudes acerca de la transparencia y la responsabilidad en su aplicación por las entidades gubernamentales.
Situación actual de la IA en el ámbito público mexicano
Panorama actual de la IA en el sector público mexicano
Retos en la transparencia y acceso a la información
Con el propósito de impulsar la transparencia, académicos del CIDE han creado un registro de algoritmos empleados por el sector público en México. Este esfuerzo tiene como objetivo documentar las aplicaciones de IA en diversas instituciones y subrayar los obstáculos para acceder a información esencial sobre su uso, regulación y fines. Durante el proceso de obtención de datos, se enviaron cerca de 2,200 solicitudes de transparencia a entidades gubernamentales. Sin embargo, muchas dependencias mostraron reticencia a la hora de proveer información o respondieron de forma ambigua. En ciertas ocasiones, las instituciones solo admitieron el uso de IA tras interponer recursos de revisión ante los entes de transparencia. Estados como el Estado de México y Nayarit se destacaron por su falta de respuesta generalizada.
Mala información y falta de entendimiento sobre la IA
Otro inconveniente detectado es el desconocimiento existente dentro de las mismas instituciones acerca de qué califica como una aplicación de IA. En numerosas respuestas a solicitudes de transparencia, las dependencias mencionaron herramientas de software convencional, como paquetes de oficina o sistemas de ciberseguridad, como si fueran inteligencia artificial. En total, 223 aplicaciones reportadas no cumplían con los requisitos fundamentales para ser clasificadas como IA, lo que evidencia un problema de desinformación incluso en las áreas de tecnología de la información del gobierno.
Aspectos éticos y peligros relacionados con el uso de la IA
El empleo de IA en el ámbito público también ha suscitado debates éticos sobre privacidad, transparencia, responsabilidad y el derecho al acceso a la información. La falta de claridad en los algoritmos puede minar la confianza de la población en estas herramientas, particularmente si no se conocen los criterios que guían su funcionamiento o si presentan sesgos que podrían desembocar en decisiones discriminatorias. Por ejemplo, durante la pandemia de COVID-19, se pusieron en marcha chatbots como «Susana Distancia» y «Dr. Armando Vaccuno» para orientar a la ciudadanía. No obstante, surgieron inquietudes éticas respecto a la transparencia y privacidad en su utilización, lo que resultó en una disminución de la confianza y uso por parte del público.
Urgencia de un marco regulatorio apropiado
Necesidad de un marco regulatorio adecuado
La falta de transparencia en el uso de IA por parte de los gobiernos resalta la necesidad de establecer marcos regulatorios que garanticen la auditabilidad y responsabilidad en el uso de estas tecnologías. Es esencial analizar las legislaciones en diferentes ámbitos e identificar cómo podrían ser utilizadas adecuadamente para garantizar que la implementación de IA respete los derechos de la ciudadanía y opere de manera ética y transparente.
