Apuntes para una posible regulación de la IA
Resumen:
Resultará familiar este escenario. En medio de una campaña electoral, se filtra un video o audio hiperrealista de la persona candidata puntera en las encuestas. Son su voz y su rostro, no hay dudas, pero dice cosas sorprendentes que podrían inclinar de forma definitiva la balanza a su favor. Aún no lo sabemos con certeza, pero sospechamos que se trata de un contenido manipulado digitalmente de cosas que en realidad nunca sucedieron. Esto no es nuevo, ocurre con frecuencia y es cada vez más difícil de identificar. Así, emergen con mucho poder estos lenguajes y narrativas de un individuo-máquina que imita capacidades de resolución de problemas y toma de decisiones de la mente humana.
Transcripción:
Resultará familiar este escenario. En medio de una campaña electoral, se filtra un video o audio hiperrealista de la persona candidata puntera en las encuestas. Son su voz y su rostro, no hay dudas, pero dice cosas sorprendentes que podrían inclinar de forma definitiva la balanza a su favor. Aún no lo sabemos con certeza, pero sospechamos que se trata de un contenido manipulado digitalmente de cosas que en realidad nunca sucedieron. Esto no es nuevo, ocurre con frecuencia y es cada vez más difícil de identificar. Así, emergen con mucho poder estos lenguajes y narrativas de un individuo-máquina que imita capacidades de resolución de problemas y toma de decisiones de la mente humana.
Desde hace tiempo la Inteligencia Artificial (IA) ha tenido un impacto significativo en las elecciones. Si bien la desinformación se ubica como la cuestión más discutida en este campo, lo cierto es que técnicas modernas de aprendizaje automatizado (machine learning), modelos de redes neuronales y otros métodos de comparación probabilística de patrones son utilizadas constantemente en la gestión electoral de diversos países para analizar el registro de votantes, verificar datos biométricos, localizar centros de votación, seguir campañas políticas o contrastar resultados electorales, incrementando tanto las oportunidades como las responsabilidades que conlleva su uso.
Aunque la IA crea oportunidades de optimización y automatización de tareas para organizar comicios, también amplifica el contenido fraudulento o la creación de campañas con mensajes distorsionados. Por ejemplo, suele multiplicar los mensajes de odio y violencia política contra mujeres en la política. Todo esto afecta la legitimidad, empobrece el debate público, atenta contra el derecho de la ciudadanía a recibir información de calidad y resquebraja la confianza en las instituciones democráticas.
Por tratarse de tecnologías de rápida evolución, la Inteligencia Artificial carece en gran medida de regulación. Sin embargo, en octubre se presentó ante el Congreso de la Ciudad de México una iniciativa para construir un marco jurídico local, pudiendo ser la primera legislación en Latinoamérica en materia de IA y protección de datos personales.
A estas acciones debemos sumarnos las autoridades electorales en la elaboración de planes y estrategias, no sólo para mitigar posibles riesgos, sino para examinar formas en que podríamos utilizarla en procesos de mejora continua (garantizar la gobernanza de datos, facilitar la supervisión humana y alcanzar niveles adecuados de exactitud, solidez y ciberseguridad).
Para abonar a este debate, dejo nueve recomendaciones. 1) Invertir en tecnología y seguridad cibernética; 2) Evitar marcos regulatorios punitivos que deriven en censura; 3) Fortalecer legislación y colaborar con autoridades en la protección de datos personales; 4) Fortalecer medidas de transparencia, tanto en propaganda como en criterios para la curación algorítmica de contenidos; 5) Revisar políticas sobre bots y herramientas de publicación automatizadas; 6) Aumentar campañas que fortalezcan las capacidades de los ciudadanos para desarticular información falsa en contextos electorales; 7) Promover el acceso universal a internet y resguardar el principio de neutralidad de la red; 8) Apoyar el periodismo de calidad, colaborar con investigaciones independientes y promover contenidos de agencias verificadoras; y 9) Desarrollar acuerdos de cooperación que involucren un amplio grupo de actores.
*Consejera del IECM
Desde hace tiempo la Inteligencia Artificial (IA) ha tenido un impacto significativo en las elecciones. Si bien la desinformación se ubica como la cuestión más discutida en este campo, lo cierto es que técnicas modernas de aprendizaje automatizado (machine learning), modelos de redes neuronales y otros métodos de comparación probabilística de patrones son utilizadas constantemente en la gestión electoral de diversos países para analizar el registro de votantes, verificar datos biométricos, localizar centros de votación, seguir campañas políticas o contrastar resultados electorales, incrementando tanto las oportunidades como las responsabilidades que conlleva su uso.
Aunque la IA crea oportunidades de optimización y automatización de tareas para organizar comicios, también amplifica el contenido fraudulento o la creación de campañas con mensajes distorsionados. Por ejemplo, suele multiplicar los mensajes de odio y violencia política contra mujeres en la política. Todo esto afecta la legitimidad, empobrece el debate público, atenta contra el derecho de la ciudadanía a recibir información de calidad y resquebraja la confianza en las instituciones democráticas.
Por tratarse de tecnologías de rápida evolución, la Inteligencia Artificial carece en gran medida de regulación. Sin embargo, en octubre se presentó ante el Congreso de la Ciudad de México una iniciativa para construir un marco jurídico local, pudiendo ser la primera legislación en Latinoamérica en materia de IA y protección de datos personales.
A estas acciones debemos sumarnos las autoridades electorales en la elaboración de planes y estrategias, no sólo para mitigar posibles riesgos, sino para examinar formas en que podríamos utilizarla en procesos de mejora continua (garantizar la gobernanza de datos, facilitar la supervisión humana y alcanzar niveles adecuados de exactitud, solidez y ciberseguridad).
Para abonar a este debate, dejo nueve recomendaciones. 1) Invertir en tecnología y seguridad cibernética; 2) Evitar marcos regulatorios punitivos que deriven en censura; 3) Fortalecer legislación y colaborar con autoridades en la protección de datos personales; 4) Fortalecer medidas de transparencia, tanto en propaganda como en criterios para la curación algorítmica de contenidos; 5) Revisar políticas sobre bots y herramientas de publicación automatizadas; 6) Aumentar campañas que fortalezcan las capacidades de los ciudadanos para desarticular información falsa en contextos electorales; 7) Promover el acceso universal a internet y resguardar el principio de neutralidad de la red; 8) Apoyar el periodismo de calidad, colaborar con investigaciones independientes y promover contenidos de agencias verificadoras; y 9) Desarrollar acuerdos de cooperación que involucren un amplio grupo de actores.
*Consejera del IECM