Artículo 3 – Serie Smart Cities 2030
Gobierno Algorítmico: Administraciones locales autónomas y personalización de políticas públicas
La evolución de las ciudades y territorios inteligentes hacia ecosistemas más complejos y adaptativos está dando lugar a un nuevo modelo de gobernanza: el gobierno algorítmico. La combinación de inteligencia artificial, análisis predictivo y sistemas de automatización avanzada está redefiniendo la forma en que las administraciones locales planifican, toman decisiones y prestan servicios.
1. Introducción
Este artículo explora cómo las ciudades y territorios están evolucionando hacia estructuras de gobierno parcialmente autónomas, capaces de personalizar políticas públicas en función de datos en tiempo real, optimizando recursos y anticipándose a las necesidades ciudadanas. Esta transformación no implica reemplazar, sino dotar de nuevas herramientas de análisis, planificación y acción con un nivel de inteligencia contextual sin precedentes.
El informe “Steering AI’s Future: Strategies for Anticipatory Governance” de la OCDE destaca la urgencia de establecer marcos de gobernanza adaptativos para enfrentar los rápidos avances y complejidades de la inteligencia artificial (IA). Propone un enfoque de gobernanza anticipatoria centrado en cinco pilares:
-
Incorporar valores orientadores desde el diseño de los sistemas de IA, asegurando que el desarrollo tecnológico respete principios éticos, derechos humanos y el interés público.
-
Desplegar inteligencia estratégica para anticipar riesgos y oportunidades, mediante herramientas como la monitorización de incidentes, la prospectiva tecnológica y el análisis de escenarios futuros.
-
Fomentar la participación activa de todos los actores interesados, incluyendo ciudadanía, sector privado, Universidad y sociedad civil, para construir una gobernanza inclusiva y legítima.
-
Aplicar una regulación ágil y adaptable, que combine normas claras con espacios de experimentación como los sandboxes regulatorios, permitiendo innovar sin comprometer la seguridad ni los derechos.
-
Impulsar la cooperación internacional, generando marcos compartidos, estándares interoperables y sinergias globales que fortalezcan una gobernanza de la IA coherente, segura y centrada en las personas.
El documento subraya la necesidad de incorporar valores éticos en todo el ciclo de vida de los sistemas de IA, apoyándose en principios como los de la OCDE sobre IA. Asimismo, promueve el uso de herramientas como el monitoreo en tiempo real (AIM) y el análisis prospectivo para prever riesgos emergentes. Se destacan mecanismos de participación ciudadana y colaboración internacional como claves para fomentar la confianza pública y la interoperabilidad normativa. También se abordan enfoques innovadores como los entornos de prueba regulatoria y la conducta empresarial responsable (RBC), que buscan equilibrar la innovación con la protección de derechos humanos. En conjunto, el informe aboga por un marco global, flexible y proactivo que oriente el desarrollo responsable y seguro de la IA y sirva de referencia para otras tecnologías emergentes.
2. Gobierno algorítmico en la práctica
El informe «Governance in the Age of Generative AI: A 360º Approach for Resilient Policy and Regulation» publicado por el World Economic Forum (WEF) en octubre de 2024, proporciona un marco integral de gobernanza 360° para que los gobiernos enfrenten los desafíos y oportunidades del uso de la inteligencia artificial generativa (IA generativa), abordando tanto los riesgos inmediatos como los futuros. Se estructura en tres pilares:
Aprovechar el pasado: fortalecer las bases regulatorias existentes para enfrentar los desafíos de la IA generativa
Uno de los pilares clave del enfoque propuesto por el World Economic Forum para la gobernanza de la inteligencia artificial generativa consiste en revisar y adaptar los marcos regulatorios actuales. Antes de diseñar nuevas normativas, es fundamental comprender cómo las leyes existentes pueden aplicarse, actualizarse o complementarse para responder a las características particulares de esta tecnología emergente.
-
Revisión regulatoria La IA generativa introduce tensiones en ámbitos como la protección de datos personales, la propiedad intelectual, la responsabilidad civil y la competencia económica. Estas tensiones pueden surgir, por ejemplo, cuando modelos de IA utilizan datos protegidos por derechos de autor, procesan información personal sin un fundamento legal claro, o generan contenido que desafía las normas de seguridad del consumidor. Evaluar y abordar estos vacíos y solapamientos normativos es esencial para asegurar un entorno jurídico predecible y coherente.
-
Asignación de responsabilidades La cadena de valor de la IA incluye diversos actores: desarrolladores de modelos, proveedores de datos, plataformas tecnológicas, integradores y usuarios finales. A medida que los sistemas de IA se vuelven más complejos y generalizados, resulta crucial clarificar qué responsabilidades corresponden a cada actor, especialmente en situaciones de daño, sesgo o uso indebido. Esta claridad normativa no solo favorece la rendición de cuentas, sino que también promueve la confianza del público y de los inversores en el ecosistema de IA.
-
Capacidad institucional Finalmente, se debe evaluar si las autoridades regulatorias actuales cuentan con los recursos, competencias técnicas y atribuciones legales necesarias para supervisar eficazmente el desarrollo y despliegue de la IA generativa. En algunos contextos puede ser más efectivo reforzar las capacidades de los reguladores sectoriales existentes, mientras que en otros puede considerarse la creación de una agencia específica para la IA. Esta decisión dependerá del grado de madurez institucional, la estrategia nacional de IA y las prioridades en materia de derechos, innovación y seguridad.
Aprovechar el pasado implica, por tanto, construir sobre la base normativa y regulatoria ya establecidos, adaptándolos a un nuevo entorno tecnológico sin perder de vista los principios fundamentales de equidad, legalidad y protección de derechos.
Construir el presente: hacia una gobernanza inclusiva y multisectorial de la IA generativa
El segundo pilar del marco de gobernanza propuesto por el World Economic Forum se centra en la necesidad de establecer una gobernanza de la inteligencia artificial generativa que sea verdaderamente representativa y colaborativa. Dado que esta tecnología tiene un impacto transversal en múltiples sectores de la sociedad, su regulación no puede quedar exclusivamente en manos del Estado. Es imprescindible una estrategia de gobernanza que convoque a todos los actores relevantes y que promueva el diálogo constante entre ellos.
-
Colaboración multisectorial La gobernanza efectiva de la IA generativa exige la participación coordinada de cuatro sectores fundamentales: los gobiernos, que tienen el mandato de proteger el interés público; la industria, que desarrolla y aplica las tecnologías; la Universidad, que aporta investigación crítica y formación técnica; y la sociedad civil, que defiende los derechos de los ciudadanos y amplifica las voces de los grupos más vulnerables. Cada uno de estos actores posee un rol específico, y su cooperación resulta clave para construir un ecosistema de IA que sea seguro, ético e inclusivo.
-
Desafíos específicos por sector Cada grupo enfrenta barreras distintas a la hora de participar en la gobernanza de la IA. La industria puede verse limitada por la falta de incentivos para adoptar prácticas responsables o por la presión competitiva del mercado. Las universidades enfrentan desafíos en materia de financiamiento, infraestructura y acceso a datos. Las organizaciones de la sociedad civil muchas veces carecen de las herramientas técnicas y los recursos necesarios para evaluar el impacto de los sistemas de IA sobre las comunidades que representan. Reconocer y abordar estas limitaciones de manera diferenciada es esencial para que la participación sea equitativa y efectiva.
-
Buenas prácticas públicas El sector público tiene un papel clave como referente. La adopción responsable de tecnologías de IA dentro del propio gobierno no solo mejora la eficiencia y la calidad de los servicios públicos, sino que también contribuye a establecer estándares éticos y normativos para otros sectores. Iniciativas como registros de algoritmos utilizados en servicios públicos, la implementación de marcos de evaluación de impacto, o el diseño de políticas transparentes y participativas, permiten al Estado liderar con el ejemplo en el uso justo y responsable de la IA generativa.
Construir el presente implica diseñar una arquitectura de gobernanza que reconozca la complejidad del ecosistema de la IA generativa, que se base en la cooperación real entre sectores, y que asegure que todas las voces, especialmente las más vulnerables, sean escuchadas y consideradas en la toma de decisiones.
Planificar el futuro: anticipación, flexibilidad y cooperación global para una gobernanza sostenible de la IA generativa
El tercer pilar del enfoque propuesto por el World Economic Forum para la gobernanza de la IA generativa se enfoca en preparar a los gobiernos y sus instituciones para un entorno tecnológico en constante evolución. A medida que surgen nuevas capacidades de la IA y se aceleran sus impactos sociales, económicos y políticos, se vuelve imprescindible adoptar mecanismos de gobernanza más ágiles, adaptables y colaborativos a nivel internacional.
-
Inversiones y capacitación La transformación digital exige que los gobiernos inviertan estratégicamente en formación y adquisición de talento especializado en IA. No se trata solo de contratar expertos en tecnología, sino también de capacitar a funcionarios públicos en el uso, evaluación y supervisión de sistemas de IA. La formación cruzada entre sectores (por ejemplo, entre expertos en ciudades y territorios especialistas en IA) permitirá una mejor integración de esta tecnología en políticas públicas sensibles y de alto impacto.
-
Exploración prospectiva (horizon scanning) La capacidad de anticipar riesgos y oportunidades tecnológicas emergentes es clave para una gobernanza eficaz. El monitoreo continuo de estos desarrollos permite una respuesta más temprana y contextualizada desde el diseño de políticas.
-
Regulación flexible Frente al dinamismo de la IA generativa, los modelos regulatorios tradicionales pueden resultar demasiado lentos o rígidos. Por ello, se promueve la adopción de marcos normativos flexibles, como las evaluaciones de impacto anticipadas, los espacios de prueba controlados (regulatory sandboxes) y mecanismos de revisión periódica. Este enfoque permite ajustar las reglas a medida que cambian los contextos de uso, sin perder de vista principios fundamentales como la transparencia, la equidad y la protección de derechos.
-
Foresight estratégico Además de responder al presente, los gobiernos deben adoptar metodologías sistemáticas de planificación futura. El uso de escenarios prospectivos, ejercicios de simulación y análisis de incertidumbres permite diseñar políticas más resilientes ante múltiples trayectorias posibles de desarrollo tecnológico. Esta visión estratégica fortalece la capacidad del Estado para enfrentar crisis, aprovechar oportunidades y guiar la innovación hacia objetivos de desarrollo sostenible.
-
Cooperación internacional Dado que la IA generativa es una tecnología global por naturaleza, sus desafíos y beneficios trascienden fronteras. La armonización de estándares técnicos, la creación de marcos comunes para la gestión de riesgos y la cooperación en infraestructura y capacidades son fundamentales para evitar una fragmentación regulatoria. Asimismo, es necesario garantizar que los países con menos recursos tecnológicos puedan participar en la definición de reglas globales y acceder a los beneficios de la IA de manera equitativa.
Planificar el futuro implica construir una gobernanza anticipatoria, ágil y colaborativa, capaz de adaptarse a la velocidad del cambio tecnológico y de garantizar que los desarrollos en IA generativa se alineen con los intereses públicos y los valores democráticos a escala nacional e internacional.
Se requiere una gobernanza de la inteligencia artificial generativa que sea proactiva, inclusiva, ágil y cooperativa, orientada a garantizar un uso ético, equitativo y responsable de esta tecnología. Para lograrlo, es fundamental fortalecer las capacidades regulatorias, fomentar un diálogo multisectorial sostenido y promover la acción coordinada a nivel global. Solo así será posible maximizar los beneficios de la IA generativa y mitigar sus riesgos de manera efectiva.
2.1. Motores de regulación dinámica
Los motores de reglas basados en IA permiten a las administraciones locales ajustar automáticamente las normativas y servicios según condiciones cambiantes. Por ejemplo:
-
Ajuste automático de normativas: Los sistemas de gestión del tráfico pueden modificar las restricciones de circulación, el acceso a zonas de bajas emisiones o los límites de velocidad en tiempo real, en función de datos sobre contaminación, congestión, eventos o emergencias.
-
Protocolos de emergencia actualizados continuamente: Algoritmos entrenados con datos históricos y contextuales permiten anticipar la evolución de catástrofes naturales o incidentes urbanos, reconfigurando al instante los planes de evacuación, la asignación de recursos o las rutas prioritarias para servicios de emergencia.
-
Servicios públicos que responden a la demanda anticipada: El despliegue de servicios como limpieza, transporte o iluminación puede ajustarse dinámicamente gracias a modelos predictivos basados en patrones de uso, afluencia estimada o eventos planificados.
Estos motores algorítmicos no sustituyen el juicio político, pero amplían la capacidad operativa de la administración, permitiendo una ciudad más ágil, sensible y resiliente ante entornos cambiantes.
2.2. Decisiones políticas asistidas por IA
El gobierno algorítmico también redefine el proceso de toma de decisiones estratégicas al incorporar sistemas de IA como apoyo al análisis de impacto, la planificación de políticas públicas y la evaluación de resultados mediante indicadores clave y OKR (Objectives and Key Results):
-
Simulación de escenarios: Las autoridades pueden modelar las consecuencias sociales, económicas o ambientales de una política antes de su implementación, contrastando múltiples hipótesis y comparando resultados en distintos sectores o territorios.
-
Asignación presupuestaria optimizada: Herramientas de optimización multicriterio permiten distribuir recursos en función de objetivos estratégicos, indicadores de impacto y retornos esperados. Esto facilita una planificación basada en evidencia y más transparente ante la ciudadanía.
-
Alertas tempranas ante riesgos complejos: La inteligencia artificial puede detectar patrones que anticipen crisis sociales (desigualdad creciente), económicas (desempleo en zonas vulnerables) o ambientales (stress hídrico, islas de calor), activando protocolos de prevención antes de que los problemas se materialicen.
-
Evaluación mediante indicadores y OKR: Para garantizar una gobernanza orientada a resultados, los modelos algorítmicos se integran con sistemas de medición basados en KPIs y OKRs. Estos permiten evaluar el cumplimiento de objetivos estratégicos en políticas públicas (por ejemplo, reducción del tiempo medio de atención ciudadana, disminución de emisiones en una zona, o mejora de la satisfacción ciudadana con un servicio).
Estas herramientas no deciden por los responsables públicos, pero enriquecen el proceso político con mayor capacidad analítica, simulativa, prospectiva y con enfoque orientado a resultados medibles.
2.3. Plataformas de microgobierno y personalización de servicios
Más allá del nivel central, el gobierno algorítmico permite escalar el modelo hacia una lógica de microgobiernos digitales, con plataformas que operan en barrios, distritos o comunidades específicas:
-
Servicios públicos adaptativos: Sistemas que ajustan el nivel, tipo y formato de servicios (transporte, salud, atención social) en función del perfil de la comunidad local, su evolución demográfica, sus necesidades específicas o el grado de vulnerabilidad territorial.
-
Participación ciudadana aumentada: Interfaces de gobierno digital que no solo informan, sino que generan experiencias participativas adaptadas al contexto: propuestas de consulta personalizadas, alertas sobre decisiones que afectan al entorno inmediato o mecanismos de votación directa por canales móviles o conversacionales.
-
Gestión automatizada de microinfraestructuras: Sistemas autónomos para operar microredes energéticas, hubs logísticos, alumbrado inteligente o espacios públicos dinámicos que responden a datos de uso en tiempo real.
En este contexto, la ciudad deja de ser un ente monolítico para convertirse en una red descentralizada de nodos inteligentes gestionados por algoritmos y personas que co-gobiernan desde lo local.
3. Retos y garantías democráticas
El avance de la inteligencia artificial en la gestión pública plantea desafíos profundos para las democracias contemporáneas. A medida que los algoritmos asumen funciones cada vez más relevantes en la toma de decisiones, se vuelve urgente establecer principios y mecanismos que aseguren que su uso no erosione los valores fundamentales sobre los que se sustentan nuestras instituciones.
La gobernanza algorítmica no puede limitarse a la eficiencia operativa o a la innovación tecnológica. Debe ser también una oportunidad para reafirmar los principios democráticos en la era digital: la transparencia frente a la opacidad, la rendición de cuentas frente a la automatización ciega, la equidad frente a la reproducción de desigualdades.
En este contexto, los sistemas automatizados deben diseñarse y desplegarse con garantías sólidas de respeto a los derechos humanos, supervisión política efectiva y control ciudadano. Solo así será posible construir una IA pública legítima, confiable y al servicio del bien común.
Los siguientes tres subapartados abordan aspectos clave para asegurar una inteligencia artificial democrática y centrada en las personas: la transparencia y explicabilidad de los sistemas, la necesidad de supervisión humana significativa y el imperativo de equidad en todo su ciclo de vida.
3.1. Transparencia y explicabilidad algorítmica
Para que el gobierno algorítmico sea legítimo y genere confianza ciudadana, la transparencia y accesibilidad de los sistemas automatizados debe convertirse en un principio rector. Esto implica avanzar en tres frentes fundamentales:
-
Diseñar algoritmos auditables, es decir, modelos cuyo funcionamiento interno y resultados puedan ser examinados y comprendidos por expertos independientes. Esto requiere implementar trazabilidad completa de los datos utilizados, los criterios de decisión aplicados y los procesos de ajuste o aprendizaje automático que afectan sus resultados. Se auditables es clave para detectar sesgos, errores o comportamientos no deseados.
-
Documentar y publicar los modelos de decisión, haciendo accesibles sus objetivos, metodologías, limitaciones y supuestos. Esta transparencia no solo es técnica, sino comunicativa: implica ofrecer explicaciones comprensibles para la ciudadanía sobre cómo y por qué se toman decisiones automatizadas que les afectan, especialmente en servicios públicos críticos.
-
Establecer mecanismos de reclamación y revisión efectiva, que permitan a cualquier persona impugnar decisiones algorítmicas que considere injustas, incorrectas o discriminatorias. Estos mecanismos deben garantizar una revisión humana significativa, con capacidad de modificar o revertir decisiones automatizadas, y estar respaldados por marcos normativos sólidos.
Solo con estas garantías, el uso de algoritmos en la gestión pública podrá fortalecer —y no debilitar— los valores democráticos en las ciudades inteligentes.
3.2. Supervisión humana significativa
Aunque los sistemas algorítmicos pueden asumir decisiones operativas en tiempo real, la supervisión humana sigue siendo un principio innegociable en cualquier modelo de gobierno algorítmico responsable. La autonomía tecnológica debe estar siempre subordinada a la responsabilidad política y a la garantía de derechos. Para ello, es necesario avanzar en tres líneas clave:
-
Definir límites explícitos a la delegación de decisiones automatizadas, estableciendo con claridad qué tipo de decisiones pueden ser ejecutadas por sistemas autónomos y cuáles requieren intervención o aprobación humana. No todo puede ni debe ser delegado: hay ámbitos donde el juicio político y el criterio contextual siguen siendo esenciales.
-
Asegurar la revisión humana de cualquier decisión que afecte derechos fundamentales, como el acceso a servicios públicos, la movilidad, la privacidad o la inclusión social. Las decisiones que tienen impacto directo en la vida de las personas deben ser reversibles y estar sujetas a mecanismos de evaluación humana efectiva.
-
Desarrollar capacidades institucionales en gobernanza algorítmica, dotando a las administraciones locales de equipos con formación técnica, ética y jurídica para poder interpretar, auditar y corregir modelos algorítmicos. Esta capacidad no solo permite una supervisión efectiva, sino también una mejor interlocución con proveedores tecnológicos y una gestión más proactiva de los riesgos.
En definitiva, los algoritmos pueden aumentar la eficiencia operativa, pero la legitimidad democrática solo puede sostenerse si hay responsabilidad humana al mando. Gobernar con algoritmos no puede significar renunciar a gobernar.
3.3. Equidad y no discriminación
La inteligencia artificial aplicada al gobierno solo será legítima y transformadora si se desarrolla con un enfoque inclusivo y justo. La equidad debe estar en el centro del diseño y despliegue de los algoritmos públicos, especialmente en contextos urbanos diversos y desiguales. Para lograrlo, es fundamental avanzar en tres dimensiones complementarias:
-
Diseñar modelos que eviten la reproducción de sesgos históricos, lo cual requiere una revisión crítica de los datos utilizados para entrenar sistemas algorítmicos. Muchos datos públicos reflejan desigualdades pasadas —en acceso, representación o trato—, y sin un enfoque proactivo, estos sesgos pueden amplificarse. La evaluación de impacto algorítmico debe convertirse en una práctica habitual.
-
Incorporar criterios explícitos de equidad territorial y social en los algoritmos de priorización, asegurando que la asignación de recursos, servicios o intervenciones no se base únicamente en eficiencia técnica, sino también en justicia distributiva. Esto implica ponderar el grado de vulnerabilidad, las brechas históricas o el potencial de mejora en comunidades tradicionalmente marginadas.
-
Eliminar barreras de acceso para colectivos vulnerables, garantizando que los servicios públicos personalizados por IA lleguen efectivamente a todas las personas, independientemente de su nivel digital, idioma, ingresos o situación legal. La personalización no debe traducirse en exclusión. Es responsabilidad de la administración anticipar brechas y ofrecer soluciones accesibles, tanto tecnológicas como humanas.
Porque, como bien señala el principio rector: una ciudad solo será verdaderamente inteligente si lo es para todos. Si la tecnología deja fuera a parte de la ciudadanía, deja de ser un avance y se convierte en una forma más sofisticada de desigualdad.
4. Conclusiones
El gobierno algorítmico representa una oportunidad histórica para transformar la gestión pública local, elevando su capacidad de anticipar escenarios, adaptarse a contextos cambiantes y operar con una eficiencia basada en datos y evidencia. No se trata de sustituir lo humano con lo automático, sino de ampliar las capacidades institucionales mediante tecnologías que permitan entender mejor la realidad, simular decisiones con menor riesgo y actuar con mayor precisión.
Esta evolución marca el tránsito de una administración reactiva a una gobernanza aumentada, donde los algoritmos funcionan como aliados estratégicos del sector público. Sin embargo, para que esta transformación no derive en tecnocracia opaca o en automatismos deshumanizados, debe ir acompañada de un fortalecimiento explícito de los principios democráticos. Transparencia en los modelos de decisión, supervisión humana efectiva, rendición de cuentas en entornos digitales y una ética pública adaptada a la inteligencia artificial son pilares irrenunciables.
En última instancia, la clave no está en adoptar tecnología por sí misma, sino en cómo se integra al servicio del bien común. Las ciudades que logren conjugar algoritmos con valores, automatización con empatía, datos con derechos, serán las que construyan modelos de gobernanza verdaderamente inteligentes, inclusivos y resilientes. Ellas no solo estarán mejor preparadas para los desafíos del siglo XXI, sino que liderarán una nueva era de política pública: una política que piensa en código, pero decide con humanidad.
5. Bibliografía
-
OECD (2025) Steering AI’s future Strategies for anticipatory governance
-
OECD (2025) Tackling civic participation challenges with emerging technologies
-
Morcillo, F. (2025), IA generativa urbana: hacia ciudades proactivas, adaptativas y co-creadas
-
(Acceso a referencias ampliadas: Bibliografía completa en www.franciscomorcillo.com)
Article 3 – Smart Cities 2030 Series
Algorithmic Governance: Autonomous Local Administrations and Personalized Public Policies
1. Introduction
The evolution of smart cities and territories into more complex and adaptive ecosystems is giving rise to a new model of governance: algorithmic governance. The combination of artificial intelligence, predictive analytics, and advanced automation systems is redefining how local administrations plan, make decisions, and deliver services.
This article explores how cities and territories are evolving toward partially autonomous governance structures, capable of personalizing public policies based on real-time data, optimizing resources, and anticipating citizen needs. This transformation does not imply replacing public officials, but rather equipping them with new tools for analysis, planning, and action, with an unprecedented level of contextual intelligence.
The OECD report “Steering AI’s Future: Strategies for Anticipatory Governance” emphasizes the urgency of establishing adaptive governance frameworks to address the rapid advances and complexities of artificial intelligence (AI). It proposes an anticipatory governance approach based on five pillars:
-
Embedding guiding values into AI systems design, ensuring that technological development respects ethical principles, human rights, and public interest.
-
Deploying strategic intelligence to anticipate risks and opportunities, using tools like incident monitoring, technology foresight, and future scenario analysis.
-
Fostering inclusive participation of all stakeholders, including citizens, the private sector, academia, and civil society, to build legitimate and representative governance.
-
Implementing agile and adaptive regulation, combining clear norms with experimental spaces like regulatory sandboxes to allow innovation without compromising safety or rights.
-
Promoting international cooperation, generating shared frameworks, interoperable standards, and global synergies that strengthen coherent, safe, and human-centered AI governance.
The report highlights the need to embed ethical values throughout the AI lifecycle, using principles such as those of the OECD on AI. It also promotes the use of tools like real-time monitoring (AIM) and foresight analysis to anticipate emerging risks. Citizen participation and international collaboration are key to building public trust and normative interoperability. The report also addresses innovative approaches like regulatory testing environments and responsible business conduct (RBC) that seek to balance innovation with the protection of human rights.
In short, it calls for a global, flexible, and proactive framework to guide the responsible and safe development of AI and serve as a reference for other emerging technologies.
2. Algorithmic Governance in Practice
The World Economic Forum’s report “Governance in the Age of Generative AI: A 360º Approach for Resilient Policy and Regulation” (October 2024) provides a comprehensive 360° governance framework for governments to address the challenges and opportunities of using generative AI. It is structured around three pillars:
Leveraging the Past: Strengthening Existing Regulatory Foundations
This pillar focuses on adapting current regulatory frameworks before designing new ones. It underscores the importance of:
-
Regulatory review: Generative AI introduces tensions in areas like data protection, intellectual property, civil liability, and market competition. Understanding these legal gaps and overlaps is essential to maintaining a coherent and predictable legal environment.
-
Responsibility allocation: With a complex AI value chain, it is critical to clearly define the responsibilities of model developers, data providers, platform operators, integrators, and end users.
-
Institutional capacity: Governments must assess whether current regulators have the technical capacity and legal authority to oversee generative AI effectively—or if new institutions are needed.
Building the Present: Inclusive and Multistakeholder Governance
The second pillar emphasizes the need for governance strategies that include:
-
Cross-sector collaboration: Engaging government, industry, academia, and civil society in the development of inclusive, ethical, and safe AI ecosystems.
-
Sector-specific challenges: Addressing participation barriers faced by each actor group—from lack of incentives in industry, to resource constraints in academia and civil society.
-
Public sector leadership: Governments can lead by example through ethical AI adoption in public services, using algorithm registries, impact assessments, and transparent policies.
Planning for the Future: Agility, Foresight, and Global Cooperation
The third pillar focuses on long-term resilience:
-
Strategic investment and training: Governments need to invest in specialized AI talent and cross-sector training to integrate AI into high-impact public policy.
-
Foresight and horizon scanning: Proactively monitoring emerging technologies to anticipate risks and design context-aware policy responses.
-
Flexible regulation: Promoting tools like impact assessments, regulatory sandboxes, and iterative policy review mechanisms.
-
Strategic foresight: Using scenario planning, simulation exercises, and uncertainty analysis to develop robust, future-oriented public policies.
-
International cooperation: Harmonizing standards and regulatory approaches to prevent fragmentation and ensure equitable access to AI benefits.
This pillar calls for a governance model that is proactive, inclusive, agile, and globally coordinated—ensuring AI is used ethically, fairly, and responsibly.
2.1. Dynamic Regulation Engines
AI-driven rule engines enable local governments to automatically adjust regulations and services based on changing conditions. For example:
-
Real-time regulation adjustments: Traffic systems can modify access to low-emission zones or speed limits based on pollution, congestion, events, or emergencies.
-
Continuously updated emergency protocols: Algorithms trained on historical and contextual data can predict the evolution of disasters and reconfigure evacuation plans and resource allocation in real time.
-
Demand-responsive public services: Predictive models can optimize service deployment (cleaning, transportation, lighting) based on expected use, event planning, or estimated foot traffic.
These systems do not replace political judgment but enhance operational capacity, making cities more agile, responsive, and resilient.
2.2. AI-Assisted Policy Decisions
Algorithmic governance also transforms strategic policymaking by integrating AI systems to support impact analysis, planning, and outcome measurement using KPIs and OKRs:
-
Scenario simulation: Policymakers can model the potential social, economic, or environmental outcomes of proposed policies before implementation.
-
Optimized budget allocation: Multi-criteria optimization tools allocate resources based on strategic objectives, impact indicators, and expected returns.
-
Early warning systems: AI can detect emerging patterns indicating social, economic, or environmental risks, triggering preventive measures.
-
Outcome measurement with KPIs and OKRs: AI models integrate key performance indicators (KPIs) and objectives and key results (OKRs) to track goal fulfillment—for example, reducing average response times or improving citizen satisfaction.
These tools support more informed, evidence-based, and results-oriented policymaking.
2.3. Micro-Governance Platforms and Service Personalization
Beyond central governance, algorithmic systems enable decentralized digital micro-governance models in neighborhoods or districts:
-
Adaptive public services: Services tailored to local demographic trends, community profiles, or degrees of vulnerability.
-
Augmented citizen participation: Digital interfaces that propose context-aware consultations, alerts, and voting channels.
-
Autonomous micro-infrastructure management: Systems operating smart grids, logistics hubs, or adaptive public spaces based on real-time usage data.
In this scenario, the city becomes a network of intelligent nodes co-governed by algorithms and empowered local stakeholders.
3. Democratic Safeguards and Challenges
As AI takes on more public decision-making roles, it becomes essential to ensure that core democratic principles—transparency, accountability, fairness—remain central.
3.1. Algorithmic Transparency and Explainability
-
Auditable models: Algorithms must be traceable and understandable, allowing independent scrutiny of their inputs, decisions, and learning processes.
-
Public documentation: Clear communication of model objectives, limitations, and methodologies helps demystify automated systems for the public.
-
Appeal mechanisms: Citizens must be able to contest automated decisions through processes that include human oversight and legal protections.
3.2. Meaningful Human Oversight
-
Defined boundaries: Establish what decisions can be automated and which require human approval.
-
Protection of fundamental rights: Automated decisions affecting mobility, privacy, or access to services must be reviewable.
-
Institutional capacity: Governments must invest in teams trained to audit and supervise AI systems.
3.3. Equity and Non-Discrimination
-
Bias mitigation: Algorithms must be evaluated to prevent the amplification of historical inequalities.
-
Equity-aware design: Incorporating territorial and social equity criteria into prioritization algorithms.
-
Digital inclusion: Ensuring AI-powered services are accessible regardless of language, income, or digital literacy.
Smart cities must be inclusive cities—no one should be left behind by automation.
4. Conclusions
Algorithmic governance offers a historic opportunity to transform local public administration—making it more anticipatory, adaptive, and efficient. It’s not about replacing human decision-makers, but augmenting institutional capacity with tools that allow better understanding, simulation, and precision.
To avoid drifting into opaque technocracy or inhumane automation, this transition must reinforce democratic values: transparency, accountability, ethical oversight, and human dignity.
Ultimately, success will come to the cities that balance data with rights, automation with empathy, and algorithms with values. These will be the truly smart, inclusive, and resilient cities of tomorrow.
5. References
-
OECD (2025), Steering AI’s Future: Strategies for Anticipatory Governance
-
Nesta (2019), Governing Cities in the Age of Algorithms
-
OECD (2025), Tackling Civic Participation Challenges with Emerging Technologies
-
World Economic Forum (2024), Governance in the Age of Generative AI: A 360º Approach for Resilient Policy and Regulation
-
Morcillo, F. (2025), Urban Generative AI: Towards Proactive, Adaptive, and Co-Created Cities
-
(Extended bibliography: www.franciscomorcillo.com)
