Políticas públicas y regulación en las tecnologías disruptivas

Por su parte, Ángela Amaya, después de considerar el impacto ambiental que las nuevas tecnologías tienen para el medioambiente, propone unos criterios orientadores que podría seguir la regulación ambiental para facilitar, e incluso promover, el uso de estas tecnologías, al tiempo que se reducen los impactos que puedan tener en el medioambiente. En este artículo encontramos nuevamente la tensión entre las posibilidades de producción más eficiente que traen las tecnologías disruptivas, y los posibles impactos negativos, en este caso en el medioambiente, que probablemente afecten de manera dispar a distintos grupos de usuarios y consumidores de estas tecnologías, tensión que está presente en todos los artículos de esta parte del tomo.

En este contexto, los Estados deben actuar de alguna forma como equilibristas para emitir regulaciones que faciliten el desarrollo de las tecnologías al tiempo que se protegen los usuarios y consumidores, en particular aquellos que forman parte de poblaciones más vulnerables. Estos actos de equilibrismo son discutidos en el trabajo de Adriana Castro, último artículo del tomo, el cual nos presenta un marco general sobre la noción de la gobernanza digital y su rol en el cumplimiento de los objetivos de desarrollo sostenible. En particular, el artículo sugiere distintos aspectos éticos que debe abordar este marco de gobernanza para una regulación adecuada y orientada al bien común de estas tecnologías, y en concreto para el cumplimiento de los ODS. Además, el artículo plantea la necesidad de facilitar la participación de múltiples actores en los procesos de toma de decisiones sobre las tecnologías de información para que las mismas conduzcan efectivamente al logro del bien común.

CONCLUSIÓN

Las tecnologías disruptivas afectan el rol del Estado, y por tanto la regulación y las políticas públicas, al menos de dos maneras. Por un lado, estas tecnologías inciden y se interrelacionan directamente con los fines de las políticas públicas, en particular con la eficiencia, la igualdad y la privacidad. La principal motivación para el uso de dichas tecnologías es la generación de valor. Esto justifica una participación del Estado en el uso, promoción y facilitación del uso de tales tecnologías por parte del sector privado. Sin embargo, el Estado también debe jugar un rol activo en la prevención y mitigación de efectos negativos de estas tecnologías en la desigualdad y la privacidad de los individuos. En este aspecto, se requiere contar con un Estado regulador fuerte que establezca regulaciones orientadas a la protección de los ciudadanos, así como la incorporación de principios éticos en la elaboración de algoritmos y el establecimiento de mecanismos de transparencia, rendición de cuentas y auditoría de algoritmos, para asegurarse que no se discriminen a grupos poblacionales determinados, y no se refuercen o se creen desigualdades.

Las tecnologías disruptivas también afectan el rol del Estado en tanto que proveen herramientas que los tomadores de decisiones pueden usar en las etapas del ciclo de las políticas públicas. Todas estas herramientas proveen maneras de acceder a mayores volúmenes de información con mayor oportunidad, y posiblemente, respecto de segmentos más grandes de la población. Sin embargo, estas herramientas pueden verse afectadas por los mismos riesgos, ya anotados, en cuanto a la desigualdad y la privacidad. Por tanto, es necesario que se adopten mecanismos que prevengan o mitiguen afectaciones desproporcionadas respecto de grupos poblacionales específicos, así como acciones que eviten la veneración y confianza excesiva de los datos y los instrumentos y estrategias de medición que solo se ajusten a las nuevas tecnologías, en desmedro de otros que sean igualmente viables y relevantes, aun cuando reposen en otras fuentes de información.

Los trabajos incluidos en este tomo muestran desde varios puntos de vista las maneras en que el Estado puede aprovechar y fomentar el uso de las tecnologías disruptivas, al tiempo que señalan los desafíos que imponen para la Administración pública y la regulación. Algunos de ellos también señalan maneras en las que el uso y regulación de las tecnologías pueden promover no solo la generación de valor, sino también el mantenimiento de la privacidad y un trato ético y equitativo de los individuos, que sea sostenible social y ambientalmente.

REFERENCIAS

ACEMOGLU, D. & RESTREPO, P. (2018). The Race between Man and Machine: Implications of Technology for Growth, Factor Shares, and Employment. American Economic Review, 108(6), 1.488-1.542. Disponible en: https://doi.org/10.1257/aer.20160696

AGHION, P., JONES, B. & JONES, C. (2017). Artificial Intelligence and Economic Growth (n.º w23928). National Bureau of Economic Research. Disponible en: https://doi.org/10.3386/w23928

ALFONSO, Ó. A. (2020, agosto 24). Desigualdad y brechas digitales: Un problema apremiante. Razón Pública. Disponible en: https://razonpublica.com/desigualdad-brechas-digitales-problema-apremiante/

ALVIAR GARCÍA, H. y LAMPREA, E. (2016). El estado regulador en Colombia. Ediciones Uniandes.

ANGULO, S. (2017, noviembre 23). Así se está usando la inteligencia artificial en las empresas. ENTER.CO. Disponible en: http://www.enter.co/cultura-digital/colombia-digital/inteligencia-artificial-empresas/

BARTON, N. T.-L.; PAUL RESNICK & GENIE (2019, mayo 22). Algorithmic bias detection and mitigation: Best practices and policies to reduce consumer harms. Brookings. Disponible en: https://www.brookings.edu/research/algorithmic-bias-detection-and-mitigation-best-practices-and-policies-to-reduce-consumer-harms/

BRADY, H. E. (2019). The Challenge of Big Data and Data Science. Annual Review of Political Science, 22(1), 297-323. Disponible en: https://doi.org/10.1146/annurev-polisci-090216-023229

BUSUIOC, M. (2020). Accountable Artificial Intelligence: Holding Algorithms to Account. Public Administration Review, n/a(n/a). Disponible en: https://doi.org/10.1111/puar.13293

CABROL, M.; GONZÁLEZ A. N.; POMBO, C. y SÁNCHEZ A., R. (2020). fAIr LAC: Adopción ética y responsable de la inteligencia artificial en América Latina y el Caribe. Inter-American Development Bank. Disponible en: https://doi.org/10.18235/0002169

CHRISTENSEN, C. M.; RAYNOR, M. E. & MCDONALD, R. (2015, December 1). What Is Disruptive Innovation? Harvard Business Review. Disponible en: https://hbr.org/2015/12/what-is-disruptive-innovation

DEPARTAMENTO NACIONAL DE PLANEACIÓN (2018). Documento Conpes 3920. Política Nacional de Explotación de Datos (Big Data). Disponible en: https://colaboracion.dnp.gov.co/CDT/Conpes/Econ%c3%b3micos/3920.pdf

DEPARTAMENTO NACIONAL DE PLANEACIÓN (2019). Documento Conpes 3975. Política Nacional para la Transformación Digital e Inteligencia Artificial. Disponible en: https://www.mintic.gov.co/portal/604/articles-107147_recurso_1.pdf

DEPARTAMENTO NACIONAL DE PLANEACIÓN (2020a). Análisis de Propuestas para las Mesas de Conversación Nacional. Disponible en: https://colaboracion.dnp.gov.co/CDT/Desarrollo%20Digital/Big%20Data/2020/02_Conversacion_nacional/Conversacion_nacional_Informe.pdf

DEPARTAMENTO NACIONAL DE PLANEACIÓN (2020b). Aprovechamiento de datos para la toma de decisiones en el sector público. Disponible en: https://www.dnp.gov.co/DNPN/Documents/Borrador-Aprovechamiento-de-datos.pdf

FORUM, W. E. (2018). The future of jobs report 2018.

GIEST, S. & SAMUELS, A. (2020). ‘For good measure’: Data gaps in a big data world. Policy Sciences, 53(3), 559-569. Disponible en: https://doi.org/10.1007/s11077-020-09384-1

IPHOFEN, R., & KRITIKOS, M. (2019). Regulating artificial intelligence and robotics: Ethics by design in a digital society. Contemporary Social Science, 0(0), 1-15. Disponible en: https://doi.org/10.1080/21582041.2018.1563803

KIVIAT, B. (2019). The Moral Limits of Predictive Practices: The Case of Credit-Based Insurance Scores. American Sociological Review, 84(6), 1134-1158. Disponible en: https://doi.org/10.1177/0003122419884917

KLEIN, A. (2020, julio 10). Reducing bias in AI-based financial services. Brookings. Disponible en: https://www.brookings.edu/research/reducing-bias-in-ai-based-financial-services/

LIPSKY, M. (2010). Street-Level Bureaucracy, 30th Anniversary Edition: Dilemmas of the Individual in Public Service. Russell Sage Foundation.

MANKIW, N. G. (2017). Principles of Economics. Cengage Learning.

MANYIKA, J.; LUND, S.; CHUI, M.; BUGHIN, J.; WOETZEL, J.; BATRA, P.; KO, R. & SANGHVI, S. (2017). Jobs lost, jobs gained: Workforce transitions in a time of automation. McKinsey Global Institute.

MILLER, S. M. & KEISER, L. R. (2020). Representative Bureaucracy and Attitudes Toward Automated Decision Making. Journal of Public Administration Research and Theory. Disponible en: https://doi.org/10.1093/jopart/muaa019

NEWMAN PONT, V. & ÁNGEL ARANGO, M. P. (2019). Rendición de cuentas de Google y otros negocios en Colombia: La protección de datos personales en la era digital. Dejusticia.

O’NEIL, C. (2016). Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy (Crown).

ORDÓÑEZ-MATAMOROS, G.; TADLAOUI, S.; PORRAS ALZATE, S.; DUARTE GARCÍA, J. A.; LÓPEZ, L. H.; MARTÍNEZ FAJARDO, L. P. & CALDERÓN-PEÑA, G. A. (2013). Manual de análisis y diseño de políticas públicas. Universidad Externado de Colombia.

OSPINA CELIS, D.; UPEGUI MEJÍA, J. C. & NEWMAN PONT, V. (2020). Festín de datos. Empresas y datos personales en América Latina. Dejusticia.

PENCHEVA, I.; ESTEVE, M. & MIKHAYLOV, S. J. (2020). Big Data and AI – A transformational shift for government: So, what next for research? Public Policy and Administration, 35(1), 24-44. Disponible en: https://doi.org/10.1177/0952076718780537

PEREZ, C. C. (2019). Invisible Women: Data Bias in a World Designed for Men (Harry N. Abrams).

POMBO, C. & GONZÁLEZ ALARCÓN, N. (2020). ¿Cómo puede la inteligencia artificial ayudar en una pandemia? (2020.^a ed.). Banco interamericano de Desarrollo. Disponible en: https://doi.org/10.18235/0002300

PRESIDENCIA DE LA REPÚBLICA (2019, abril 30). Lanzamiento del Centro para la Cuarta Revolución Industrial demuestra que Colombia quiere pensar en grande, actuar en grande y transformar en grande: Presidente Duque. Presidencia de la República. Disponible en: https://id.presidencia.gov.co:443/Paginas/prensa/2019/190430-Lanzamiento-Centro-para-Cuarta-Revolucion-Industrial-demuestra-Colombia-quiere-pensar-grande-actuar-grande-President.aspx

RAY, R. (2020, febrero 20). 5 questions policymakers should ask about facial recognition, law enforcement, and algorithmic bias. Brookings. Disponible en: https://www.brookings.edu/research/5-questions-policymakers-should-ask-about-facial-recognition-law-enforcement-and-algorithmic-bias/

ROBISON, C. C. & M. (2020, noviembre 23). How AI bots and voice assistants reinforce gender bias. Brookings. Disponible en: https://www.brookings.edu/research/how-ai-bots-and-voice-assistants-reinforce-gender-bias/

ROGGE, N.; AGASISTI, T. & DE WITTE, K. (2017). Big data and the measurement of public organizations’ performance and efficiency: The state-of-the-art. Public Policy and Administration, 32(4), 263-281. Disponible en: https://doi.org/10.1177/0952076716687355

SCHWAB, K. (2016). La cuarta revolución industrial. Penguin Random House.

STONE, D. (2011). Policy Paradox: The Art of Political Decision Making. W Norton & Company Incorporated.

THIERER, A. D.; CASTILLO O’SULLIVAN, A. & RUSSELL, R. (2017). Artificial Intelligence and Public Policy (SSRN Scholarly Paper ID 3021135). Social Science Research Network. Disponible en: https://papers.ssrn.com/abstract=3021135

THOMKE, S. H. (2020). Experimentation Works: The Surprising Power of Business Experiments. Harvard Business Review Press.

VALLE-CRUZ, D.; CRIADO, J. I.; SANDOVAL-ALMAZÁN, R. & RUVALCABA-GÓMEZ, E. A. (2020). Assessing the public policy-cycle framework in the age of artificial intelligence: From agenda-setting to policy evaluation. Government Information Quarterly, 37 (4), 101509. Disponible en: https://doi.org/10.1016/j.giq.2020.101509

VOGL, T. M.; SEIDELIN, C.; GANESH, B. & BRIGHT, J. (s. f.). Smart Technology and the Emergence of Algorithmic Bureaucracy: Artificial Intelligence in UK Local Authorities. Public Administration Review, n/a(n/a). Disponible en: https://doi.org/10.1111/puar.13286

WEIMER, D. L. & VINING, A. R. (2017). Policy Analysis: Concepts and Practice (Routledge).

WEST, D. M. & ALLEN, J. R. (2020). Turning Point: Policymaking in the Era of Artificial Intelligence. Brookings Institution Press.

WHITE HOUSE (2016). Artificial intelligence, automation, and the economy. Executive office of the President. https://obamawhitehouse.archives.gov/sites/whitehouse.gov/files/documents/Artificial-Intelligence-Automation-Economy.pdf.

WIRTZ, B. W. & MÜLLER, W. M. (2019). An integrated artificial intelligence framework for public management. Public Management Review, 21(7), 1076-1100. Disponible en: https://doi.org/10.1080/14719037.2018.1549268

WIRTZ, B. W.; WEYERER, J. C. & GEYER, C. (2019). Artificial Intelligence and the Public Sector—Applications and Challenges. International Journal of Public Administration, 42 (7), 596-615. Disponible en: https://doi.org/10.1080/01900692.2018.1498103

YORK, P. & BAMBERGER, M. (2020). Measuring results and impact in the age of big data: The nexus of evaluation, analytics, and digital technology. The Rockefeller Foundation.

YOUNG, M. M.; BULLOCK, J. B. & LECY, J. D. (2019). Artificial Discretion as a Tool of Governance: A Framework for Understanding the Impact of Artificial Intelligence on Public Administration. Perspectives on Public Management and Governance, 2(4), 301-313. Disponible en: https://doi.org/10.1093/ppmgov/gvz014

PRIMERA PARTE MARCO GENERAL DE LOS RETOS DE LAS TECNOLOGÍAS DISRUPTIVAS PARA LA REGULACIÓN Y LAS POLÍTICAS PÚBLICAS

CAROLINA ISAZA* ANÍBAL ZÁRATE**

Las tecnologías disruptivas como herramienta y campo de acción de las administraciones públicas

Disruptive technologies as a tool and action field for public administration

RESUMEN

A medida que los gobiernos implementan tecnologías disruptivas para facilitar la toma de decisiones y mejorar sus relaciones con los ciudadanos, también crecen los temores alrededor del uso de Inteligencia Artificial a través de algoritmos, machine-learning y analítica de Big Data, para regular y adjudicar derechos desde la Administración pública. Estas preocupaciones atañen desde la incapacidad del Estado para regular eficaz y oportunamente estos avances tecnológicos, hasta la opacidad y la dificultad de estas herramientas disruptivas para satisfacer las exigencias derivadas de los principios constitucionales y legales que rigen el ejercicio de la función administrativa. Esta investigación explora la implementación de tecnologías disruptivas en la Administración pública colombiana, los retos y límites que enfrenta, así como las alternativas que permitirían disminuir riesgos asociados a estas.

PALABRAS CLAVE

Administración pública; Big Data; Inteligencia artificial; Regulación; Gobernanza digital.

ABSTRACT

As governments implement disruptive technologies to facilitate decision-making and improve their relationship with citizens, fears grow around the use of artificial intelligence through machine-learning algorithms and Big Data analytics in Public Administration to regulate and grant rights. These concerns range from the inability of the State to regulate these technological advances in an efficient and timely manner, to the difficulty of these disruptive tools to satisfy the demands derived from the constitutional and legal principles that govern the exercise of the administrative function. This research explores the implementation of disruptive technologies in the Colombian Public Administration, the challenges and limits it faces, and the alternatives that would reduce associated risks.

KEYWORDS

Public Administration; Big Data; Artificial Intelligence; Regulation; Digital Governance.

INTRODUCCIÓN

El uso de tecnologías digitales basadas en la construcción, análisis, aprendizaje automático y explotación de datos se expande de forma acelerada a todos los sectores e industrias. Esta rápida difusión, con profundas implicaciones para las sociedades humanas contemporáneas¹, excede la capacidad de respuesta de los actores encargados de su ordenación (Erdelyi & Goldsmith, 2018). Aunque la irrupción de nuevas tecnologías como la Inteligencia Artificial o los macrodatos (Big Data) facilita el intercambio entre la oferta y la demanda en mercados consolidados² o recién organizados bajo actividades económicas, incluso de interés general³, ellas también constituyen actividades productivas diferenciables susceptibles de ser reguladas.

Como función, la regulación cuestiona la representación que se tiene del Estado⁴, asimilándola a una intervención general en la economía que atiende diversos fines y es capaz de designar numerosas actuaciones⁵. Dentro de estas intervenciones, se ubica una función específica de organización de actividades productivas para lograr condiciones de competencia y corrección de fallas presentes en mercados que, como la Inteligencia Artificial o la explotación con fines comerciales de macrodatos, se caracterizan por fuertes externalidades positivas y negativas, sociales y económicas⁶. Se trata de encontrar equilibrios entre desarrollo económico y rentabilidad y otros imperativos de interés general, como la propiedad industrial o la protección de usuarios, y asegurar la progresividad en las políticas públicas de acceso a nuevas tecnologías. Así entendida, la regulación requiere, antes que nada, de la intervención del legislador mediante el ejercicio de su potestad de configuración en materia económica, para determinar el ámbito de acción de la Administración⁷. De esta manera, el ejercicio de funciones regulatorias por parte de autoridades administrativas exige no solo una definición institucional previa por el legislador, que incluya un marco de gobernanza y mecanismos formales de coordinación (Organización para la Cooperación y Desarrollo Económico (OCDE), 2017, p. 3), sino que además se entienda cómo son aprovechadas tecnologías como la Inteligencia Artificial o los macrodatos por la industria, pero también en otros escenarios, como las administraciones públicas.

La definición de estas nuevas tecnologías no es una tarea fácil, si se tiene en cuenta que ellas encierran una variedad de conceptos. En efecto, bajo el término de Inteligencia Artificial se designa un amplio conjunto de métodos, algoritmos y sistemas computarizados que permiten adelantar tareas como el aprendizaje de máquina, razonamiento autónomo, reconocimiento de imágenes y sonidos y procesamiento de lenguaje natural (Von Krogh, 2018, pp. 404-409). Esta tecnología se ha definido también como cualquier dispositivo computacional que perciba su entorno y actúe intentando maximizar el éxito en un objetivo predefinido (Russell & Norvig, 2016). Es así como la expresión abarca términos como el de aprendizaje autónomo (machine learning) (Robinson & Smith, 2018, p. 355), visión computacional (computer vision), y procesamiento de lenguaje natural (natural language processing), entre otros. Pese a que nos referimos a la Inteligencia Artificial como un conjunto de tecnologías que procuran la automatización de tareas⁸, las reflexiones aquí expresadas se centran en la inteligencia de este tipo que es catalogada como estrecha o débil, esto es, aquella orientada a resolver problemas específicos, en oposición a la Inteligencia Artificial fuerte, que aún no es empleada y que, inspirada en la ciencia ficción, podría parecerse a la inteligencia humana para resolver problemas diversos y ser flexible (Turner, 2018).

Siguiendo este enfoque, la Inteligencia Artificial necesita grandes volúmenes de datos para “enseñar” a máquinas y sistemas, a través de procesos de programación, cómo realizar de forma autónoma una tarea. Es precisamente la construcción de datos, a partir de un aumento en la capacidad de procesamiento de computadores, lo que permitió desarrollos importantes de la Inteligencia Artificial en los últimos años, después de décadas de estancamiento⁹. Bajo el término Big Data, la comunidad científica identifica un gran volumen, altas velocidades y a una amplia variedad de activos de información que requieren formas innovadoras y ventajosas para su construcción y procesamiento, de manera que permitan un mayor conocimiento y precisión en la toma de decisiones¹⁰.

Empleados correctamente, los macrodatos y la Inteligencia Artificial pueden ayudar a la legitimidad de la acción administrativa, esto es, al logro de los fines esenciales del Estado, dentro de los cuales está facilitar la participación de todos en las decisiones que los afectan y en la vida económica, política, administrativa y cultural de la Nación¹¹, y a materializar una serie de garantías y principios que buscan que la función administrativa sirva el interés general¹². Como el procedimiento administrativo no constituye únicamente un instrumento de aplicación de la ley democrática, sino que es también el lugar donde se reconocen derechos para el ciudadano y deberes para la Administración (Barnes, 2019, pp. 82-83), el uso de estas nuevas tecnologías puede de igual manera contribuir a promover la transparencia y participación, asegurando una mejor aplicación de la legalidad y de la tutela de los intereses de los particulares. En tanto que usuario de nuevas tecnologías, la Administración pública puede beneficiarse tremendamente en eficacia y capacidad de respuesta frente al ciudadano, aunque enfrenta retos en el control y desarrollo de estas tecnologías.

De acuerdo con los lineamientos de la Organización para la Cooperación y el Desarrollo Económico (OCDE) para Colombia, en el gobierno electrónico el uso de las tecnologías de la información tiene como objeto la mejora de las actividades realizadas por entidades y organismos administrativos (Organización para la Cooperación y Desarrollo Económico (OCDE), 2017, p. 3). Ahora bien, a pesar de algunos resultados obtenidos¹³, el país sigue experimentando una demora en la implementación de políticas para el uso de nuevas tecnologías al interior de la Administración pública, situación que se acentúa al no existir la misma capacidad de asignación de recursos para la consolidación y uso de nuevas tecnologías de la información en todos los municipios y zonas del país (Zárate & Perdomo, 2019, nota 89)¹⁴. De ahí que el atraso de la Administración colombiana frente a estas tecnologías no solo repose en su actividad como regulador de estas industrias, sino que también se refiera a su rol como usuario de las mismas.

Para el cumplimiento de sus misiones, la Administración enfrenta dificultades tales como los tiempos de respuesta frente al acelerado desarrollo de nuevas tecnologías. Asimismo, el contexto económico y social incierto que representa su uso puede llevar al legislador a optar por disponer la forma en que deberá adoptarse tal decisión o resolverse un problema futuro, más que decidir cuál debe ser la solución exacta del caso¹⁵. El procedimiento administrativo aquí se emplea para compensar la pérdida de capacidad de la ley para dirigir la actividad administrativa, por lo que su objeto se localiza tanto en la creación, como en la aplicación del Derecho. Y es justamente al interior del procedimiento de formación del acto de regulación donde las dos caras de la moneda convergen, en la medida en que la apropiación de estas tecnologías por la Administración permitirá contar con informaciones para analizar las razones de conveniencia, la viabilidad jurídica, el costo-beneficio e impacto de la norma regulatoria, evitando así que la misma origine fallas en las industrias tecnológicas sobre las cuales está llamada a intervenir. El presente capítulo pretende identificar, por consiguiente, la forma como el recurso de estas tecnologías legitima su actividad como regulador y como usuario de las mismas, de manera que puedan cerrarse las brechas entre la respuesta de la Administración pública colombiana, como parte de una gobernanza de estas tecnologías, y de los desarrollos tecnológicos que se están originando mayoritariamente en otros ordenamientos jurídicos; jalonados por sectores públicos y privados, y por grandes universidades (Haenlein & Kaplan, 2019; Russell & Norvig, 2016).

A partir del enfoque de la gobernanza digital se persigue identificar las oportunidades y los desafíos en lo relativo a dos tecnologías digitales concretas: datos masivos e Inteligencia Artificial. Se plantea como hipótesis que los principales retos para la Administración pública colombiana como productora y como destinataria de las reglas que integran dicho conjunto están relacionadas con el recurso humano y financiero, así como con la toma de posición en las discusiones éticas y políticas relevantes. A su vez, estas dificultades se explican y se agudizan en buena medida por los vacíos regulatorios y la incapacidad de la Administración pública para dar respuesta a los mismos, esto es, para adentrarse en estos nuevos confines de la regulación.

Las reflexiones acerca de cuáles son los retos que enfrenta esta gobernanza frente a la aparición de una Administración computacional en Colombia, basada en la ciencia de datos y la Inteligencia Artificial, se construyen alrededor de un análisis interdisciplinario y con recursos puntuales al argumento comparado¹⁶, que emplea fuentes normativas, jurisprudenciales, artículos científicos, estudios de organismos públicos y documentos de interés. Las referencias concretas a otros sistemas nacionales y supranacionales en donde los avances tecnológicos han implicado una adaptación de las intervenciones públicas, se acompañan de un análisis de recomendaciones de organismos intergubernamentales. Junto con construcciones teóricas en ciencia política y ciencia administrativa se busca determinar los vacíos existentes en nuestro ordenamiento y revelar las oportunidades y desafíos que las tecnologías en Inteligencia Artificial y macrodatos traen para la Administración como usuaria (I), y como regulador de las mismas (II).

I. LA ADMINISTRACIÓN PÚBLICA COMO USUARIO DE TECNOLOGÍAS DISRUPTIVAS

La Administración pública puede ser el desarrollador de tecnologías digitales disruptivas¹⁷, pero más frecuentemente es el usuario de tecnologías desarrolladas por empresas privadas. Estas pueden ser usadas para ofrecer a los ciudadanos mejores bienes y servicios públicos, o para gestionar y mejorar internamente los procesos y actividades administrativas rutinarias. En ambos casos, la ciencia de datos y la Inteligencia Artificial brindan ventajas para las administraciones, pues los aumentos en eficiencia y eficacia que permiten son indiscutibles, y en ese sentido se espera que los ciudadanos reciban mejores resultados gracias a estas tecnologías. Sin embargo, este conjunto de herramientas presenta también unos retos para las administraciones que, hasta el momento, no están siquiera del todo claros en las discusiones públicas, tanto por su carácter técnico como por el aún imprevisible desarrollo de estas tecnologías. En esta sección se presenta la situación actual en términos de opciones ofrecidas por las tecnologías computacionales para las administraciones y los ciudadanos, y se introduce un análisis crítico de los problemas que estas generan o podrían generar en caso de ser adoptadas por Colombia, país en donde aún no se discuten con el rigor suficiente estas cuestiones¹⁸. En ese sentido, se pretende contribuir a la apertura de una discusión pública a través de una exposición clara de los retos que se presentan en materia social, política y ética, pero también administrativa y económica.

1. LA CIENCIA DE DATOS COMO BASE DE UNA GOBERNANZA DIGITAL

El marco de análisis para abordar este tema es la gobernanza digital (Andrews, 2018; Wang et al., 2018)¹⁹, entendida como el conjunto de decisiones, regulaciones y posiciones que toman los actores relevantes frente a temas de tecnologías digitales disruptivas y de cambio acelerado y los procedimientos y marcos institucionales para tomar dichas decisiones²⁰. Los actores de la gobernanza digital son principalmente gubernamentales, pero también intervienen en ella los ciudadanos, grupos de interés y las empresas que desarrollan el software. Para tener gobernanza digital se requiere entonces que la Administración pública tenga capacidad de entrega de bienes y servicios, capacidad regulatoria, coordinación y capacidad analítica (Andrews, 2018), ya que entre los actores de la gobernanza, el Estado sigue siendo el encargado de conducir y orientar las decisiones y en temas tecnológicos, y de implementar las políticas y crear los marcos regulatorios.

La discusión de la gobernanza digital es crucial para las administraciones del siglo XXI, pues corren el riesgo de ser dejadas de lado por tecnologías que no alcanzan a entender y que pueden afectar al público de maneras muy profundas (por eso el adjetivo disruptivas). La capacidad del Estado, y de la Administración pública en particular, de ser un interlocutor válido y de seguir guiando las regulaciones en estos temas es fundamental para evitar la captura del regulador por las empresas o los abusos frente a los ciudadanos. Uno de los aspectos de ese sistema consiste en la apropiación de tecnologías basadas en la construcción, análisis, aprendizaje automático y explotación de datos por parte de la Administración. La comprensión de este rol requiere identificar la manera en que la ciencia de datos, los datos abiertos, sus aplicaciones y retos inciden sobre la Administración pública colombiana (1.1). Una de estas aplicaciones consiste en servir al desarrollo de la Inteligencia Artificial y sus usos que, aunque aún incipientes y restringidos al sector privado nacional, presentan desafíos para la gobernanza digital con relación a decisiones éticas y políticas frente a estos desarrollos, más inciertos que los anteriores y aún en progreso (1.2).