Regulación de la IA: ¿sirve a la dignidad humana o a la deshumanización automatizada? Aportes de la Universidad pública en el Congreso de la República

Desde la tribuna de la iniciativa Sin Culillo, que promueve la educación política popular, les comparto un hito crucial: mi participación en el Congreso de la República para comentar el proyecto de Ley que busca regular la Inteligencia Artificial (IA) en el país.

Robot, imagen de archivo de wix

Este espacio es una victoria para la academia pública y para la visión colectiva. Como politóloga de la Universidad Nacional, especialista en planificación y desarrollo regional y doctora en pensamiento complejo, tuve el privilegio de representar no solo la voz de la academia (que es la representación del proyecto cultural, científico y colectivo de la nación - UNAL), sino también las conclusiones de un ejercicio profundo de políticas públicas realizado con un grupo interdisciplinario de mis estudiantes (profesionales de la salud, ciencias jurídicas, ingeniería y ciencia política).

Nuestra posición no será popular entre los sectores empresariales que piden menos regulación, pero es fundamental para la defensa de la dignidad. La gran pregunta que propusimos es: ¿La regulación de la IA pondrá la dignidad humana como principio rector o como una nota a pie de página?

La profa te cuenta qué dijimos en el Congreso sobre el borrador de Ley de IA. Si no garantizamos los Derechos Humanos primero, la Inteligencia Artificial solo repetirá nuestros conflictos. ¡Ayúdanos a llevar la educación política a estos debates!

Punto 1: La deshumanización y el principio básico olvidado

El corazón de nuestra intervención fue un llamado contundente: Todo el articulado del proyecto de ley debe fundamentarse sobre la base de los Derechos Humanos y la dignidad humana.

Esto no suena "raro," pero la realidad es que el borrador del proyecto de ley relega este principio a un puesto secundario, apareciendo aproximadamente en el puesto número 12 de los principios del Artículo 3.

Si la Defensoría del Pueblo ya ha señalado que el primer y gran riesgo de la adopción de la IA es la deshumanización de la sociedad, debemos entender que lo que nos distingue como colectividad y lo que ha dirigido nuestra forma de vida por milenios es precisamente nuestra naturaleza humana. Por ello, la garantía de los Derechos Humanos debe ser el primer principio de cualquier regulación.

Punto 2: Transparencia algorítmica o el riesgo de la cero responsabilidad

El conflicto más alto que identificamos, desde la perspectiva de políticas públicas, es el riesgo de la toma de decisiones públicas automatizadas (TDPA). Hablamos de aquellas decisiones tomadas por la rama ejecutiva, mediadas intensamente por la automatización, como la distribución de recursos y subsidios basada en la calidad de datos (citamos como ejemplo sistemas como SISPRO o SISBÉN).

Para evitar la reproducción de sesgos y errores históricos, la transparencia algorítmica para los procesos de TDPA es fundamental y rectora. Pero el debate polémico va más allá del simple error estadístico: ¿Qué pasa si en un país con conflicto activo volvemos a repetir ejecuciones extrajudiciales y, al buscar responsables, se nos dice que la decisión la tomó nadie sino un algoritmo, como “Chat GPT”?.

Es un riesgo real, y por ello la regulación debe incluir responsabilidades claras que impidan que la IA se convierta en una excusa para la impunidad.

Punto 3: La visión incompleta o del ecocidio digital y la falta de articulación

Uno de los puntos más críticos que señalamos fue la ausencia de sectores clave en la mesa interinstitucional de regulación. El proyecto de ley propone una mesa de trabajo, pero deja fuera, notablemente, al sector Salud y al sector Ambiente.

¿Por qué es esto inadmisible?

1. Salud: Si bien la regulación tiene implicaciones éticas profundas en el manejo de datos de pacientes y en la toma de decisiones clínicas, el sector salud no ha sido incluido.

2. Ambiente: El funcionamiento del software de inteligencia artificial y los dispositivos requiere un uso intensivo de energía. La creación de data centers de uso público (necesarios para garantizar nuestra soberanía tecnológica) tendrá un impacto ambiental masivo. Ignorar al sector ambiente en esta discusión es invisibilizar el costo ecológico de la digitalización.

Punto 4: Soberanía tecnológica y autodeterminación de saberes

No podemos permitir que esta tecnología profundice la exclusión histórica. Es imperativo incluir una dimensión diferencial en la regulación para garantizar la participación y el trato diferenciado de las comunidades históricamente excluidas en relación con sus datos personales.

Más aún, sus saberes deben responder a principios de autodeterminación tecnológica. Las comunidades tienen el derecho a decidir si quieren o no que sus conocimientos, su cultura y sus formas de vida alimenten los sistemas de inteligencia artificial. Esto es un asunto de soberanía sobre sus propios futuros.

Punto 5: Inversión pública para ecosistemas colectivos

Finalmente, la regulación de la IA no es solo sobre riesgos, sino también sobre la distribución de la inversión pública desde el Ministerio de Ciencia y Tecnología.

La IA debe ser vista como un motor de reconstrucción de futuros colectivos posibles. Esto exige una apuesta decidida para que la distribución de estos recursos públicos sirva para fortalecer el ecosistema público. Esto significa:

• Inversión en investigación y desarrollo en universidades públicas.

• Fortalecimiento de las capacidades de innovación de centros de pensamiento e instituciones públicas esenciales (como el Instituto Nacional de Salud, el Instituto Nacional de Cancerología o la Registraduría).

¡Necesitamos tu apoyo para que este debate siga siendo #SinCulillo!

Analizar un proyecto de ley, coordinar un grupo de estudio interdisciplinario, y llevar una postura crítica y bien fundamentada al Congreso requiere tiempo, recursos y una plataforma robusta para compartir esta información.

La iniciativa Sin Culillo convierte estos debates técnicos en herramientas de educación política para que cualquiera pueda entender y luchar por su derecho a un futuro digno y humano.

Tu donación garantiza que podamos seguir produciendo análisis profundos, cubriendo los gastos logísticos y expandiendo nuestra misión de democratizar el conocimiento político complejo.

👉🏻 ¡Haz clic aquí para donar y apoyar el análisis de políticas públicas con perspectiva crítica!

Gracias a todos los estudiantes de la universidad pública que hicieron aportes tan importantes. Seguimos en la lucha, sin miedo a lo político, y con la convicción de que la tecnología debe servir a la vida, no a la deshumanización.

¡Hasta la próxima, sin culillo!