Universidades no podrían experimentar, por su cuenta, con IA para la admisión o seguimiento de estudiantes

TÍTULO I. DISPOSICIONES GENERALES

Artículo 1. Objeto

La presente ley tiene por objeto establecer el marco normativo aplicable al desarrollo, implementación, uso, investigación, comercialización y supervisión de los sistemas de inteligencia artificial en Colombia, promoviendo su aprovechamiento ético, responsable, confiable, centrado en el ser humano y respetuoso de los derechos fundamentales.

Artículo 2. Ámbito de aplicación

La presente ley será aplicable a:

a) Todos los sistemas de inteligencia artificial desarrollados, implementados, utilizados, comercializados, investigados o supervisados en el territorio colombiano.
b) Los sistemas de inteligencia artificial desarrollados fuera del país, pero cuyo uso tenga efectos jurídicos o fácticos en el territorio nacional.
c) Las personas naturales o jurídicas, públicas o privadas, nacionales o extranjeras, que participen en el ciclo de vida de los sistemas de inteligencia artificial en los términos de la presente ley.

Artículo 3. Principios

La interpretación y aplicación de esta ley se orientará por los siguientes principios:

1. Principio de respeto a los derechos humanos: Todas las acciones en torno al desarrollo y uso de la inteligencia artificial deben garantizar la protección efectiva de los derechos fundamentales reconocidos en la Constitución Política, los tratados internacionales ratificados por Colombia y demás normas aplicables.

2. Principio de explicabilidad: Las decisiones adoptadas por los sistemas de inteligencia artificial deben ser comprensibles para los usuarios y las personas afectadas por ellas.

3. Principio de no discriminación: Los sistemas de inteligencia artificial no deberán generar, amplificar ni perpetuar prácticas discriminatorias.

4. Principio de supervisión humana: Toda decisión automatizada deberá ser supervisada por personas humanas para garantizar la corrección de sesgos y la reversibilidad de los efectos perjudiciales.

5. Principio de precaución: En caso de duda sobre los riesgos o consecuencias del uso de un sistema de inteligencia artificial, se adoptarán medidas preventivas para evitar daños a las personas o al medio ambiente.

6. Principio de responsabilidad: Los actores involucrados en el ciclo de vida de los sistemas de inteligencia artificial deberán asumir la responsabilidad por los impactos de estos en la sociedad.

7. Principio de transparencia: Deberá garantizarse la disponibilidad de información suficiente y clara sobre el funcionamiento, las limitaciones y los riesgos de los sistemas de inteligencia artificial.

8. Principio de rendición de cuentas: Toda persona natural o jurídica responsable del desarrollo, implementación o uso de sistemas de inteligencia artificial deberá responder por sus actos ante las autoridades competentes.

9. Principio de proporcionalidad: Las medidas adoptadas para mitigar los riesgos derivados de los sistemas de inteligencia artificial deberán ser adecuadas, necesarias y proporcionales al nivel de riesgo identificado.

10. Principio de innovación responsable: El Estado promoverá el desarrollo e implementación de sistemas de inteligencia artificial que contribuyan al bienestar común y al desarrollo sostenible, bajo criterios éticos y sociales.

TÍTULO II. CLASIFICACIÓN DE LOS SISTEMAS DE INTELIGENCIA ARTIFICIAL

Artículo 4. Categorías de riesgo

Los sistemas de inteligencia artificial serán clasificados según su nivel de riesgo en:

a) Riesgo inaceptable.
b) Riesgo alto.
c) Riesgo limitado.
d) Riesgo mínimo.

Artículo 5. Sistemas de riesgo inaceptable

Se prohíbe el desarrollo, comercialización, uso o implementación de los siguientes sistemas de inteligencia artificial:

1. Aquellos que manipulen el comportamiento humano de forma que puedan causar daño a personas o grupos sociales, a través de técnicas subliminales o explotación de vulnerabilidades.

2. Aquellos que implementen puntuación social estatal o privada que derive en consecuencias jurídicas o afectaciones significativas a los derechos de las personas.

3. Aquellos que afecten de manera grave e irreversible los derechos fundamentales.

Artículo 6. Sistemas de alto riesgo

Se consideran de alto riesgo aquellos sistemas de inteligencia artificial que afecten significativamente los derechos fundamentales, tales como:

a) Sistemas utilizados en la educación para evaluación, admisión o seguimiento de estudiantes.
b) Sistemas utilizados en procesos de selección y gestión laboral.
c) Sistemas que asistan en la administración de justicia.
d) Sistemas utilizados para acceder a servicios sociales o de salud.
e) Sistemas que afecten la seguridad pública.
f) Sistemas utilizados en contextos democráticos o electorales.

Artículo 7. Obligaciones para sistemas de alto riesgo

Los sistemas de alto riesgo deberán cumplir con las siguientes obligaciones:

1. Evaluación de impacto sobre los derechos fundamentales.

2. Implementación de medidas de gestión de riesgos.

3. Documentación técnica detallada sobre el diseño, propósito y funcionamiento del sistema.

4. Registro en el Registro Nacional de Sistemas de Inteligencia Artificial.

5. Supervisión humana durante la operación del sistema.

6. Aplicación de medidas de ciberseguridad y privacidad.

7. Establecimiento de mecanismos de trazabilidad, auditabilidad y control.

8. Disposición de canales de reclamo y reparación para personas afectadas.

Artículo 8. Sistemas de riesgo limitado

Los sistemas de riesgo limitado son aquellos cuya interacción con personas requiere que estas sean conscientes de que están interactuando con una inteligencia artificial. Sus responsables deberán proporcionar información clara y comprensible al respecto.

Artículo 9. Sistemas de riesgo mínimo

Los sistemas de riesgo mínimo no estarán sujetos a obligaciones específicas distintas de las buenas prácticas generales, salvo cuando se identifiquen efectos adversos no previstos.

TÍTULO III. GOBERNANZA Y SUPERVISIÓN

Artículo 10. Autoridad Nacional para la Inteligencia Artificial

Créase la Autoridad Nacional para la Inteligencia Artificial, como entidad técnica de alto nivel, adscrita al Ministerio de Ciencia, Tecnología e Innovación, encargada de coordinar la implementación de esta ley y de emitir los lineamientos necesarios para su cumplimiento.

Artículo 11. Funciones de la Autoridad Nacional

Entre otras:

1. Emitir directrices técnicas y éticas.

2. Establecer criterios para la clasificación de riesgos.

3. Administrar el Registro Nacional de Sistemas de IA.

4. Supervisar el cumplimiento de esta ley.

5. Aplicar el régimen sancionatorio.

6. Promover la participación pública y el control social.

Artículo 12. Registro Nacional de Sistemas de Inteligencia Artificial

Créase el Registro Nacional de Sistemas de Inteligencia Artificial, donde deberán inscribirse los sistemas clasificados como de alto riesgo, incluyendo información técnica, funcional, de responsables, evaluaciones, impactos y reclamaciones.

Artículo 13. Supervisión y monitoreo

La Autoridad Nacional desarrollará mecanismos de supervisión activa, auditorías, evaluaciones periódicas y publicaciones para garantizar la legalidad, efectividad y seguridad de los sistemas de inteligencia artificial en funcionamiento.

Artículo 14. Sandboxes regulatorios

La Autoridad Nacional podrá establecer entornos de prueba regulados o sandboxes, que permitirán la experimentación de sistemas de inteligencia artificial bajo condiciones controladas y con supervisión estatal.

TÍTULO IV. FOMENTO A LA INNOVACIÓN, EDUCACIÓN Y COOPERACIÓN INTERNACIONAL

Artículo 15. Estrategias de formación y apropiación

El Gobierno nacional promoverá programas educativos, estrategias de apropiación social del conocimiento, formación técnica, profesional y posgradual, enfocados en el desarrollo y uso responsable de la inteligencia artificial, incluyendo contenidos sobre ética, derechos humanos, privacidad, seguridad digital y sostenibilidad.

Artículo 16. Inclusión y enfoque diferencial

Las políticas públicas relacionadas con inteligencia artificial deberán incorporar un enfoque diferencial, de género, interseccional, territorial, étnico y de accesibilidad, a fin de reducir brechas y garantizar la participación de grupos tradicionalmente marginados.

Artículo 17. Incentivos a la investigación, desarrollo e innovación

El Estado promoverá la investigación, el desarrollo tecnológico y la innovación en el ámbito de la inteligencia artificial mediante:

1. Convocatorias públicas de fomento a proyectos científicos.

2. Alianzas público-privadas.

3. Estímulos tributarios.

4. Acceso a infraestructura y recursos de investigación.

Artículo 18. Apoyo a MIPYMES y emprendimientos

El Gobierno nacional adoptará medidas para facilitar el acceso de micro, pequeñas y medianas empresas, así como de emprendimientos, a tecnologías de inteligencia artificial, capacitación, financiamiento y redes de cooperación.

Artículo 19. Cooperación internacional

El Estado colombiano promoverá la colaboración internacional en materia de inteligencia artificial, con el fin de intercambiar conocimientos, buenas prácticas y estándares técnicos, así como para participar activamente en foros multilaterales.

TÍTULO V. RESPONSABILIDAD, REPARACIÓN Y RÉGIMEN SANCIONATORIO

Artículo 20. Responsabilidad

Los desarrolladores, proveedores, usuarios y demás actores involucrados en el ciclo de vida de los sistemas de inteligencia artificial serán responsables por los daños que su implementación cause a personas, bienes o al medio ambiente, conforme al régimen general de responsabilidad civil, administrativa, disciplinaria o penal.

Artículo 21. Mecanismos de reparación

Las personas afectadas por el uso indebido o defectuoso de sistemas de inteligencia artificial tendrán derecho a una reparación adecuada, efectiva y proporcional al daño sufrido, que podrá incluir compensación económica, rectificación, eliminación de datos o garantías de no repetición.

Artículo 22. Infracciones

Constituyen infracciones a esta ley:

1. El desarrollo, implementación, comercialización o uso de sistemas de riesgo inaceptable.

2. El incumplimiento de las obligaciones previstas para sistemas de alto riesgo.

3. La falta de registro de un sistema de alto riesgo en el Registro Nacional de Sistemas de IA.

4. La omisión de evaluaciones de impacto.

5. El uso de sistemas de IA sin la debida transparencia o información al usuario.

6. La falta de supervisión humana o medidas de mitigación de riesgos.

Artículo 23. Sanciones

Las sanciones por infracción a esta ley podrán consistir en:

1. Multas de hasta diez mil (10.000) salarios mínimos mensuales legales vigentes.

2. Suspensión temporal del uso o comercialización del sistema infractor.

3. Clausura definitiva del sistema infractor.

4. Prohibición temporal o permanente de desarrollar o utilizar sistemas de IA.

5. Orden de reparación a las personas afectadas.

Artículo 24. Graduación de sanciones

La Autoridad Nacional graduará las sanciones teniendo en cuenta:

1. La gravedad del hecho.

2. La reincidencia del infractor.

3. La cooperación con la autoridad.

4. El impacto social o ambiental.

5. Las medidas de corrección adoptadas.

Artículo 25. Prescripción

La acción para imponer sanciones prescribe en cinco (5) años contados desde la comisión de la infracción.

Artículo 26. Procedimiento sancionatorio

El procedimiento para la imposición de sanciones se sujetará a lo establecido en el Código de Procedimiento Administrativo y de lo Contencioso Administrativo.

TÍTULO VI. DISPOSICIONES FINALES Y TRANSITORIAS

Artículo 27. Rol de las autoridades sectoriales

Las autoridades sectoriales conservarán sus competencias legales y podrán emitir regulaciones complementarias sobre el uso de inteligencia artificial en su respectivo ámbito, en coordinación con la Autoridad Nacional.

Artículo 28. Observatorio de Inteligencia Artificial

El Gobierno nacional promoverá la creación de un Observatorio Nacional de Inteligencia Artificial que recopile información, monitoree tendencias, promueva el debate público y fomente el desarrollo ético de esta tecnología.

Artículo 29. Enfoque de derechos humanos y sostenibilidad

La implementación de esta ley deberá garantizar la protección de los derechos humanos y la contribución de la inteligencia artificial al cumplimiento de los Objetivos de Desarrollo Sostenible.

Artículo 30. Reglamentación

El Gobierno nacional expedirá la reglamentación necesaria para la implementación de la presente ley dentro de los doce (12) meses siguientes a su promulgación.

Artículo 31. Evaluación y seguimiento

La Autoridad Nacional deberá rendir informes anuales al Congreso de la República sobre la implementación, avances, desafíos y resultados derivados de la aplicación de esta ley.

Artículo 32. Participación ciudadana

El Estado garantizará la participación de la sociedad civil, la academia, el sector privado y los grupos sociales en el diseño, implementación y seguimiento de las políticas públicas sobre inteligencia artificial.

Artículo 33. Adaptación normativa

El Gobierno nacional promoverá la revisión y actualización de las normas sectoriales, laborales, educativas, ambientales y de protección al consumidor, a fin de armonizarlas con los objetivos de esta ley.

Artículo 34. Recursos presupuestales

El cumplimiento de esta ley se realizará con cargo a los presupuestos de las entidades responsables, sin afectar las apropiaciones de inversión social.

Artículo 35. Vigencia y derogatorias

La presente ley rige a partir de su promulgación y deroga todas las disposiciones que le sean contrarias.

Artículo 36. Entrada en vigor progresiva

El Gobierno podrá establecer, mediante reglamento, un calendario de entrada en vigor de las obligaciones establecidas en esta ley, de acuerdo con el tipo de sistema de IA, el nivel de riesgo y la capacidad de los actores.

Artículo 37. Publicación

La presente ley será publicada en el Diario Oficial y en el portal web de la Autoridad Nacional de Inteligencia Artificial.