Siete puntos para una conversación humana sobre IA en Colombia

[Ayudante De Santa]

[Heráclito]

Para reflexionar:

Siete puntos para una conversación humana sobre IA en Colombia

por Laura Camila Torrado Rangel

https://i0.wp.com/www.lasillavacia.com/wp-content/uploads/2025/08/Inteligencia-artificial-en-Colombia.jpeg?w=1200&ssl=1

La Inteligencia Artificial (IA) está cambiando casi todos los aspectos de la vida humana, desde la comunicación y las relaciones interpersonales, hasta el empleo y las formas de hacer política. En Colombia, recientemente, el presidente Gustavo Petro habló de crear una nube soberana con datos del país, el ministro de Defensa Pedro Sánchez compartió una estrategia con IA para combatir el crimen y mejorar las capacidades del sector, y el Ministerio de Ciencia y Tecnología radicó un proyecto ambicioso para regular su uso. Estas propuestas en distintos frentes, y los cambios globales por el auge de la IA, plantean preguntas profundas sobre qué tipo de sociedad tenemos y cuál queremos tener.

La Silla Académica propone siete puntos para una conversación sobre la inteligencia artificial en Colombia a partir de las ideas de profesores de la facultad de Ciencias Sociales de la Universidad de los Andes, la última edición de la Revista Imprenta “Ciencias Sociales en la era de la inteligencia artificial: prácticas, retos y horizontes”, y el número 93 de la Revista de Estudios Sociales “La inteligencia artificial y las ciencias sociales” de la misma facultad.


1. Tener un concepto amplio sobre qué es inteligencia artificial

El uso cada vez más frecuente de sistemas de inteligencia artificial generativa (IAG) o modelos de lenguaje como ChatGPT en la vida diaria de las personas intensificó la conversación sobre la IA, aunque con una visión limitada sobre lo que es.

Como explica Catalina Bernal, subdirectora de datos de Quantil, una compañía de minería de datos, la IA “está presente en muchas de nuestras actividades diarias, no solo en los modelos de lenguaje o los dispositivos tecnológicos, también en servicios de streaming, procesos de optimización de transporte como Google Maps, las redes sociales o en sistemas de diagnóstico médico. Muchas de las decisiones que tomamos ya están atravesadas por algún tipo de algoritmo”.

En un sentido amplio, la IA son sistemas computacionales que tienen algún grado de autonomía para resolver problemas definidos por seres humanos mediante la simulación de algunas funciones cognitivas humanas como reconocer, clasificar, predecir y optimizar.

Para Juan David Gutiérrez, profesor de la Escuela de Gobierno de la Universidad de los Andes, la comprensión de la IA de forma amplia permite reconocer los avances que ha tenido el país en esta materia, pero también las posibilidades a futuro. Dice que Colombia, como otros países del mundo, hace uso de la IA en sistemas públicos y privados desde hace más de tres años, cuando comenzó el auge en el uso de ChatGPT por parte de las personas a nivel individual: “Hace muchos años que los colombianos estamos expuestos a herramientas que operan a partir de algoritmos de inteligencia artificial. El ciudadano de a pie no es consciente de que cuando usa Waze, Google o YouTube ya está expuesto a la IA”.

Ampliar la visión que tenemos sobre la IA implica evitar una visión inflada de sus capacidades. El profesor de filosofía Carlos Montemayor, de la Universidad Estatal de San Francisco, apunta que a la IA actual, aunque revolucionaria en muchos aspectos, le faltan elementos fundamentales de la inteligencia humana como el contacto directo con el mundo físico, capacidades racionales plenas, memoria persistente y verdadera autonomía, entendida como metas, intereses y necesidades propias. Por eso, para él, el riesgo de pensar que puede sustituir la inteligencia humana está en “la potencial deshumanización del conocimiento y el deterioro de nuestras capacidades para relacionarnos auténticamente con el mundo”, pues no son equivalentes.


2. Conocer cómo y en qué usamos la IA

Colombia ocupa el primer lugar entre los países de la región que usan sistemas de IA en el sector público con 259 sistemas, según el informe del Sistema de Algoritmos Públicos de la Universidad de los Andes.

Sobre todo usa Sistemas de Toma Automatizada de Decisiones (SDA), que son herramientas tecnológicas para automatizar o asistir funciones y actividades. Los usos más comunes en el sector público son el reconocimiento humano (188), ayudar en la interacción entre personas y tecnología (128), crear eventos o alertas (77) y optimizar procesos para cumplir objetivos (76).

Entre 2020 y 2022, estos sistemas crecieron rápidamente con el gobierno como líder en su implementación (59%), seguido de instituciones educativas y empresas estatales (29%), órganos de control como la Contraloría (6%) y el poder judicial y organizaciones electorales en menor medida (4%).

La variedad de usos muestra los alcances de la IA en Colombia. Existen sistemas como Guardianes de la Selva del Instituto Humboldt, que usa dispositivos de grabación acústica para detectar actividades que ponen en riesgo los ecosistemas, como la caza furtiva o la tala, por medio del sonido. Crédito Peso a Peso, de la Alcaldía de Bogotá, que conecta pequeños negocios con aliados financieros para reducir el riesgo de que recurran al gota a gota y facilitar el acceso a créditos. O sistemas predictivos como Deméter para hacer pronósticos climáticos y de rendimiento de cultivos para campesinos a través de chatbots.

Hay otros de uso interno como Sherlock, de la Superintendencia de Industria y Comercio, que sirve para identificar infracciones en contratación pública, la Red Neuronal del Dane, creado para reparar el error del censo del 2018 donde hubo un subregistro de la población afro, o PretorIA para facilitar la selección de los procesos de tutela en el sistema judicial.

Muchos otros se enfocan en la seguridad y el crimen y usan herramientas de reconocimiento facial. X-crime de la Policía Nacional anticipa delitos y optimiza el despliegue de fuerzas policiales usando una IA para cruzar grandes bases de datos e información. El Centro de Mando y Control del Banco Agrario usa cámaras, así como lo hacen TransMilenio o las cámaras multisensor de Bogotá Camina Segura, con capacidad de reconocimiento biométrico y consulta de antecedentes judiciales.

Para Juan David Gutiérrez, todos estos sistemas “han supuesto cambios silenciosos que muchas personas quizá no perciben, que influyen en su vida y transforman, sin que lo noten, la manera en que se relacionan con el Estado”. Pero el avance tecnológico no ha ido a la par con la transparencia y la rendición de cuentas porque la información pública sobre las fuentes de financiación, los montos de inversión o los resultados obtenidos es limitada.

Tampoco hay mucha información sobre cómo funcionan, si es necesario algún tipo de consentimiento por parte de las personas, por ejemplo, para que sus rostros sean identificados biométricamente, y cuáles son los riesgos que puede haber en términos de derechos humanos, perfilamiento o sesgos de la IA que puedan tener consecuencias en la vida de las personas.


3. Poner al humano en el centro

En la conversación pública sobre inteligencia artificial predomina la visión tecnológica de progreso, eficiencia y productividad. Pero las decisiones algorítmicas tienen impactos en la vida de las personas, desde cómo nos comunicamos y construimos nuestra identidad, hasta cómo cooperamos y resolvemos desacuerdos. No se trata de temerle a la IA, sino de tomar decisiones que orienten su desarrollo.

Andrés Páez, profesor de filosofía de la facultad de Ciencias Sociales de la Universidad de los Andes, plantea la necesidad de “pensar en la IA centrada en el humano”. Para él, esto implica reconocer el papel de las ciencias sociales para analizar sus consecuencias en la vida social y, en especial, transformar su futuro. Ese enfoque trasciende la infraestructura tecnológica hacia preguntas sobre lo que significa ser humano, las responsabilidades frente a la IA, cómo cambiarán las relaciones sociales o qué ocurrirá con la democracia y la discriminación algorítmica.

Por ejemplo, en las relaciones interpersonales, Páez argumenta que herramientas como chatbots, aplicaciones de citas o redes sociales mediadas por IA influyen en la amistad, el amor y la intimidad. Herramientas como los amigos virtuales desarrollados por Meta “crean expectativas distorsionadas de lo que es una interacción humana”, refuerzan sesgos políticos o creencias extremas, pero también pueden llevar al aislamiento.

Poner al humano en el centro también trae a la conversación la relación de la IA con el trabajo. Por un lado, por la incertidumbre de cómo afectará la vida laboral de las personas, que no pasará del mismo modo para todos. Trabajos que puedan ser reemplazados por completo por la IA desaparecerán, mientras que otros que solo pueden ser parcialmente reemplazados podrían hacerse más eficientes o empobrecerse al crear dependencias.

Y, por otro, implica traer al centro de la conversación el trabajo fantasma de la IA, que hace referencia a los humanos que trabajan y permiten que funcionen los sistemas. Muchos trabajan de manera informal en plataformas, no hay mucha regulación y los usuarios de la tecnología suelen desconocer ese trabajo humano.

En medio de los cambios ocasionados por el uso de la IA, pensarla desde las aulas puede ayudar a definir un rumbo claro, con el desarrollo de habilidades de pensamiento crítico en el centro. El uso de la IA en las aulas de clase, en especial universitarias, ya es un hecho. En términos generales, hay un consenso, con más o menos resistencias, sobre la necesidad de enseñar a usarla de manera crítica y asumir que hace parte de las formas de enseñar y de aprender hoy.

Esto implica que la IA se utilice como una herramienta para potenciar el aprendizaje y la reflexión, y que tanto docentes como estudiantes desarrollen una alfabetización crítica en IA que les permita comprender sus límites, sesgos y potencial, sin buscar reemplazar al humano que está involucrado en el proceso de aprender.


4. Crear mecanismos contra la discriminación algorítmica

Para el profesor Páez, los sesgos algorítmicos son “otra fuente de distorsión social, otra amenaza a la democracia y al orden social”, pues favorecen o perjudican sistemáticamente a grupos específicos, en especial a los más desfavorecidos. La discriminación algorítmica, explica, ocurre “cuando un sistema computacional basado en algoritmos de aprendizaje automático arroja resultados sistemáticamente sesgados contra un grupo de personas”.

Estos sesgos no solo afectan el ecosistema digital porque, según Jairo Santander, coordinador de la línea de Instituciones, paz y desarrollo del Cider, “los algoritmos han adquirido un protagonismo inédito en la estructuración de la vida cotidiana”, actuando como “marcos normativos invisibles” que filtran aspectos fundamentales de la vida social.

El problema, en primer lugar, está en que la IA se entrena con datos que ya contienen discriminaciones históricas. Amazon, por ejemplo, desarrolló un modelo para contratación que favorecía a hombres porque su base de datos mostraba que el 63 % de los contratados eran varones. Otros casos incluyen fallos en sistemas de reconocimiento facial para personas de piel oscura que impiden que accedan a sus lugares de trabajo o en diagnósticos médicos, como la detección de melanomas, donde la falta de datos representativos compromete la precisión para ciertos grupos.

Catalina Bernal y Melissa Robles, subdirectoras de datos de Quantil, dicen que el riesgo aumenta cuando la IA participa en decisiones críticas, como definir si alguien recibe un crédito, accede a un programa social, es excluido de un proceso de contratación o sale de la cárcel. “Aquí es donde la intervención humana se vuelve completamente relevante”, dicen, pues sin ella se amplifican patrones de discriminación hasta el punto de vulnerar derechos humanos. También subrayan que gran parte de las estrategias para mitigar sesgos están diseñadas en inglés y para contextos de Norteamérica, por lo que no contemplan patrones de discriminación propios de Colombia, como la xenofobia, el clasismo, el racismo y los sesgos de género.

En lo técnico, ambas destacan que los sesgos pueden aparecer en cualquier fase del desarrollo de un modelo, desde la recolección de datos hasta el procesamiento. Existen estrategias de detección y mitigación, como limpieza de datos, ajustes en el entrenamiento y filtros para modelos de lenguaje, pero requieren implementación sistemática.

En otra dimensión, Páez muestra que, en Colombia y varias partes del mundo, no hay mecanismos jurídicos o legislación específica para la discriminación algorítmica, lo que puede volver inefectivos los procesos judiciales en eventos de discriminación causados por sesgos algorítmicos. Si bien, para él, una alternativa para estos casos es “invertir la carga de prueba”, considera más viable regular a nivel local el uso de estas herramientas, especialmente en decisiones automatizadas, y tipificar la discriminación algorítmica. Bernal y Robles suman tres ejes para esa agenda: transparencia, para que las personas sepan cuándo su información pasa por un modelo; accountability, para que quienes desarrollan o implementan sistemas respondan por su impacto; y democratización del conocimiento, para que la sociedad comprenda sus riesgos.


5. Entender cómo afecta la democracia

La IA puede afectar negativamente la democracia debido a la creación de información falsa que las personas comparten y viralizan, por el refuerzo de sesgos, discursos polarizados y extremistas o hacer que se habite un espacio pobre en diversidad de información.

Este impacto, en algún grado, tiene que ver con cómo usamos la IA, pero también con cómo operan sus algoritmos que, para Páez, crean estructuras de conocimiento como las cámaras de eco: “Las cámaras de eco funcionan con una estructura similar a un culto donde activamente se desacreditan las voces contrarias. Aquí las personas saben perfectamente que hay posiciones contrarias a las de ellos, como los antivacunas o terraplanistas, que conocen perfectamente los argumentos contrarios, pero tienen siempre las respuestas preprogramadas”.

Se trata, entonces, de “encontrar maneras para lograr que la tecnología tenga el lugar correcto y adecuado dentro de la sociedad”, dice Páez. Una de las opciones es encontrar formas para diversificar la información que le llega a cada persona en internet: “Cómo hacer que en estos espacios de IA pueda haber ‘encuentros de acera’, como cuando se está en la calle y uno está expuesto a esa diversidad”, explica Páez.

Diana Acosta Navas, de la Universidad de Loyola, Chicago, menciona los sistemas puente, algoritmos que tienen como objetivo crear espacios de deliberación entre grupos divididos y aumentar el entendimiento entre ellos, como un paso importante, aunque insuficiente, para contrarrestar efectos de la tecnología en las democracias. En particular porque pueden promover espacios para que las personas puedan corregir creencias falsas, en contravía de cómo han funcionado hasta ahora las plataformas digitales.

“Tomar decisiones colectivas buenas, basadas en cómo es el mundo, requiere tener la capacidad de superar el error tanto a nivel individual como a nivel colectivo. Eso necesita tener una relación dinámica con nuestras creencias, que evite el dogmatismo, nos permita adaptarnos al mundo y evaluar los méritos epistémicos de las ideas que encontramos en el entorno. Que muchas veces puede estar lleno de falsedades, como puede pasar en las plataformas digitales”, dice. Con esto, existe el riesgo de delegar en un algoritmo algo que corresponde a las personas o de causar una falsa sensación de consenso en la opinión pública y, de fondo, está la pregunta por qué tanto queremos que estas herramientas tecnológicas sean centrales para mejorar la toma de decisiones colectivas.


6. Encarar los impactos ambientales

El uso de la IA se acompaña de una gran pregunta por su impacto en el medioambiente y cómo conciliar ese costo con los beneficios en otras áreas. La IA golpea al medioambiente al necesitar grandes cantidades de agua para enfriar los servidores, pero también por la explotación de minerales para la producción de chips destinados al desarrollo de este tipo de sistemas y el manejo de los desechos tecnológicos. Para Ana Valdivia, profesora e investigadora en inteligencia artificial, gobierno y política de la Universidad de Oxford, es necesario hablar de este impacto ambiental en un momento crítico del cambio climático ocasionado por la actividad humana y los sistemas económicos y sociales en los que vivimos.

Un ejemplo concreto es que el modelo de lenguaje LLaMA 3 de Meta consumió 22 millones de litros de agua en 97 días, “lo que equivale al uso de una persona en Bogotá durante 400 años. Esto nos muestra el reto ecopolítico que viene con la IA: ¿Para quién vamos a priorizar el agua?”, dice Valdivia. En cuanto a la basura electrónica, los chips tienen una vida útil de apenas cinco años y se suelen quemar o enviar con otros desechos al sur global una vez se vuelven inútiles, lo que se conoce como externalización.

En esto, la falta de transparencia sobre las cadenas de suministro y el uso real de recursos agrava el problema. Por ejemplo, en Colombia, la discusión ambiental sobre la IA también debería incluir el hecho de que el país es proveedor de oro extraído por medio de la minería para la producción de chips.

Para William Jiménez Leal, director del Departamento de Psicología de la Universidad de los Andes, “estamos en un periodo de engolosinamiento y no hay guías claras sobre cómo usar responsablemente la IA”. En este sentido, como un aporte concreto, María Cecilia Roa, profesora asociada del Cider, dice que hay que reflexionar sobre los “datos basura” y la creencia de que todo debe guardarse para siempre: “Debemos cuestionar qué datos queremos conservar y dónde, sabiendo la carga que implica que millones de personas almacenen recuerdos en centros de datos”.

Y Andrea Lehner, profesora de Filosofía, propone que la presión ciudadana y mecanismos jurídicos deberían obligar a las empresas tecnológicas a hacer más transparente su consumo de recursos, en tanto la trazabilidad debería permitir medir los costos ambientales: “Si las personas tienen esa información, podrán consumir de manera más responsable. Por ejemplo, evitar usar modelos gigantes para resolver tareas simples y limitar el uso intensivo a lo realmente necesario”, dice.

Si bien el uso de la IA y su expansión resultan inevitables y, en muchos casos, también traen beneficios, no es posible esquivar una pregunta por cómo y si es posible hacer un uso responsable de esta, en relación con otras actividades humanas que también presionan al ambiente. Valdivia propone ampliar la mirada y pensar en una IA que no solo esté centrada en el humano, también en el medioambiente y en los demás seres con los que compartimos el planeta.

Fuente: La Silla Vacía

Continúa...

[Ayudante De Santa]

[Heráclito]

Continuación:

7. Hacer una carpintería robusta para la regulación

En América Latina hay 572 instrumentos regulatorios en 20 países, sobre todo proyectos de ley en trámite. En Colombia hay 63 instrumentos regulatorios relacionados con IA y, según un análisis de Congreso Visible, desde 2022 se han presentado ocho iniciativas legislativas; de esas, sólo dos han pasado a primer debate y después fueron archivadas. Los temas de los proyectos han sido derechos de autor e IA, ética y derechos humanos, IA ética y sostenible, acceso a la información y política pública de inteligencia artificial.

Hace unas semanas, el Ministerio de Ciencia presentó un nuevo proyecto de ley para regular la inteligencia artificial que busca crear equilibrio entre la competitividad e innovación de la IA y la protección de los derechos fundamentales, la equidad y la sostenibilidad ambiental. Sus objetivos incluyen la protección de derechos y seguridad, el fomento de la innovación, la garantía de transparencia y explicabilidad, y la promoción de la colaboración interdisciplinaria e internacional. El proyecto también incluye una clasificación de los sistemas de IA en cinco niveles de riesgo con responsabilidades para cada uno, llegando incluso a prohibir ciertos sistemas de riesgo crítico, como en otras formas de regulación internacional.

Para Congreso Visible, el proyecto destaca por integrar la preocupación por el impacto laboral en un capítulo específico y su alineación con estándares internacionales como los de la Ocde, Unesco y la Ley de IA de la Unión Europea. Pero es limitado en lineamientos legales claros y protocolos robustos para que el MinCiencias pueda ejercer efectivamente funciones de control y verificación. Delega la responsabilidad de resolver contingencias en los sectores educativo y laboral a otras entidades, sin parámetros claros ni estrategias articuladas. Y su sistema de sanciones es “poco robusto” porque las medidas penales carecen de alcance explícito y las sanciones administrativas sólo proceden tras agotar medidas de orientación.

Para Gutiérrez la principal deficiencia es que los cómos no son claros, lo que describe como un problema de “carpintería” que requiere abordar rigurosamente las reglas para las fases “antes, durante y después” del ciclo de vida de un sistema de IA: “La regulación tiene que ver con una gobernanza que nos asegure que las buenas intenciones se traduzcan en prácticas consistentes y bienestar humano”, dice. Y “hay un desafío global porque no hay tratados internacionales vinculantes”.

Fuente: La Silla Vacía

[Rafa Bohórquez]

Toda tecnología que ayude a mejorar las condiciones de vida es bien recibida

[ChamoPana123]

Al menos la que es gratis aun le falta mucho terreno. La mitad de las veces da información falsa y lo peor es que si simulas que es verdadera se inventa mas cosas locas que ni el loco de la esquina inventa