INTERVENCIÓN DE LA DRA. CIELO RUSINQUE, SUPERINTENDENTE DE INDUSTRIA Y COMERCIO, EN EL EVENTO “DERECHO DEL CONSUMIDOR E INTELIGENCIA ARTIFICIAL”

Distinguidos miembros de la comunidad académica, estimados profesores y estudiantes de la Universidad Externado de Colombia, invitados y participantes a este foro, es un honor para mí, en mi calidad de Superintendente de Industria y Comercio ydocente de esta casa de estudios, dar apertura a este evento.

En primer lugar, quiero agradecer al equipo del Departamento de Derecho Comercial por la invitación y, especialmente, por crear estos espacios que resultan esenciales  para escuchar diferentes reflexiones, ideas y perspectivas.

Quiero en esta intervención compartir algunas notas que espero sirvan de base para abrir el intercambio de saberes y opiniones sobre las interrelaciones entre la Inteligencia Artificial y Derecho de Consumo; y hablo de interrelaciones en la medida en que, como seguramente se expondrá a lo largo de la mañana, el uso de la Inteligencia Artificial innegablemente ha generado y seguirá generando beneficios y ventajas al tiempo que suscita riesgos e interrogante no solo de carácter legal sino éticos y, en este medida, retos para todos los agentes del mercado.

En este contexto resulta pertinente recabar, como ya lo han hecho importantes académicos en el mundo, en que la Inteligencia Artificial es parte de la que se conoce como la cuarta revolución industrial y como tal ha existido desde el momento mismo en el que hombre tuvo en mente el reto de lograr que una máquina pudiera imitar las redes neuronales humanas, es decir, que pudiera producir conocimiento e incluso llegar a razonar.

No puede perderse de vista además que la Inteligencia artificial surge por la necesidad humana de resolver problemas y sobre todo predecir situaciones de manera más rápida y más precisa, y en esta medida, debe tenerse presente que su insumo básico son los datos de todo orden y su medio de operación más común son los algoritmos.

La inteligencia artificial ha avanzado desde lo que se conoce como los sistemas experto pasando por el denominado aprendizaje de las máquinas o machine learning hasta llegar en la actualidad a lo que conocemos como el aprendizaje profundo y laInteligencia Artificial generativa, dentro de la cual ha tenido un especial impacto el lanzamiento del denominado el ChatGPT, que hoy, es solo uno de los sistemas de inteligencia artificial existente. Los avances cada vez son más rápidos, por lo quereflexionar sobre los desafíos del ser humano frente a su propia invención se vuelve una tarea indispensable e indiscutible.

La propia reformulación de las formas de trabajo exige una revisión de temas como el empleo, el acceso a la información y el manejo ético de contenidos.

En este escenario de cambios, la protección de los consumidores y usuarios debe estar en centro del análisis.

Resultan innegables los beneficios que en términos de inmediatez, información y rapidez encierra el tema de la inteligencia artificial para los consumidores, la cual favorece entre otras cosas, la comparación de los bienes y servicios y el acceso de manera más ágil a ellos y, en general, el ahorro de tiempo y recursos.

Sin embargo, estas ventajas también conllevan serios riesgos que van desde el perfilamiento del consumidor el cual puede o no conllevar sesgos derivados de los datos, la intromisión en su privacidad, la afectación de su capacidad de elección, la inseguridad de servicios o productos y por qué no decirlo la falta de atención humana en las canales de reclamación por el excesivo uso de chatbots.

Así las cosas, el Derecho del Consumo enfrenta grandes cambios y retos que van desde la fase o la etapa precontractual de la relación de consumo, abarcando la forma en que esta se concreta, su desarrollo, sus formas, las modalidades de contratación, las cláusulas pactadas y la finalización misma de la relación, incluyendo los medios de reclamación frente a los oferentes o distribuidores y, desde luego, ante la autoridades que como la SIC, tienen dentro de la órbita de sus competencias la  protección efectiva de los derechos de los consumidores y usuarios.

Muchos de los análisis que recientemente se han hecho en temas de Inteligencia Artificial y Consumo se centran en el tema de información, publicidad, perfilamiento; que si bien son temas importantes no son los únicos, es necesario ir más allá, es decir, analizar la relación de consumo como un todo, desde principio a fin.

En este orden, uno de los retos más grandes está en lograr conjugar el avance de la tecnología y sus beneficios (entre ellos la innovación constante) con los eventuales riesgos en la privacidad, en la autonomía privada de los consumidores y por supuesto, en los derechos de estos a obtener bienes idóneos y seguros y a obtener una respuesta efectiva a sus reclamaciones.

En estos ámbitos no solo en el contexto nacional sino internacional e iberoamericano se han venido dando pasos importantes en los que, reconociendo la importancia de la inteligencia artificial se han establecido principios o reglas a través de los cuales se protegen principios como la igualdad, la confidencialidad, la responsabilidad de los fabricantes y proveedores entre otras.

A manera de ejemplo destacan la ley de servicios digitales europea, la ley de inteligencia artificial del 13 de marzo de 2024 que si bien está siendo objeto de grandes criticas es en este tema el primer avance regulatorio del fenómeno de la IA que solo entrará en vigencia en 2026.

A nivel iberoamericano destacan las Orientaciones Específicas para el Cumplimiento de los Principios y Derechos que rigen la Protección de los Datos Personales en los Proyectos de Inteligencia Artificial de la Red Iberoamericana de Protección de Datos a la que pertenece la Superintendencia de Industria y Comercio.

Los sistemas de IA, caracterizados por su continua evolución y su potencial disruptivo, representan un desafío significativo para mantener un marco regulatorio actualizado y efectivo. La incertidumbre que acompaña la implementación de la Inteligencia Artificial en el mercado nos debe impulsar a revisar y actualizar constantemente normas éticas y legales.

Además, la complejidad de estos sistemas demanda un entendimiento técnico y legal más profundo para poder evaluar su impacto en la sociedad y en los derechos de los consumidores de manera adecuada. Podemos hacer referencia a fenómenos como:

• La naturaleza a menudo “opaca” de los algoritmos de IA y cómo toman decisiones (el problema de la “caja negra”) que dificulta que los consumidores y reguladores entiendan la forma en que se determinan acciones que les afectan, plantea retos en las garantías de transparencia y capacidad de explicar las decisiones automatizadas, especialmente en contextos críticos como el crédito, el empleo y la atención sanitaria.

• Los sistemas de IA pueden perpetuar o exacerbar los sesgos existentes en los datos con los que se entrenan. Esto puede llevar a decisiones discriminatoriasen contra de grupos protegidos o minoritarios, desafiando las normas de equidad y justicia en la protección del consumidor.

• La protección de datos en tanto el uso de la IA implica el procesamiento de grandes volúmenes de datos personales, proteger éstos contra el acceso y uso no autorizado, y la posibilidad de emplearlos discriminando otros agentes o privilegiando y perpetuando la extensión de poder de mercado de empresas que ya tiene este manejo.

• En otra línea, determinar la responsabilidad en casos de daño o perjuicio causado por decisiones automatizadas es complejo. La cadena de responsabilidad puede ser difusa entre desarrolladores de IA, proveedores  de servicios y usuarios finales, complicando el acceso de los consumidores a recursos legales efectivos.

• En el ámbito de los derechos fundamentales, la IA puede ser utilizada para generar y propagar desinformación a gran escala, afectando la toma de decisiones del consumidor y socavando la confianza en los mercados. Combatir la desinformación generada por IA sin coartar la libertad de expresión es un reto emergente.

• Y claro está, no puede dejarse de lado el tema del acceso o la democratización, donde asegurar que los beneficios de la IA en la protección del consumidor sean accesibles para todos, incluyendo comunidades desfavorecidas otecnológicamente menos avanzadas, es fundamental para evitar el aumento de la brecha digital y garantizar la equidad.

Sin embargo, como anotaba, este panorama también nos abre un mundo de oportunidades. La Inteligencia Artificial nos brinda las herramientas para mejorar la supervisión y la regulación, permitiéndonos identificar y actuar contra las prácticas vulneradoras de los derechos de los consumidores de forma más eficiente.

Tenemos la oportunidad de innovar en la protección al consumidor, utilizando la Inteligencia Artificial para ofrecer soluciones que mejoren la transparencia y faciliten el acceso a la información. Este propósito también nos invita a colaborar internacionalmente, compartiendo conocimientos y prácticas que nos ayuden a enfrentar estos desafíos de manera colectiva.

Algunas oportunidades que abre la implementación de IA en las labores de las autoridades de protección al consumidor pueden ser:

• La Identificación Automatizada de Prácticas Engañosas, ya que la IA puede escanear y analizar grandes volúmenes de datos de sitios web y plataformas de comercio electrónico para identificar patrones oscuros y prácticas engañosas, alertando a los consumidores y autoridades sobre posibles infracciones.

• El filtrado y verificación de reseñas, que implica el uso de técnicas de procesamiento de lenguaje natural, con lo que la IA puede evaluar la autenticidad de las reseñas de productos y servicios en línea, filtrando aquellas que son falsas o engañosas para asegurar que los consumidores reciban información confiable.

• El análisis de contenido y sentimientos para detectar fraudes, ya que la IA puede analizar el tono, el lenguaje y el contenido de la comunicación en línea para detectar textos ambiguos, engañosos o potencialmente fraudulentos, mejorando la transparencia y la confianza en las transacciones digitales.

• La implementación de Plataformas de Gestión de Quejas Basadas en IA, que permite una gestión más eficiente y un análisis detallado de las mismas, ayudando a identificar tendencias y áreas críticas que requieren atención reguladora o correctiva.

• Y, por supuesto, a través del análisis de datos recopilados de las interacciones de los consumidores, la IA puede facilitar la toma de decisiones basada en evidencia, permitiendo a las autoridades de protección al consumidor priorizar acciones y recursos en las áreas de mayor impacto.

En este contexto de avances pero también de interrogantes el diálogo que hoy propone la Universidad Externado de Colombia a través de este Foro se vuelve esencial a todonivel y para todos los agentes del mercado: para los consumidores y los empresariosvque quieren mayor certeza al establecer sus relaciones, para la academia que tienevenfrente preguntas y problemas que resolver y, desde luego, para la Superintendencia de Industria y Comercio en una doble perspectiva: (i) la perspectiva regulatoria y (ii) La perspectiva de autoridad de la protección de los derechos de los consumidores.

Desde el punto de vista regulatorio es preciso abrir el debate sobre la necesidad de regular o no hacerlo estas nuevas circunstancias tal y como lo hizo Europa. Queda en todo caso sobre la mesa la aspiración de lograr regulaciones que sean lo suficientemente flexibles para adaptarse a los avances tecnológicos sin sofocar la innovación cuyo mecanismo principal pueden ser los sandbox que han tenido una aceptación importante en el sector de TIC y Financiero.

Pero, también como autoridad de protección al consumidor los desafíos que se develan son enormes. Desde una mayor educación y compromiso en el uso de tecnologías hasta la creación de canales, incluso de Inteligencia Artificial, aunque pueda parecer irónico, para poder atender de manera más rápida y eficaz las reclamaciones de usuarios y consumidores.

Ante nosotros está el desafío de desarrollar marcos de inspección y vigilancia flexibles y adaptativos, capaces de ajustarse a la velocidad de los cambios tecnológicos. Debemos asegurar que la innovación y la seguridad del consumidor avancen de la mano, en un equilibrio que beneficie a toda la sociedad.

Para finalizar, quiero hacer un llamado especial a cada uno de los presentes. Este foro no solo es una oportunidad para aprender, sino también para contribuir con sus visiones y experiencias. La inteligencia artificial está redefiniendo los contornos del derecho del consumidor y, en este proceso, cada perspectiva cuenta.

Los invito a participar activamente, a dialogar y debatir, porque es a través de nuestra interacción colectiva que podemos dar forma a un futuro donde la tecnología y el derecho marchen juntos, en beneficio de la sociedad. Aprovechemos este espacio no solo como oyentes, sino como protagonistas activos de este importante diálogo.

Agradezco sinceramente su atención.