UE AI Act (#4). IA generativa y transparencia: ¿cómo afecta a ChatGPT y otros modelos?
Reading Time: 3 minutes
Con la llegada de modelos como ChatGPT, DALL·E o Midjourney, la inteligencia artificial generativa ha revolucionado la forma en que interactuamos con la tecnología. Pero, ¿cómo regula la UE AI Act estos sistemas?
A diferencia de la IA de alto riesgo, los modelos de propósito general (GPAI, por sus siglas en inglés) como ChatGPT no están prohibidos, pero deben cumplir requisitos específicos de transparencia, seguridad y supervisión.
¿Qué es la IA generativa y por qué la regula la UE?
La IA generativa es aquella que puede crear contenido nuevo (texto, imágenes, música, código, etc.) basado en patrones aprendidos de grandes volúmenes de datos.
Ejemplo: ChatGPT puede generar textos convincentes en segundos, pero no siempre es preciso ni imparcial, lo que genera desafíos éticos y de seguridad.
La UE AI Act no prohíbe la IA generativa, pero impone reglas para garantizar que se use de forma responsable.
Requisitos de transparencia para la IA generativa
Las empresas que desarrollen modelos de IA generativa deben cumplir con las siguientes normas:
- Indicar claramente que el contenido ha sido generado por IA.
- Evitar la generación de contenido ilegal (desinformación, deepfakes no autorizados, discursos de odio, etc.).
- Publicar un resumen detallado de los datos utilizados para entrenar el modelo.
- Garantizar medidas de seguridad para prevenir usos indebidos.
Ejemplo: Un usuario que recibe una imagen generada por IA debe saber que no es una fotografía real, y una empresa que usa ChatGPT para atención al cliente debe informar a sus clientes que están hablando con una IA.
¿Cómo afecta esto a modelos como ChatGPT y DALL·E?
Los desarrolladores de IA generativa, como OpenAI, Google y Meta, deberán adaptar sus modelos para cumplir con la normativa de la UE.
Cambios que podríamos ver en ChatGPT y otros modelos:
- Etiquetas visibles en contenido generado por IA (como marca de agua en imágenes o avisos en textos).
- Más transparencia sobre los datos de entrenamiento (aunque esto puede chocar con secretos comerciales).
- Restricciones para evitar usos indebidos (como generación de noticias falsas o deepfakes engañosos).
- Mayor control por parte de los usuarios (posibilidad de revisar y corregir información antes de su uso).
Ejemplo real: OpenAI ya ha comenzado a implementar medidas de transparencia en ChatGPT, como advertencias sobre la veracidad de las respuestas.
IA generativa y derechos de autor: un debate abierto
Uno de los mayores desafíos legales de la IA generativa es su relación con la propiedad intelectual.
Problema: ¿Puede un modelo de IA entrenado con contenido protegido por derechos de autor generar obras sin infringir la ley?
La UE AI Act no resuelve este debate, pero exige que los desarrolladores publiquen información sobre los datos de entrenamiento para garantizar transparencia.
Esto podría llevar a cambios en la forma en que los modelos de IA utilizan contenido protegido, obligando a las empresas a:
- Pagar licencias a creadores de contenido.
- Evitar el uso de datos protegidos sin permiso.
- Ofrecer herramientas para que los creadores opten por excluir su contenido de los entrenamientos de IA.
La UE AI Act impone reglas de transparencia a la IA generativa para evitar la desinformación, proteger los derechos de autor y garantizar un uso responsable.
Referencias bibliográficas
-
Comisión Europea (2021). Proposal for a Regulation laying down harmonised rules on artificial intelligence (Artificial Intelligence Act). EUR-Lex.
Disponible en: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX:52021PC0206 -
Ministerio de Asuntos Económicos y Transformación Digital (2022). Resumen detallado del Reglamento Europeo de Inteligencia Artificial.
Disponible en el documento: https://avance.digital.gob.es/sandbox-IA/Paginas/reglamento-IA.aspx -
Comisión Europea (2024). Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo de la Unión Europea sobre Inteligencia Artificial. EUR-Lex.
Disponible en: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX:32024R1689 -
Análisis actualizado sobre la Ley de Inteligencia Artificial de la UE (2024).
Fuente en el documento: https://www.eca.europa.eu/es/publications?ref=SR-2024-08 -
Sistema de gestión de riesgos en la Ley de Inteligencia Artificial de la UE.
Fuente en el documento: https://artificialintelligenceact.eu/es/article/9/
