¿Hay que escribir «generado por IA» en los artículos? Lo que dice el artículo 50 del AI Act

Lo que el artículo 50 impone realmente

El artículo 50 del AI Act, el reglamento europeo sobre la inteligencia artificial, apunta sobre todo a la transparencia. No prohíbe los contenidos producidos por IA: impone que los usuarios sepan cuándo interactúan con una máquina o cuándo un contenido ha sido generado o modificado de forma artificial.

El texto europeo distingue varias situaciones. Unas imponen una información explícita al usuario o al público; otras prevén excepciones y adaptaciones enumeradas de forma cerrada: el uso autorizado por la ley con fines penales, la adaptación prevista para las obras manifiestamente artísticas y la revisión humana o el control editorial bajo responsabilidad editorial asumida. En la práctica, la pregunta no es «¿se ha usado la IA?», sino más bien: ¿en qué contexto es obligatoria la transparencia?

El artículo 50 se aplica a usos muy concretos: chatbots, asistentes de voz, contenidos sintéticos, deepfakes, sistemas que generan o manipulan imagen, audio o vídeo, y ciertas interacciones con sistemas automatizados. El AI Act es un reglamento europeo: las obligaciones recaen sobre quienes ponen esos sistemas o esos contenidos a disposición en la Unión Europea.

Los contenidos que deben señalarse como generados o manipulados por IA

El caso más claro es el de los contenidos deepfake. Cuando un contenido de imagen, vídeo o audio se genera o se manipula intensamente con IA y da la impresión de un acontecimiento real, la transparencia pasa a ser obligatoria. El público debe saber que el contenido ha sido generado o manipulado artificialmente, salvo las excepciones previstas por el reglamento.

El artículo 50 afecta igualmente a los textos producidos por IA y publicados para informar al público sobre asuntos de interés público, así como a los contenidos de audio, imagen y vídeo presentados como auténticos. El umbral es el riesgo de confusión: cuanto más se parece el contenido a una producción humana creíble, más se impone el etiquetado.

• Deepfakes de audio: voces clonadas, mensajes de voz sintéticos, llamadas falsas.
• Deepfakes de vídeo: rostro, gestos o escena modificados con IA.
• Imágenes generadas por IA: retratos, escenas de actualidad, visuales realistas.
• Textos sintéticos: únicamente cuando se publican para informar al público sobre asuntos de interés público. Ese es el criterio, no lo sensible del contexto: un texto comercial queda fuera del ámbito aunque pueda tomarse por escritura humana, siempre que no lleve ninguna alegación de salud, de seguridad de los consumidores o de sostenibilidad.

La obligación no consiste siempre en mostrar una mención uniforme del tipo «generado por IA» en todos los contenidos. La regla depende del contexto de difusión, del riesgo de confusión y de la naturaleza del contenido. Un anuncio publicitario, una información de actualidad, un testimonio o un avatar conversacional no se valoran de la misma manera.

Las interacciones con los sistemas de IA también deben ser transparentes

El artículo 50 abarca también las interacciones entre persona y máquina. Cuando alguien se comunica con un sistema de IA en condiciones que podrían hacerle creer que habla con un humano, debe ser informado de que interactúa con una máquina.

Esta exigencia alcanza en particular a:

1. los chatbots de atención al cliente;
2. los asistentes de voz;
3. los sistemas conversacionales integrados en sitios, aplicaciones o mensajería;
4. los agentes automatizados usados en recorridos comerciales o de soporte.

La mención de transparencia puede integrarse al comienzo del intercambio, en la interfaz o mediante una señal clara e inteligible. El usuario debe saber con quién habla. El AI Act da a esta práctica una base jurídica europea.

Una precisión útil, porque la confusión es frecuente: el artículo 50 no crea ningún derecho a obtener una intervención humana. Solo se ocupa de la transparencia, es decir, de saber que el servicio está automatizado. El derecho a pedir una intervención humana frente a una decisión automatizada procede del artículo 22 del RGPD, y el derecho a obtener una explicación sobre una decisión tomada con un sistema de IA de alto riesgo, del artículo 86 del AI Act. Para las marcas y los editores, el artículo 50 implica por tanto revisar los recorridos de conversación, los guiones, las páginas de inicio y los avisos legales asociados a las herramientas conversacionales, no abrir un canal humano.

Las excepciones previstas por el AI Act

El artículo 50 no impone un etiquetado sistemático en todos los casos. El reglamento prevé atenuaciones y dispensas, y no equivalen entre sí: unas aligeran la forma de la mención, otras la suprimen.

Es la segunda fila la que cuenta para un editor, y es más amplia de lo que suele leerse. El reglamento establece dos vías alternativas: revisión humana o control editorial. Revisar cada artículo no es, por tanto, el único camino; un control editorial ejercido sobre la producción abre el mismo derecho, con la condición acumulativa de que una persona física o jurídica asuma la responsabilidad editorial de la publicación. Detallamos ese marco en nuestro calendario del AI Act para un editor, y la firma que lo materializa en «un artículo, un firmante». Lo que exige cada una de las dos vías, y lo que anula la exención, es objeto de un artículo dedicado a la exención.

Estas excepciones muestran que el texto europeo busca un equilibrio entre transparencia y libertad de creación. Una película, una ilustración artística o una parodia no se tratan como un vídeo viral que pretende mostrar un hecho real. Es el riesgo de engaño lo que sirve de brújula.

Para los profesionales del contenido, eso significa analizar la finalidad del contenido, su formato, su destino y su nivel de realismo. Una simple asistencia de IA en la redacción de un artículo no activa automáticamente la obligación de decir «generado por IA» si el resultado final no busca hacerse pasar por otra cosa que un contenido editorial clásico.

Cómo aplicar el artículo 50 en la práctica sin sobreetiquetar

El mejor enfoque consiste en pensar en términos de señalización útil, no de mención automática en todas partes. Una mención útil se ve en el punto donde existe el riesgo y se entiende sin glosario. En los hechos, las empresas pueden establecer varios niveles de información:

• sobre el contenido mismo: una mención visible directamente en la imagen, el vídeo, el audio o la página;
• en la interfaz: un banner o una etiqueta en la herramienta conversacional;
• en la política editorial: una página que explica cuándo y cómo se usa la IA;
• en los metadatos: útil para la organización interna, aunque no siempre sustituye a la información visible para el usuario.

Para los equipos de marketing, prensa, comercio electrónico o atención al cliente, estas preguntas delimitan la necesidad:

1. ¿Puede el contenido confundirse con lo real?
2. ¿Espera el público una autenticidad humana?
3. ¿Hace el contexto que la mención sea necesaria para evitar un engaño?

Si la respuesta es sí a alguna de estas preguntas, la mención se impone. Colocada donde resulta útil, esa mención se convierte además en un argumento de credibilidad para la marca.

Lo esencial, y preguntas frecuentes

El artículo 50 del AI Act apunta principalmente a los contenidos sintéticos capaces de engañar y a las interacciones con sistemas de IA. Los contenidos más afectados son los deepfakes, las imágenes, las grabaciones de audio y los vídeos generados o manipulados con IA, así como los intercambios con chatbots o asistentes cuando el usuario podría creer que habla con un humano.

La obligación es, por tanto, específica. Impone una lógica de transparencia adaptada al contexto, y decae para los textos de interés público que han sido objeto de una revisión humana o de un control editorial bajo responsabilidad editorial asumida. A los editores, marcas y productores de contenido les queda documentar los usos de la IA e instalar menciones claras allí donde el riesgo de confusión es real.

• ¿Hay que marcar todos los contenidos creados con una IA? No. La obligación depende del tipo de contenido, del contexto y del riesgo de engaño.
• ¿Un artículo revisado y firmado tiene que llevar la mención? No, siempre que el texto haya sido objeto de una revisión humana o de un control editorial y una persona física o jurídica asuma la responsabilidad editorial de su publicación. Eso sí, hay que poder demostrarlo: quién revisa, en qué etapa, quién firma y dónde se conserva el rastro.
• ¿Las imágenes generadas por IA deben señalarse siempre? Deben señalarse cuando pueden tomarse por imágenes reales o cuando difunden una información engañosa.
• ¿Un chatbot debe anunciar que es una IA? Sí, si el usuario puede creer que habla con un humano.
• ¿Los contenidos artísticos están afectados? Sí, y no se trata de una dispensa: cuando un deepfake forma parte de una obra manifiestamente artística, creativa, satírica o de ficción, la obligación se limita a divulgar la existencia del contenido generado de una manera que no dificulte la exhibición o el disfrute de la obra.
• ¿El AI Act afecta solo a los contenidos visibles en Europa? Afecta a los sistemas y contenidos puestos a disposición en la Unión Europea, lo que obliga a una vigilancia particular a los actores internacionales.