Requisitos de transparencia inmediatos

Las nuevas normas obligan a empresas como OpenAI (propietaria de ChatGPT), Google (Gemini) o Anthropic (Claude) a diseñar sus sistemas de manera que los usuarios sepan que están interactuando con una máquina. También se aplica a desarrolladores de sistemas de IA utilizados en servicios públicos, empresas para interactuar con clientes o herramientas para gestionar denuncias de fraude.

Identificación de contenidos generados con IA

A partir del 2 de diciembre, los sistemas de inteligencia artificial deberán incorporar marcas de agua en textos, fotos, videos y audios manipulados para facilitar su identificación. Sin embargo, los sistemas como ChatGPT, Gemini o Claude no serán legalmente responsables del contenido que creen los usuarios, sino que deberán ser estos quienes informen de que el contenido ha sido manipulado.

Excepciones y prohibiciones

Quedan exentos los contenidos de ficción, artísticos o satíricos. Sin embargo, desde ya todo contenido generado con IA que muestre información de interés general, como procesos electorales, judiciales, salud pública u otros acontecimientos públicos, deberá advertirse como tal, a menos que haya sido supervisado previamente por una persona.

Supervisión y sanciones

La Oficina de Inteligencia Artificial de la Comisión Europea tiene nuevos poderes para supervisar los modelos de IA generativa e imponer multas por incumplimiento. Además, desde el 2 de diciembre se prohibirá la creación de imágenes sexualizadas generadas con IA sin el consentimiento de las personas afectadas.