Paco y Nico
Manolo hace con IA una foto de dos políticos peleándose. Paco le jura que basta con poner «es broma».
Imagen, audio o vídeo generado o manipulado con IA que se parece a personas, objetos, lugares o hechos reales y que puede hacer creer a alguien que es auténtico. Es casi literalmente la definición del Reglamento europeo de IA.
Cómo se hace una foto así
Los generadores de imágenes parten de ruido, como la nieve de una tele antigua, y lo van limpiando paso a paso hacia lo que pide el texto. Han visto tantos millones de fotos que saben cómo suelen ser una cara, una corbata o un plató de televisión. No copian una foto: se inventan una nueva que encaja con todo lo que han visto.
Lo que dice la ley
El Reglamento de IA de la Unión Europea obliga a avisar de forma clara cuando un contenido es un deepfake. Si es una obra evidentemente de humor o de ficción, la obligación se suaviza, pero sigue habiendo que avisar de alguna manera. Además, quien fabrica la herramienta debe marcar lo generado para que se pueda detectar (ver el episodio 10).