Un video puede mostrar a alguien diciendo cosas que nunca dijo, con una naturalidad que engaña incluso a ojos atentos. Frente a esa realidad, reguladores de distintos países apuestan por una idea sencilla: obligar a etiquetar lo que es artificial. Pero la pregunta decisiva sigue abierta: etiquetar deepfakes, ¿basta para proteger a las personas?
La respuesta corta es no. La transparencia importa, pero por sí sola no detiene el daño cuando el contenido es íntimo, difamatorio, manipulador o políticamente engañoso. Avisar es útil, pero no reemplaza la prevención, la responsabilidad de las plataformas ni la alfabetización mediática.
Europa pone reglas al contenido sintético
En Europa, el debate ya dejó de ser teórico. El AI Act establece obligaciones de transparencia para ciertos contenidos generados o manipulados por inteligencia artificial, incluidos los llamados deepfakes. La lógica es clara: quien produce o despliega contenido sintético que imita a una persona real debe dejar en claro que ese material no es auténtico.
Este marco se enlaza con la discusión pública sobre cómo hacer efectivas esas obligaciones y con los problemas técnicos que implica marcarlas de forma legible para personas y detectable por sistemas. Por eso conviene mirar tanto el marco general del AI Act como las discusiones jurídicas sobre transparencia que ya vienen analizando despachos y especialistas, como en esta revisión de Greenberg Traurig sobre las obligaciones de transparencia del reglamento europeo.
Etiquetar deepfakes no resuelve por sí solo el problema
La idea de etiquetar deepfakes tiene sentido: si una audiencia está viendo una imagen, un audio o un video sintético, debería saberlo. El problema es que esa transparencia puede quedarse corta por varias razones.
Primero, porque una advertencia no repara el daño cuando el contenido ya lesionó reputaciones, intimidad o seguridad. Segundo, porque una marca de agua o una etiqueta pueden perderse, eliminarse o ignorarse en la circulación cotidiana de contenidos. Y tercero, porque cuando todo se etiqueta de la misma manera, la etiqueta empieza a perder fuerza: lo dañino y lo inofensivo terminan compartiendo la misma señal.
Por eso, confiar todo a la etiqueta puede generar una falsa sensación de control. La transparencia ayuda, sí, pero no funciona como vacuna universal.
La tensión ética: libertad de crear frente al derecho a no ser suplantado
Aquí chocan dos valores legítimos. Por un lado, la libertad de crear, experimentar y producir con herramientas que hoy democratizan la edición y la generación audiovisual. Por otro, el derecho de cualquier persona a no ser suplantada, difamada o convertida en víctima de un montaje que daña su honor, su intimidad o su seguridad.
La etiqueta de “contenido generado por IA” intenta equilibrar ambos polos: permite crear, pero avisa. Sin embargo, ese equilibrio se rompe cuando el contenido busca manipular, explotar o destruir. En esos casos, la pregunta ya no es sólo si se informó correctamente al público, sino si el uso mismo debía estar permitido.
Este problema conecta de forma directa con lo que ya hemos trabajado en ETHIA-LAB sobre identidad digital, consentimiento y contenidos sintéticos.
Cuando avisar no es suficiente
El riesgo de confiar todo a la etiqueta es doble. Primero, traslada la carga al espectador: le decimos “desconfía” en lugar de impedir el abuso en origen. Segundo, deja la impresión de que, si algo fue marcado, ya quedó resuelto éticamente.
Pero muchas veces el problema real no está en la ausencia de advertencia, sino en la velocidad de circulación. Un montaje puede volverse viral en horas, mucho antes de que cualquier etiqueta o desmentido lo alcance. Y el daño a una reputación, a una campaña electoral o a la intimidad de una persona rara vez se revierte del todo.
Por eso, las respuestas regulatorias más robustas tienden a combinar transparencia con otras capas: prohibiciones para ciertos usos, responsabilidad para plataformas, mecanismos de retiro rápido y marcos de reparación para víctimas. Avisar es el piso, no el techo.
Deepfakes, plataformas y responsabilidad compartida
La pregunta clave no es sólo qué debe hacer quien crea el contenido, sino también qué deben hacer quienes lo alojan, lo recomiendan y lo monetizan. Ahí entra el papel de las plataformas.
En Estados Unidos, por ejemplo, el Take It Down Act ya introdujo un marco federal para la retirada de imágenes íntimas no consentidas, incluidas las generadas por IA. Al mismo tiempo, varios estados han legislado específicamente sobre deepfakes, especialmente en materia electoral y de explotación íntima. Esto confirma que el problema dejó de ser hipotético: ya se está regulando como daño real, no como posibilidad futura.
La pieza educativa: alfabetización mediática
Ninguna ley sustituye a una ciudadanía capaz de dudar con criterio. Aquí la educación tiene un papel central: enseñar a estudiantes —y también a adultos— a verificar fuentes, reconocer señales de manipulación, contextualizar contenidos y no asumir autenticidad sólo porque algo parece convincente.
La alfabetización mediática y en IA se vuelve una defensa tan importante como la regulación, porque actúa donde la etiqueta no alcanza: en el juicio de quien mira, comparte o cree.
Desde esta perspectiva, esta nota dialoga con otras líneas que ya hemos desarrollado en ETHIA-LAB, como los riesgos y beneficios de la inteligencia artificial en la educación y la privacidad de datos e inteligencia artificial. En todos estos casos, el criterio humano sigue siendo una capa de protección que ninguna herramienta puede reemplazar por sí sola.
¿Qué deberían hacer hoy las instituciones?
Frente a este escenario, escuelas, universidades, empresas y organizaciones no deberían limitarse a “esperar regulación”. Hay al menos cuatro decisiones urgentes:
1. Establecer criterios internos sobre contenidos sintéticos
No basta con reaccionar caso por caso. Hace falta definir qué usos son legítimos, cuáles requieren transparencia reforzada y cuáles deberían estar prohibidos.
2. Diseñar protocolos de actuación rápida
Cuando un contenido sintético causa daño, la velocidad importa. La institución necesita saber quién decide, cómo se documenta el caso y qué mecanismos de retiro o respuesta se activan.
3. Formar criterio, no sólo enseñar herramientas
La alfabetización en IA debe incluir verificación, lectura crítica, consentimiento, suplantación y responsabilidad en el uso y difusión de medios sintéticos.
4. Revisar la gobernanza del uso de IA
La transparencia no funciona si la institución no sabe qué herramientas se están usando, qué riesgos habilitan o qué responsabilidades distribuyen.
¿Tu institución ya tiene criterios para contenidos sintéticos y deepfakes?
Ese suele ser el verdadero problema: la tecnología ya está presente, pero la organización todavía no tiene claridad sobre sus reglas de uso, sus límites y sus riesgos.
En ETHIA-LAB ayudamos a escuelas, universidades y organizaciones a traducir estas preguntas en lineamientos concretos sobre transparencia, consentimiento, privacidad, evaluación y gobernanza.
Conoce la Escala de uso de la Inteligencia Artificial en instituciones educativas
Con nuestra Escala de uso de la Inteligencia Artificial en instituciones educativas puedes identificar si tu institución está usando IA de forma reactiva, dependiente, alineada o estratégicamente gobernada.
No se trata sólo de saber si ya usan herramientas de IA, sino de entender qué riesgos están activando, qué criterios faltan y qué decisiones urge formalizar.
Si quieres pasar de la reacción improvisada a una estrategia institucional con criterios claros sobre IA, transparencia y protección de las personas, este es un muy buen punto de partida.
👉 Conoce la Escala y descubre en qué nivel está tu institución
