Falsificaciones digitales (deepfakes) y el octavo mandamiento

Una falsificación digital combina técnicas de edición audiovisual y sistemas de inteligencia artificial capaces de imitar rostros, voces, gestos, expresiones y formas de hablar. El resultado puede presentar como real una escena completamente inventada o alterar una escena verdadera para cambiar su significado.

La inteligencia artificial no actúa como una persona consciente. Los sistemas que generan lenguaje, imágenes o sonidos reorganizan patrones procedentes de grandes conjuntos de datos; por eso, la responsabilidad moral no corresponde a la máquina, sino a las personas y organizaciones que diseñan, utilizan, publican o difunden sus resultados.¹

La falsificación digital no constituye por sí misma una mentira en todos los casos. Una recreación artística, una sátira claramente reconocible o una dramatización histórica pueden resultar legítimas cuando no buscan confundir ni perjudicar. El problema moral aparece cuando una representación ficticia pretende pasar por auténtica o cuando utiliza la imagen, la voz o la intimidad de alguien sin autorización para producir un perjuicio.

«No darás falso testimonio»

El octavo mandamiento prohíbe presentar falsamente la realidad en las relaciones con los demás. Esta exigencia nace de la vocación humana a vivir en la verdad y a dar testimonio del Dios verdadero. La mentira, la calumnia, la difamación y cualquier forma de engaño grave lesionan la justicia y debilitan la confianza que permite la vida social.²

La verdad cristiana no consiste únicamente en acertar datos aislados. Incluye la sinceridad, la rectitud de intención, la prudencia, el respeto a la intimidad y la obligación de no utilizar una información verdadera para destruir injustamente la reputación de otra persona. Una comunicación puede contener elementos ciertos y, aun así, resultar engañosa si presenta una imagen manipulada, oculta información decisiva o induce deliberadamente a una conclusión falsa.³

Jesucristo enseña a sus discípulos una palabra transparente y responsable: «Que vuestro hablar sea sí, sí; no, no». La vida cristiana exige abandonar la duplicidad, la hipocresía y la manipulación.²

La comunicación también utiliza imágenes y sonidos

El octavo mandamiento no afecta únicamente a las palabras pronunciadas o escritas. Las personas comunican mediante gestos, actitudes, silencios, imágenes, vídeos, sonidos y decisiones de publicación. Una falsificación digital puede desempeñar la misma función que un falso testimonio verbal: atribuir a alguien una conducta inexistente y hacer que otros la consideren verdadera.⁴

Por esta razón, una persona puede pecar contra la verdad aunque no haya redactado ninguna frase falsa. Crear una escena inventada, añadir la voz de alguien a un mensaje que nunca pronunció o difundir una imagen manipulada con apariencia documental también constituye una forma de comunicación moralmente relevante.

Daño a la dignidad humana

Toda persona posee una dignidad que no depende de su fama, utilidad, poder o popularidad. Las falsificaciones digitales pueden convertir a una persona en objeto de burla, desprecio, explotación o violencia. Aunque la imagen sea artificial, la herida causada en la dignidad y en la vida concreta de la víctima resulta real.⁵

El daño puede afectar a la vida familiar, laboral, política, académica, eclesial o comunitaria. También puede provocar miedo, aislamiento, pérdida de oportunidades y sufrimiento psicológico. La gravedad aumenta cuando el contenido utiliza la vulnerabilidad, la enfermedad, la vida afectiva, la intimidad o la condición religiosa de la víctima.

Calumnia y difamación

La calumnia atribuye falsamente a una persona una falta o un delito. La difamación perjudica injustamente su reputación mediante la divulgación de defectos verdaderos o falsos que otros no tenían derecho a conocer. Una falsificación digital puede realizar ambas acciones al mismo tiempo: inventar una conducta y difundirla ante un público amplio.

La tradición cristiana considera especialmente grave destruir el buen nombre del prójimo. Santo Tomás de Aquino relaciona el falso testimonio con la detracción, la murmuración, la escucha complaciente de rumores y la propagación de discordias. También recuerda que el buen nombre constituye un bien valioso que no puede arrebatarse impunemente.⁶

Fraude, chantaje y manipulación

Las falsificaciones pueden utilizarse para obtener dinero, forzar decisiones, amenazar a una persona o modificar la conducta de una comunidad. El engaño adquiere entonces una dimensión adicional: no sólo falta a la verdad, sino que instrumentaliza a la víctima y vulnera sus bienes, su libertad o su seguridad.

La inteligencia artificial facilita la creación de rumores, fraudes, chantajes y ataques contra la reputación de personas y organizaciones, incluso después de la muerte de la persona representada. La ausencia de consentimiento agrava el problema, especialmente cuando la falsificación afecta a la sexualidad o a la intimidad.¹

Contenido sexual no consentido

Las falsificaciones sexuales constituyen una de las expresiones más graves de este fenómeno. Colocar el rostro o la voz de una persona en una escena sexual que nunca protagonizó viola su intimidad, su dignidad y su libertad. La víctima no pierde responsabilidad moral por el hecho de que la imagen sea técnicamente falsa; el daño social y personal puede resultar devastador.

La difusión de imágenes degradantes, de contenido sexual que rebaja la intimidad humana o que explota a personas vulnerables contradice una comunicación orientada al bien. La prudencia cristiana exige rechazar tanto la creación como la descarga, conservación y distribución de este material cuando dichas acciones contribuyen al daño.⁷

Erosión de la confianza social

La circulación masiva de falsificaciones produce un doble perjuicio. Primero, lleva a algunas personas a creer hechos inexistentes. Después, puede provocar que otras personas desconfíen incluso de pruebas auténticas. La sociedad comienza a sospechar de todo lo que ve y oye, y la conversación pública pierde un fundamento común.

La proliferación de contenidos falsos debilita las relaciones de confianza, aumenta la polarización y favorece el conflicto. Una sociedad incapaz de distinguir entre testimonio verdadero y manipulación pierde una condición esencial para la justicia, la convivencia y la solidaridad.¹

Quien crea la falsificación

La responsabilidad del creador depende de varios elementos:

• La intención: no tiene la misma gravedad una recreación claramente ficticia que una producción destinada a engañar, humillar o extorsionar.
• El contenido: aumenta la gravedad cuando afecta a la intimidad, la sexualidad, la religión, la reputación o la seguridad de la víctima.
• El consentimiento: utilizar la imagen o la voz de alguien sin autorización vulnera sus derechos y puede constituir una injusticia.
• La previsión del daño: quien conoce el riesgo de perjuicio y continúa adelante actúa con mayor culpabilidad.
• La difusión prevista: una producción privada y no dañina no equivale a una publicación diseñada para alcanzar a millones de personas.

La intención no convierte en bueno un acto objetivamente injusto. Una persona no puede justificar una falsificación calumniosa alegando que pretendía obtener entretenimiento, popularidad o beneficios económicos.

Quien publica o comparte

Difundir una falsificación sin haberla creado no elimina la responsabilidad. Quien comparte un contenido contribuye a su alcance y puede multiplicar el perjuicio. La obligación moral exige comprobar razonablemente la autenticidad antes de presentar una imagen, un vídeo o un audio como verdadero.

La diligencia alcanza también a quienes administran páginas, grupos, canales, medios de comunicación y cuentas institucionales. La responsabilidad aumenta cuando poseen capacidad profesional para verificar el contenido o cuando obtienen beneficio de su difusión.⁷

Quien acepta y comenta

La persona que recibe una falsificación debe evitar la credulidad, pero también el juicio temerario. Reírse, insultar, acusar o difundir comentarios basados en un contenido no verificado puede convertir al receptor en colaborador del daño.

Santo Tomás de Aquino considera moralmente reprobable no sólo hablar contra el prójimo, sino también escuchar voluntariamente la detracción y repetir lo que otros cuentan.⁶

Instituciones y empresas

Las plataformas tecnológicas, empresas de comunicación, partidos políticos, centros educativos, asociaciones y organismos públicos poseen una responsabilidad especial. Deben proteger a las personas frente a la suplantación, facilitar la denuncia, retirar contenidos ilícitos o gravemente dañinos y promover sistemas de verificación.

La defensa de la verdad no corresponde únicamente a especialistas. Requiere la cooperación de toda la comunidad y una orientación constante de la tecnología hacia la dignidad humana y la paz.⁷

Antes de compartir

La prudencia recomienda formular varias preguntas:

1. ¿Quién ha creado el contenido?
2. ¿Existe una fuente identificable y digna de confianza?
3. ¿La publicación presenta pruebas verificables?
4. ¿El contenido provoca una reacción inmediata de odio, miedo o indignación?
5. ¿Perjudica la reputación o la intimidad de una persona?
6. ¿La imagen o el sonido contienen signos de manipulación?
7. ¿A quién beneficia su difusión?
8. ¿Tengo derecho a compartirlo?

La emoción intensa no demuestra autenticidad. El deseo de castigar, ridiculizar o confirmar los propios prejuicios puede nublar el juicio. La virtud de la prudencia exige detener la cadena de difusión cuando existen dudas razonables.

Al descubrir una falsificación

La conducta adecuada incluye no compartir el contenido, conservar únicamente las pruebas necesarias para denunciarlo, informar a la persona afectada cuando resulte prudente y utilizar los mecanismos de denuncia de la plataforma. Si existe una amenaza, un fraude, una extorsión o una vulneración grave de la intimidad, conviene acudir a las autoridades competentes.

La corrección debe reparar el daño. Quien difundió una falsificación tiene la obligación moral de retirar la publicación, reconocer el error y rectificar con una visibilidad semejante a la de la acusación original. La reparación puede exigir pedir perdón y restituir la reputación en la medida de lo posible.

Ante una acusación pública

La caridad no obliga a creer automáticamente toda acusación, pero tampoco permite proteger injusticias reales mediante un silencio interesado. La respuesta cristiana busca la verdad, respeta la presunción de inocencia, evita la exposición innecesaria de la víctima y rechaza la justicia ejercida por la multitud.

La verdad necesita procedimientos justos y una comunicación responsable. Una investigación legítima no equivale a difundir públicamente una sospecha como si ya fuera una sentencia.

No toda imagen artificial constituye una mentira. La ficción, el teatro, la parodia y la sátira pueden expresar una crítica legítima cuando el público comprende su carácter inventado. La clave moral reside en la relación entre la representación y la verdad que pretende comunicar.

Una recreación histórica puede ayudar a comprender un acontecimiento. Una escena humorística puede criticar una conducta sin atribuirla realmente a una persona concreta. En cambio, una sátira presentada como noticia, una voz artificial difundida como declaración auténtica o una imagen manipulada para destruir una reputación quebrantan la verdad.

La transparencia resulta esencial. Identificar claramente una recreación, advertir la manipulación y evitar la confusión protege al público y respeta a las personas representadas.

Veracidad

El cristiano debe procurar que tanto el contenido que crea como el que comparte sea verdadero. La obligación alcanza a los titulares, las imágenes, los montajes, los comentarios y el contexto de publicación. La comunicación parcial o engañosa también puede faltar a la verdad.

Justicia

La justicia exige respetar el buen nombre, la imagen, la voz, la intimidad y los bienes de los demás. La popularidad de una persona no elimina sus derechos, y la condición pública de un personaje no autoriza cualquier manipulación.

Caridad

La caridad no permite convertir el sufrimiento ajeno en entretenimiento. Una comunicación cristiana debe promover el bien, evitar el odio y proteger especialmente a los débiles y vulnerables.⁷

Prudencia

La prudencia ordena examinar antes de juzgar y compartir. También exige reconocer los propios límites: no toda persona puede autenticar técnicamente un vídeo, pero toda persona puede abstenerse de difundirlo cuando no conoce su origen o cuando amenaza injustamente a alguien.

Reparación

La conversión exige reparar el daño causado. Una disculpa privada puede resultar insuficiente cuando la falsedad alcanzó a un público amplio. La reparación debe intentar restablecer la verdad ante las mismas personas que recibieron el engaño.

Para la fe cristiana, la verdad no constituye sólo una propiedad de las proposiciones. Jesucristo se presenta como «el camino, la verdad y la vida», y el discípulo está llamado a vivir en una relación de fidelidad con Él. La verdad libera porque permite construir relaciones confiables y abandonar la esclavitud de la mentira.⁸

La falsificación digital revela una tentación antigua con instrumentos nuevos: utilizar la palabra, la imagen o la voz para dominar, humillar y dividir. Frente a esa tentación, el cristiano debe cultivar una comunicación sobria, veraz y misericordiosa. La defensa de la verdad forma parte del amor al prójimo, porque nadie puede amar verdaderamente mientras utiliza el engaño para destruir la dignidad de otra persona.

Una falsificación digital resulta moralmente ilícita cuando:

• Presenta como real un contenido inventado.
• Atribuye a alguien palabras, acciones o conductas inexistentes.
• Utiliza su imagen o su voz sin consentimiento para perjudicarle.
• Vulnera su intimidad o sexualidad.
• Provoca fraude, chantaje, odio o violencia.
• Destruye injustamente su reputación.
• Difunde rumores sin verificación.
• Manipula la opinión pública mediante el engaño.

La gravedad aumenta con la intención maliciosa, el alcance de la difusión, la vulnerabilidad de la víctima, la magnitud del daño y la negativa a reparar la injusticia. La creación de una representación ficticia no resulta necesariamente pecaminosa cuando existe transparencia, respeto y ausencia de perjuicio.

Las falsificaciones digitales plantean una forma contemporánea de los pecados contra la verdad, el buen nombre, la intimidad y la justicia. El octavo mandamiento obliga a rechazar no sólo la mentira verbal, sino también toda imagen, grabación o representación destinada a engañar o dañar.

La respuesta católica une verdad, prudencia, justicia, caridad y reparación. Crear, publicar o compartir contenidos digitales exige responsabilidad moral, porque las imágenes artificiales pueden producir heridas humanas muy reales. La tecnología sirve a la dignidad cuando fortalece la verdad y la comunión; la contradice cuando convierte el engaño en instrumento de dominio, humillación o división.