.jpg)
.jpg)
En noviembre, el sacerdote católico y podcaster Mike Schmitz se dirigió a su congregación de más de 1.2 millones de suscriptores de YouTube con un sermón muy inusual. Schmitz decía que no siempre se podía confiar en sus palabras, porque a veces no eran realmente suyas ni provenían de su boca. Se había convertido en el blanco de estafas de suplantación de identidad generadas por IA.
“Te está observando un humano demoníaco”, afirmaba el Schmitz falso en un video que el verdadero Schmitz, que llevaba una chaqueta de L.L. Bean sobre su traje de clérigo, incluyó en su anuncio de servicio público como ejemplo. “Debes actuar con rapidez, porque las plazas para enviar oraciones ya se están agotando. Y el próximo viaje solo tendrá lugar dentro de cuatro meses”, decía otro Schmitz falso, con un amenazante reloj de arena a sus espaldas. Este sujeto sonaba ligeramente robótico mientras instaba a los espectadores a hacer clic en un enlace y asegurar su bendición antes de que fuera demasiado tarde.
“Puedo mirarlos y decirles: ‘Eso es ridículo, yo nunca diría eso’. Pero la gente no se da cuenta. Eso es un problema grave”, afirmaba el verdadero Schmitz, residente en Duluth, Minnesota, en su video de aclaración.
La IA no respeta ni la religión
En el clip real de Schmitz, algunos de los comentarios más destacados de sus seguidores decían que habían visto a otras figuras católicas importantes suplantadas a través de videos de IA, incluido el Papa. Según la experta en ciberseguridad Rachel Tobac, CEO de SocialProof Security, esto se debe a que los pastores se han convertido en sujetos extremadamente populares de estafas de IA y otros medios engañosos.
“Si estás en TikTok o Reels, probablemente te hayas topado en tu ‘Para ti’ (FYP) con algo parecido. Parece un sacerdote, de pie en un escenario o como quiera que lo llames, y parece estar hablando a su congregación de manera muy entusiasta”, dice Tobac.
Pastores y ministros de Birmingham, Alabama; Freeport, Nueva York; y Fort Lauderdale, Florida, han advertido a sus seguidores sobre estafas de IA que se hacen pasar por ellos en forma de mensajes directos, llamadas y deepfakes. Alan Beauchamp, pastor en Ozarks, mencionó que su cuenta de Facebook había sido hackeada y que el responsable había publicado un certificado falso, posiblemente generado por IA, para el comercio de criptomonedas con el nombre de Beauchamp y un pie de foto en el que instaba a sus feligreses a unirse a él. Una megaiglesia de Filipinas recibió informes de deepfakes que mostraban a sus pastores. Una iglesia evangélica de Nebraska emitió una “alerta de estafador” en Facebook, y un feligrés publicó en los comentarios una captura de pantalla de textos que parecían ser de uno de sus pastores.
No ayuda el hecho de que muchos de los pastores y ministros que han conseguido un gran número de seguidores en internet a menudo solicitan donaciones y venden productos, aunque no al mismo estilo que sus imitadores de IA. Con la ayuda de las redes sociales, las figuras de autoridad religiosa han podido llegar a los creyentes mucho más allá de sus comunidades, pero la proliferación de contenidos con sus semejanzas y voces también ha proporcionado la oportunidad perfecta para los estafadores que utilizan herramientas generativas.
“Recibes una llamada telefónica que suena como el pastor o un miembro de la junta, alguien que ha estado en transmisiones en vivo cada semana, y sus voces pueden ser muestreadas y puestas en IA”, dijo un miembro de ChurchTrac, una compañía de software de gestión de iglesias con sede en Florida, en un video de YouTube advirtiendo sobre el aumento de estafas de IA dirigidas a las iglesias. “El estafador puede usar esa voz y llamar a una iglesia y decir: ‘Oye, ¿podrías transferir este fondo a esta cuenta?'”, añadió.
