Potencias extranjeras como Rusia y China llevan tiempo empleando sofisticadas campañas de deepfake con fines estratégicos. La campaña «Doppelgänger» de Moscú utilizó sitios web clonados y noticias manipuladas para socavar el apoyo a Ucrania. Las redes «Spamouflage» de Pekín se han valido de presentadores y vídeos generados por IA para difundir narrativas en el extranjero, especialmente en torno a eventos sensibles como las elecciones de Taiwán. Estas campañas combinan la verdad y el engaño para eludir un exaamen inicial de su contenido que pueda alertar al receptor.
La tecnología subyacente a estas operaciones estratégicas está ahora en manos de delincuentes que atacan comunidades nacionales e infraestructuras críticas, según un artículo publicado por HTS. Un mensaje de voz de un director ejecutivo que autoriza una transferencia fraudulenta puede eludir los controles de seguridad tradicionales. Los ataques de phishing potenciados por deepfakes ya se dirigen a ejecutivos del sector privado y no se limitarán al sector financiero. Cualquier industria que dependa de la verificación de identidad, desde la sanidad hasta la energía, se enfrentará a esta creciente amenaza.
Las implicaciones son profundas para las fuerzas del orden y los servicios de emergencia. «Imagine un video de un jefe de policía anunciando una amenaza inventada, o una llamada de audio de un capitán de bomberos dando una orden de emergencia falsa. Incluso si se desmiente, el caos inicial puede causar daños reales. Los adversarios saben que la duda puede ser tan poderosa como la persuasión, y las narrativas falsas pueden erosionar la credibilidad institucional más rápido de lo que se puede reparar», subraya.
A este respecto, se dan los siguientes consejos para evitar los ataques:
La tecnología para crear clones de voz convincentes puede requerir tan solo 15 segundos de audio, y se pueden generar videos falsos realistas a velocidad de máquina con herramientas gratuitas o de bajo costo. Agencias federales y empresas privadas están desarrollando métodos de detección, pero esta es una carrera armamentística constante con la próxima generación de modelos de IA generativa.
Protegerse de los ataques basados en deepfakes requiere una respuesta dinámica y multifacética. La tecnología es la primera línea de defensa, con herramientas que pueden verificar el origen y la autenticidad de los medios digitales mediante marcas de agua, firmas criptográficas y sofisticados modelos de IA, cuyo uso debe generalizarse.
Sin embargo, la tecnología por sí sola no es suficiente. Las agencias y las comunidades necesitan adaptarse para afrontar este desafío.
Para las fuerzas del orden y los socorristas: Adoptar nuevos protocolos de verificación: Las agencias deben establecer protocolos de verificación que asuman la existencia de deepfakes. Soluciones sencillas y de baja tecnología, como una palabra clave preacordada o la exigencia de una validación multifactorial para acciones clave, pueden ser defensas eficaces.
Campañas de educación pública: Los funcionarios de seguridad pública deben mantener canales de comunicación transparentes y verificados previamente para situaciones de crisis, con el fin de desmentir rápidamente las falsificaciones y tranquilizar a la población. El principio «222» de Taiwán —desmentir las falsificaciones en dos horas, utilizando dos imágenes y 200 palabras para redes sociales— ofrece un modelo para una respuesta digital eficaz.
Para familias y comunidades: Crear una contraseña familiar: Las familias deben establecer una contraseña o frase secreta que solo ellos conozcan. Esto puede usarse para verificar la identidad de un ser querido en una llamada sospechosa. La contraseña debe ser fácil de recordar, pero no debe estar disponible públicamente en línea.
Desconfíe de la urgencia: Los estafadores de deepfakes suelen generar pánico para evitar el razonamiento lógico. No ceder a la presión para actuar de inmediato. Si una solicitud de dinero o información personal parece urgente, cuelgar y contactar directamente con el familiar a un número de confianza.
Reforzar la privacidad en redes sociales: Cuantos más datos personales, fotos y grabaciones de voz estén disponibles en línea, más fácil será para los delincuentes crear deepfakes convincentes. Las familias deben restringir quién puede ver sus fotos y videos y ser cautelosas con lo que comparten públicamente.
Potencias extranjeras como Rusia y China llevan tiempo empleando sofisticadas campañas de deepfake con fines estratégicos. La campaña «Doppelgänger» de Moscú utilizó sitios web clonados y noticias manipuladas para socavar el apoyo a Ucrania. Las redes «Spamouflage» de Pekín se han valido de presentadores y vídeos generados por IA para difundir narrativas en el extranjero, especialmente en torno a eventos sensibles como las elecciones de Taiwán. Estas campañas combinan la verdad y el engaño para eludir un exaamen inicial de su contenido que pueda alertar al receptor.. La tecnología subyacente a estas operaciones estratégicas está ahora en manos de delincuentes que atacan comunidades nacionales e infraestructuras críticas, según un artículo publicado por HTS. Un mensaje de voz de un director ejecutivo que autoriza una transferencia fraudulenta puede eludir los controles de seguridad tradicionales. Los ataques de phishing potenciados por deepfakes ya se dirigen a ejecutivos del sector privado y no se limitarán al sector financiero. Cualquier industria que dependa de la verificación de identidad, desde la sanidad hasta la energía, se enfrentará a esta creciente amenaza.. Las implicaciones son profundas para las fuerzas del orden y los servicios de emergencia. «Imagine un video de un jefe de policía anunciando una amenaza inventada, o una llamada de audio de un capitán de bomberos dando una orden de emergencia falsa. Incluso si se desmiente, el caos inicial puede causar daños reales. Los adversarios saben que la duda puede ser tan poderosa como la persuasión, y las narrativas falsas pueden erosionar la credibilidad institucional más rápido de lo que se puede reparar», subraya.. A este respecto, se dan los siguientes consejos para evitar los ataques:. La tecnología para crear clones de voz convincentes puede requerir tan solo 15 segundos de audio, y se pueden generar videos falsos realistas a velocidad de máquina con herramientas gratuitas o de bajo costo. Agencias federales y empresas privadas están desarrollando métodos de detección, pero esta es una carrera armamentística constante con la próxima generación de modelos de IA generativa.. Protegerse de los ataques basados en deepfakes requiere una respuesta dinámica y multifacética. La tecnología es la primera línea de defensa, con herramientas que pueden verificar el origen y la autenticidad de los medios digitales mediante marcas de agua, firmas criptográficas y sofisticados modelos de IA, cuyo uso debe generalizarse.. Sin embargo, la tecnología por sí sola no es suficiente. Las agencias y las comunidades necesitan adaptarse para afrontar este desafío.. Para las fuerzas del orden y los socorristas: Adoptar nuevos protocolos de verificación: Las agencias deben establecer protocolos de verificación que asuman la existencia de deepfakes. Soluciones sencillas y de baja tecnología, como una palabra clave preacordada o la exigencia de una validación multifactorial para acciones clave, pueden ser defensas eficaces.. Campañas de educación pública: Los funcionarios de seguridad pública deben mantener canales de comunicación transparentes y verificados previamente para situaciones de crisis, con el fin de desmentir rápidamente las falsificaciones y tranquilizar a la población. El principio «222» de Taiwán —desmentir las falsificaciones en dos horas, utilizando dos imágenes y 200 palabras para redes sociales— ofrece un modelo para una respuesta digital eficaz.. Para familias y comunidades: Crear una contraseña familiar: Las familias deben establecer una contraseña o frase secreta que solo ellos conozcan. Esto puede usarse para verificar la identidad de un ser querido en una llamada sospechosa. La contraseña debe ser fácil de recordar, pero no debe estar disponible públicamente en línea.. Desconfíe de la urgencia: Los estafadores de deepfakes suelen generar pánico para evitar el razonamiento lógico. No ceder a la presión para actuar de inmediato. Si una solicitud de dinero o información personal parece urgente, cuelgar y contactar directamente con el familiar a un número de confianza.. Reforzar la privacidad en redes sociales: Cuantos más datos personales, fotos y grabaciones de voz estén disponibles en línea, más fácil será para los delincuentes crear deepfakes convincentes. Las familias deben restringir quién puede ver sus fotos y videos y ser cautelosas con lo que comparten públicamente.
la utilización de una palabra clave convenida puede evitar que los delincuentes obtengan sus objetivos
Potencias extranjeras como Rusia y China llevan tiempo empleando sofisticadas campañas de deepfake con fines estratégicos. La campaña «Doppelgänger» de Moscú utilizó sitios web clonados y noticias manipuladas para socavar el apoyo a Ucrania. Las redes «Spamouflage» de Pekín se han valido de presentadores y vídeos generados por IA para difundir narrativas en el extranjero, especialmente en torno a eventos sensibles como las elecciones de Taiwán. Estas campañas combinan la verdad y el engaño para eludir un exaamen inicial de su contenido que pueda alertar al receptor.. La tecnología subyacente a estas operaciones estratégicas está ahora en manos de delincuentes que atacan comunidades nacionales e infraestructuras críticas, según un artículo publicado por HTS. Un mensaje de voz de un director ejecutivo que autoriza una transferencia fraudulenta puede eludir los controles de seguridad tradicionales. Los ataques de phishing potenciados por deepfakes ya se dirigen a ejecutivos del sector privado y no se limitarán al sector financiero. Cualquier industria que dependa de la verificación de identidad, desde la sanidad hasta la energía, se enfrentará a esta creciente amenaza.. Las implicaciones son profundas para las fuerzas del orden y los servicios de emergencia. «Imagine un video de un jefe de policía anunciando una amenaza inventada, o una llamada de audio de un capitán de bomberos dando una orden de emergencia falsa. Incluso si se desmiente, el caos inicial puede causar daños reales. Los adversarios saben que la duda puede ser tan poderosa como la persuasión, y las narrativas falsas pueden erosionar la credibilidad institucional más rápido de lo que se puede reparar», subraya.. A este respecto, se dan los siguientes consejos para evitar los ataques:. La tecnología para crear clones de voz convincentes puede requerir tan solo 15 segundos de audio, y se pueden generar videos falsos realistas a velocidad de máquina con herramientas gratuitas o de bajo costo. Agencias federales y empresas privadas están desarrollando métodos de detección, pero esta es una carrera armamentística constante con la próxima generación de modelos de IA generativa.. Protegerse de los ataques basados en deepfakes requiere una respuesta dinámica y multifacética. La tecnología es la primera línea de defensa, con herramientas que pueden verificar el origen y la autenticidad de los medios digitales mediante marcas de agua, firmas criptográficas y sofisticados modelos de IA, cuyo uso debe generalizarse.. Sin embargo, la tecnología por sí sola no es suficiente. Las agencias y las comunidades necesitan adaptarse para afrontar este desafío.. Para las fuerzas del orden y los socorristas: Adoptar nuevos protocolos de verificación: Las agencias deben establecer protocolos de verificación que asuman la existencia de deepfakes. Soluciones sencillas y de baja tecnología, como una palabra clave preacordada o la exigencia de una validación multifactorial para acciones clave, pueden ser defensas eficaces.. Campañas de educación pública: Los funcionarios de seguridad pública deben mantener canales de comunicación transparentes y verificados previamente para situaciones de crisis, con el fin de desmentir rápidamente las falsificaciones y tranquilizar a la población. El principio «222» de Taiwán —desmentir las falsificaciones en dos horas, utilizando dos imágenes y 200 palabras para redes sociales— ofrece un modelo para una respuesta digital eficaz.. Para familias y comunidades: Crear una contraseña familiar: Las familias deben establecer una contraseña o frase secreta que solo ellos conozcan. Esto puede usarse para verificar la identidad de un ser querido en una llamada sospechosa. La contraseña debe ser fácil de recordar, pero no debe estar disponible públicamente en línea.. Desconfíe de la urgencia: Los estafadores de deepfakes suelen generar pánico para evitar el razonamiento lógico. No ceder a la presión para actuar de inmediato. Si una solicitud de dinero o información personal parece urgente, cuelgar y contactar directamente con el familiar a un número de confianza.. Reforzar la privacidad en redes sociales: Cuantos más datos personales, fotos y grabaciones de voz estén disponibles en línea, más fácil será para los delincuentes crear deepfakes convincentes. Las familias deben restringir quién puede ver sus fotos y videos y ser cautelosas con lo que comparten públicamente.
