Por qué su organización debería planificar el fraude de deepfake antes de que suceda

¿No pudo participar en Transform 2022? ¡Vea todas las sesiones de Summit en nuestra biblioteca on-demand ahora! Mira aquí.

Algunos jóvenes usan hilo dental para un desafío de baile de TikTok. Una pareja publica una selfie de vacaciones para mantener a sus amigos actualizados sobre sus viajes. Un influencer en ciernes sube su último video a YouTube. Sin saberlo, todo el mundo está agregando combustible a un vector de fraude emergente que podría convertirse en un enorme desafío tanto para las empresas como para los consumidores: Deepfakes.

Deepfakes definidos

Deepfakes lleva el nombre de la tecnología subyacente: aprendizaje profundo, un subconjunto de inteligencia artificial (IA) que imita la forma en que los humanos adquieren conocimiento. Con el aprendizaje profundo, los algoritmos aprenden de grandes conjuntos de datos, sin la ayuda de supervisores humanos. Cuanto mayor sea el conjunto de datos, más probable es que el algoritmo sea preciso.

Deepfakes utiliza inteligencia artificial para crear archivos de audio o video muy convincentes que imitan a un tercero, como un video de Una celebridad diciendo algo que, en realidad, no dijeron. Deepfakes se producen por una amplia variedad de razones, algunas legítimas, otras ilegítimas. Estos incluyen la sátira, el entretenimiento, el fraude, la manipulación política y la generación de “noticias falsas”.

El peligro de las falsificaciones profundas

La amenaza que suponen los deepfakes para la sociedad es un peligro real y presente debido a la riesgos obvios asociado con la capacidad de poner palabras en boca de personas poderosas, influyentes o de confianza, como políticos, periodistas o celebridades. Además, los deepfakes también representan una amenaza clara y creciente para las empresas. Éstos incluyen:

Evento

MetaBeat 2022

MetaBeat reunirá a líderes de opinión para brindar información sobre cómo la tecnología del metaverso transformará la forma en que todas las industrias se comunican y hacen negocios el 4 de octubre en San Francisco, California.

Registrarse aquí

Extorsión: Amenazar con publicar imágenes falsas y comprometedoras de un ejecutivo para obtener acceso a sistemas corporativos, datos o recursos financieros.

Fraude– Usar deepfake para imitar a un empleado y/o cliente para acceder a sistemas corporativos, datos o recursos financieros.

Autenticación– Usar deepfake para manipular la verificación de identidad o la autenticación que se basa en datos biométricos como patrones de voz o reconocimiento facial para acceder a sistemas, datos o recursos financieros.

Riesgo de reputación: Usar deepfake para dañar la reputación de una empresa y/o de sus empleados ante los clientes y otras partes interesadas.

El impacto en el fraude

Entre los riesgos asociados con las falsificaciones profundas, el impacto sobre el fraude es uno de los más preocupantes para las empresas en la actualidad. Esto se debe a que los delincuentes recurren cada vez más a la tecnología deepfake para compensar la disminución de los rendimientos de los esquemas de fraude tradicionales, como el phishing y la apropiación de cuentas. Estos viejos tipos de fraude se han vuelto más difíciles de ejecutar con la mejora de las tecnologías antifraude (por ejemplo, mediante la introducción de la devolución de llamada de autenticación de múltiples factores).

Esta tendencia coincide con la aparición de herramientas deepfake disponible como un servicio en la web oscura, lo que hace que sea más fácil y más barato para los delincuentes lanzar tales esquemas de fraude, incluso si tienen conocimientos técnicos limitados. También coincide con personas que publican grandes volúmenes de imágenes y videos de sí mismos en las plataformas de redes sociales, todos los cuales son excelentes aportes para que los algoritmos de aprendizaje profundo se vuelvan cada vez más convincentes.

Hay tres nuevos tipos clave de fraude que los equipos de seguridad corporativa deben conocer en este sentido:

fraude fantasma: Cuando un delincuente usa los datos de una persona muerta para crear un deepfake que puede usarse, por ejemplo, para acceder a servicios en línea o solicitar tarjetas de crédito o préstamos.

Fraude de identificación sintética: Donde los estafadores extraen datos de muchas personas diferentes para crear una identidad para una persona que no existe. La identidad se utiliza luego para solicitar tarjetas de crédito o para realizar grandes transacciones.

Solicitud fraudulenta: donde se utilizan identidades robadas o falsas para abrir nuevas cuentas bancarias. El criminal entonces se queda sin tarjetas de crédito y préstamos asociados.

Ya ha habido una serie de esquemas de fraude costosos y de alto perfil que han utilizado deepfake. En un caso, un estafador usó tecnología de voz falsa imitar a un gerente de la empresa que era del conocimiento de un gerente de sucursal bancaria. El delincuente luego estafó al banco $ 35 millones. En otro caso, los delincuentes utilizaron un deepfake para hacerse pasar por la voz de un CEO y solicitar una transferencia fraudulenta de € 220.000 ($ 223.688,30 USD) del suboficial del ejecutivo a un proveedor ficticio. Por lo tanto, los deepfakes son un peligro claro y presente y las organizaciones deben actuar ahora para protegerse.

defender la empresa

Dada la creciente sofisticación y prevalencia del fraude deepfake, ¿qué pueden hacer las empresas para proteger sus datos, finanzas y reputación? He identificado cinco pasos clave que todas las empresas deben tomar hoy:

1. Programe deepfakes en procedimientos de respuesta y simulaciones. Deepfakes debe incorporarse en la planificación de escenarios y pruebas de crisis. Los planes deben incluir la clasificación de incidentes y delinear procesos claros de notificación de incidentes, procedimientos de escalamiento y comunicación, particularmente cuando se trata de mitigar el riesgo reputacional.
2. educar a los empleados. Así como los equipos de seguridad capacitaron a los empleados para detectar correos electrónicos de phishing, también deben crear conciencia sobre las falsificaciones profundas. Al igual que en otras áreas de la ciberseguridad, los empleados deben verse como una importante línea de defensa, especialmente si se considera el uso de deepfakes para la ingeniería social.
3. Para transacciones sensibles, tenga procedimientos de verificación secundarios. No confíes; siempre revisa Tiene métodos secundarios para verificación o recuperación, como archivos de audio y video con marca de agua, autenticación avanzada o verificación doble.
4. Poner en marcha la protección del seguro. A medida que crece la amenaza de las falsificaciones profundas, las aseguradoras sin duda ofrecerán una gama más amplia de opciones.
5. Actualice sus evaluaciones de riesgo. Incorpore deepfakes en el proceso de evaluación de riesgos para canales y servicios digitales.

El futuro de las falsificaciones profundas

En los próximos años, la tecnología seguirá evolucionando y será más difícil identificar las falsificaciones profundas. De hecho, a medida que las personas y las empresas se acercan al metaverso y la Web3, es probable que se utilicen avatares para acceder y utilizar una amplia gama de servicios. A menos que se establezcan las protecciones adecuadas, estos avatares nativos digitales probablemente resultará más fácil de falsificar en comparación con los humanos.

Sin embargo, así como la tecnología avanza para explotarlo, también avanzará para detectarlo. Por su parte, los equipos de seguridad deben tratar de mantenerse al tanto de los nuevos avances en detección y otras tecnologías innovadoras para ayudar a combatir esta amenaza. La dirección de viaje de los deepfakes es clara, las empresas deben comenzar a prepararse ahora.

David Fairman es director de información y director de seguridad de APAC en Netskope.

Tomadores de decisiones de datos

¡Bienvenido a la comunidad VentureBeat!

DataDecisionMakers es el lugar donde los expertos, incluidos los ingenieros de datos, pueden compartir ideas e innovaciones relacionadas con los datos.

Si desea leer ideas de vanguardia e información actualizada, las mejores prácticas y el futuro de los datos y la tecnología de datos, únase a nosotros en DataDecisionMakers.

¡Incluso podría considerar contribuir con su propio artículo!

Leer más de DataDecisionMakers