Los deepfakes generados por IA están costando a las empresas millones de euros y la cosa podría empeorar

Esto se supo a principios de año. Una empresa perdió 24 millones de euros por culpa de la inteligencia artificial.

Lejos de ser una empresa tecnológica que ha decidido desarrollar esta tecnología y ha registrado pérdidas económicas, o una empresa que ha utilizado un servicio de IA y aún no ha conseguido rentabilizarlo, Fue una estafa “simple”.el cual se llevó a cabo utilizando una herramienta de inteligencia artificial.

Básicamente, un empleado de una multinacional de Hong Kong mantuvo una videollamada con su jefe, el jefe del departamento financiero, en la que le pidió que transfiriera casi 24 millones de euros a una cuenta bancaria. Hasta entonces, algo que es más o menos común en este tipo de pisos. El problema surgió cuando descubrió que su jefe no era en realidad su jefe, sino un falso generado por IA.

Esta tecnología, en base a la cual la identidad de una persona se imita de una manera particularmente creíbleya ha hecho mucho daño en 2024, con casos como los deepfakes pornográficos de Taylor Swift o la suplantación del presidente estadounidense Joe Biden, que habría pedido a sus propios votantes que no votaran por él en las primarias del Partido Demócrata.

Sin embargo, las cosas podrían empeorar. Al menos eso es lo que han asegurado varios expertos. CNBCque en un artículo planteaba la posibilidad de que la inteligencia artificial pudiera usarse para cada vez más estafas como la del trabajador de Hong Kong.

Así lo afirmó David Fairman, director de información y seguridad de la empresa de ciberseguridad Netskope, la empresa de medios estadounidense Este tipo de amenazas ha aumentado a raíz de la popularización de ChatGPTEl generador de texto de IA de Open AI, lanzado en noviembre de 2022, se ha disparado en IA generativa.

«Hacer que estos servicios sean de acceso público ha reducido la barrera de entrada para los ciberdelincuentes que ya no necesitan habilidades técnicas especializadas», afirmó Fairman. CNBCy agregó que el alcance y la complejidad de los fraudes han aumentado a medida que ha avanzado la inteligencia artificial.

El medio estadounidense ha logrado contactar con la empresa afectada por el atraco de Hong Kong, la ingeniería británica Arup, cuyo portavoz ha señalado que sus operaciones «como muchas otras empresas en todo el mundo» están «sujetas a ataques regulares» debido al fraude en las facturas. , phishingImitación de lenguaje a través de WhatsApp y deepfakes”.

Arup lo ha confirmado CNBC que en este incidente, ocurrido en febrero pasado, se utilizaron “voces e imágenes falsas”, señalando que “El número y la complejidad de estos ataques han aumentado significativamente en los últimos meses«.

Business Insider también ha informado sobre este problema, que no solo afecta a las organizaciones sino que también es aprovechado por estafadores románticos que logran ganarse la confianza de sus víctimas utilizando deepfakes generados por IA.