Inteligencia artificial y fraude: ‍¿una fuerza imparable?

La inteligencia artificial presenta desafíos y ventajas únicos.

Nos encontramos en una carrera armamentista tecnológica, donde las mismas herramientas utilizadas por los estafadores son también nuestra mayor defensa contra ellos. Manteniéndonos informados, proactivos y adaptables, podemos asegurar que el potencial positivo de la IA supere con creces sus riesgos.

Introducción

Prevenir el fraude en pagos en línea es un juego de nunca acabar. Cada vez que se introduce una nueva tecnología, sistema o variable equivalente, es muy probable que los estafadores encuentren una falla en ella y la utilicen para perpetrar fraudes. Como resultado, se convierte en un juego constante de ir un paso por delante de la parte contraria.

El fraude en pagos en línea es un problema persistente. A pesar de años de investigación y desarrollo, las medidas de prevención del fraude han resultado insuficientes o han sido rápidamente contrarrestadas por los estafadores. En toda Europa, una cantidad asombrosa de clientes y empresas están siendo víctimas de fraude. En 2022, 2,2 millones de residentes holandeses mayores de 15 años fueron víctimas de fraude, lo que representa el 15% de la población total. Casi uno de cada seis holandeses ha sido víctima de fraude, lo cual es una cifra terrible.

Se introdujeron muchas herramientas y soluciones únicas en la industria. Sin embargo, una destacó por encima de las demás. Como sugiere el título de este informe técnico, se ha desarrollado una nueva tendencia en inteligencia artificial. Aunque el objetivo de esta tendencia era cerrar la brecha entre las personas y la tecnología y garantizar que algunos de nosotros encontráramos esta nueva tendencia útil en nuestra vida diaria, el fraude no fue pasado por alto. La IA se ha convertido en una ayuda para la mayoría de nosotros tanto en nuestra vida personal como profesional; sin duda, ayuda a aumentar nuestra eficiencia e inventiva; sin embargo, la mayoría de la gente desconoce que la misma IA está siendo utilizada para estafarnos.

El auge de la inteligencia artificial

Aunque las herramientas de IA se han desarrollado desde los años noventa, la herramienta de inteligencia artificial de procesamiento de lenguaje ChatGPT, que apareció por primera vez a finales de 2022, renovó absolutamente el interés en este asunto y dio inicio a la carrera de desarrollo de soluciones comparables. Esto se ha convertido en una tendencia mundial, con campos de IA de voz, visual y similares siguiendo la aparición de ChatGPT. La IA ha crecido hasta el punto en que el 73% de los clientes reconoce interactuar con la inteligencia artificial de forma regular. En el ámbito comercial, investigaciones recientes encontraron que el 35% de las empresas están adoptando la IA y el 42% están considerando emplearla en un futuro cercano. Además, se proyecta que el tamaño del mercado de la IA a escala mundial crecerá drásticamente en los próximos años (véase el gráfico a continuación). La IA se ha convertido innegablemente en un aspecto importante de la vida de las personas y las empresas.

En el gran esquema de las cosas, la IA puede parecer un desarrollo revolucionario, y lo es, pero tiene inconvenientes significativos. Además de las preocupaciones éticas, como el desempleo, la pérdida de control y los sesgos, la IA es ampliamente utilizada por los estafadores y, al final, esta tecnología se usa contra la gente común. Varias agencias de aplicación de la ley, incluyendo el FBI, la Interpol y otras, han emitido advertencias a empresas y consumidores sobre el uso creciente de la IA entre los estafadores. Un ex agente del FBI, por ejemplo, advierte a las personas contra las estafas telefónicas con IA, mientras que Europol subraya el uso de ChatGPT por parte de los estafadores y las posibles consecuencias para clientes y empresas. Existen varias alertas sobre estafadores que explotan la IA de diversas maneras, pero ¿cuáles son las técnicas específicas?

Cómo los estafadores emplean la inteligencia artificial en sus esquemas

#1 IA de lenguaje: Los modelos de lenguaje, como el conocido ChatGPT, son herramientas ideales para los estafadores, ya que ahora pueden centrarse en otras tareas mientras los modelos de lenguaje crean el contenido necesario para ellos. Como era de esperar, el grado de avance de la herramienta asegura que los mensajes sean completamente naturales y difíciles de distinguir de los escritos por un humano. Además de los mensajes de phishing, los estafadores pueden generar ideas, estructuras de estafa y material fraudulento adicional (véase el gráfico a continuación).

#2 IA de voz: Uno de los avances más recientes es la inteligencia artificial de voz, capaz de emular cualquier voz y reproducir el texto deseado. El único recurso necesario para esta técnica es una muestra de la voz que se desea obtener como resultado. Esta es, sin duda, una herramienta ideal para los estafadores, ya que ahora pueden imitar a quien quieran siempre que tengan una muestra de voz. La frecuencia de estos intentos de estafa refleja el interés de los estafadores en este instrumento. Según una fuente, la IA está impulsando un aumento del fraude de voz en línea, y solo se necesitan 3 segundos para clonar una voz.

#3 IA visual: La inteligencia artificial visual también ha sido un tema candente con mucha atención desde su inesperada prominencia. Lo que comenzó como una herramienta para impulsar la creatividad y el desarrollo de ideas de las personas fue rápidamente descubierto por los estafadores y plenamente involucrado en el engaño. Lo que fascina a la gente de la IA visual es su precisión y sus posibilidades ilimitadas; cualquiera puede producir imágenes o vídeos únicos y precisos. Los estafadores utilizan estas tecnologías para imitar a directores ejecutivos, gerentes o personas similares con el fin de persuadir a alguien para que divulgue información sensible. Por ejemplo, los estafadores pueden crear un vídeo de un director ejecutivo instando a los empleados a enviar la información de sus tarjetas de crédito para recibir sus salarios.

#4 IA de codificación: La inteligencia artificial de codificación no ha recibido tanta atención como las tecnologías anteriores, pero no debe pasarse por alto porque podría convertirse en el núcleo de las operaciones fraudulentas. La inteligencia artificial de codificación es tan sofisticada que puede producir código en segundos o minutos y no tiene límites en la mayoría de las circunstancias. Esto implica que los delincuentes ahora pueden usar esta tecnología para construir sitios web, programas o malware para atraer a usuarios desprevenidos y perpetrar fraudes. La Comisión Federal de Comercio (FTC) de Estados Unidos ha advertido a las empresas que construyen plataformas de generación de código con IA que podrían ser consideradas responsables si los estafadores utilizan la herramienta para producir código y perpetrar fraudes. Sin embargo, no se han realizado grandes esfuerzos para ponerle fin.

#5 Otros: Además de las tecnologías de IA mencionadas y más utilizadas, existen docenas de otras soluciones basadas en IA que los estafadores aprecian. Pueden contener una mezcla de las herramientas mencionadas anteriormente, así como otras completamente distintas, que ocasionalmente se modifican con fines fraudulentos y se venden en la dark web.

¿Qué tan fácil es utilizar ChatGPT para cometer fraude? Caso de uso fraudulento de ChatGPT

Existen muchos métodos mediante los cuales los estafadores pueden emplear herramientas de IA. La mejor manera de darse cuenta de lo fáciles (y peligrosas) que son estas herramientas es probándolas uno mismo. En el siguiente ejemplo, le pedimos a ChatGPT que redactara un breve correo electrónico informando al destinatario que la seguridad de su cuenta VISA ha sido comprometida y que debe tomar medidas inmediatas. ChatGPT creó un correo electrónico con una apariencia y un tono adecuados en menos de 30 segundos, que es definitivamente indistinguible de uno que recibiríamos normalmente:

Como se ha demostrado, un estafador puede producir un correo electrónico impecablemente convincente y enviarlo a todas las posibles víctimas en menos de un minuto. Dado que solo tomó un minuto, uno solo puede preguntarse qué material complejo y de aspecto genuino pueden producir los estafadores en un período de tiempo prolongado. ChatGPT es una tecnología inteligente y eficaz que ayuda tanto a los consumidores reales como, lamentablemente, a los delincuentes. Al adoptar un modelo de lenguaje grande como ChatGPT, los estafadores mejoran su eficiencia y eficacia, lo que les permite dedicar su tiempo "valioso" a desarrollar esquemas adicionales.

Tendencias y predicciones futuras

Como expertos anticipan que la inteligencia artificial seguirá evolucionando y superando la inteligencia humana tan pronto como en 2030, es evidente que la calidad del trabajo producido por la IA mejorará a pasos agigantados. Tal desarrollo sin duda beneficiaría a la sociedad; sin embargo, si las mismas circunstancias y oportunidades se ponen a disposición de los estafadores, se avecinan tiempos difíciles.

A medida que los estafadores utilicen estas herramientas de IA en constante mejora, la sociedad estará sujeta a ataques de ingeniería social aún más potentes, incluyendo phishing continuo, estafas y más. Además de la intensidad del ataque, la calidad de cada intento mejorará enormemente, lo que hará que sea significativamente más difícil notar las diferencias entre lo fraudulento y lo genuino.

¿Cómo deberían rebelarse las empresas?

¿Qué se puede hacer para evitar quedar atrapado en esta bola de nieve letal, dado que las predicciones y tendencias no parecen prometedoras, especialmente para las empresas? La situación puede no ser tan desesperada como parece al principio, ya que las innovaciones antifraude avanzan al ritmo del sector. Los proveedores de protección contra el fraude trabajan incansablemente para mantenerse al día con la rápida evolución de los estafadores y obtener una ventaja a largo plazo.
‍
Dado que la calidad y la gravedad de los intentos de fraude aumentan, la mayoría de los expertos no ven otra opción que abordar el problema con la ayuda de especialistas experimentados y la propia inteligencia artificial. Al aprovechar la inteligencia artificial, las herramientas de detección de fraude están alcanzando niveles de precisión antes inalcanzables.

Protectmaxx

Protectmaxx, una API de detección de fraude de próxima generación, es una solución innovadora y capaz que ha demostrado su supremacía en la protección de organizaciones a lo largo de los años. Protectmaxx se ve enormemente reforzado por la inteligencia artificial y el aprendizaje automático, lo que se traduce en una excelente precisión, una alta aceptación de tarjetas y bajas tasas de contracargo.