Betrugsprävention wird noch intelligenter mit Agenten-KI

Agentic AI geht über die traditionelle Gen AI hinaus, indem sie nicht nur Ergebnisse generiert, sondern auch Aktionen im Namen der Benutzer ausführt. Diese Verschiebung ist bedeutsam genug, um E-Commerce neu zu definieren als A-commerce, wo autonome Agenten End-to-End-Aufgaben erledigen. In der Betrugsprävention stellt dies eine neue Reifestufe dar, die zusätzlich zum maschinellen Lernen Argumentations- und Entscheidungsfähigkeiten hinzufügt.

Betrugsteams bleiben vorsichtig, wenn es darum geht, neuen KI-Fähigkeiten zu vertrauen, insbesondere von Anbietern. Gleichzeitig drängen Organisationen ihre Teams jedoch dazu, „mehr mit weniger zu erreichen“, was den Druck erhöht, KI-gesteuerte Lösungen zu evaluieren. Diese Dynamik schafft Möglichkeiten für KI-native Unternehmen, früher als je zuvor Gespräche mit großen Unternehmen aufzunehmen.

Betrüger setzen schnell fortschrittliche KI-Tools ein, die Verteidigungssysteme oft übertreffen. Dies hat zu einem Anstieg automatisierter, skalierbarer Angriffe wie ATO, E-Mail-Übernahmen und Gerätekompromittierungen geführt. Die Raffinesse dieser Angriffe, wie realistische Customer Journeys und äußerst überzeugende Dokumentenmanipulationen, schafft einen viel größeren „Graubereich“ für die Erkennung.

Eine praktische Möglichkeit, Agentic AI einzuführen, besteht darin, die Arbeit in kleinere, klar definierte Aufgaben zu unterteilen. Teams können Teile wie Regelerstellung, Rückbuchungsanalyse oder Datenabrufe automatisieren, wodurch Vertrauen aufgebaut wird, während kritische Entscheidungen weiterhin von Menschen getroffen werden. Dieser Ansatz ermöglicht es Experten, ihren Fokus auf strategisch wichtigere Aufgaben zu verlagern, anstatt sich mit repetitiver Analyse zu beschäftigen.

Herkömmliche Bot-Erkennung kann automatisierten Traffic nicht mehr einfach blockieren, da viele Bots inzwischen legitime Funktionen erfüllen. Die neue Herausforderung besteht darin, die Absicht hinter jedem Agenten, der mit einer Plattform interagiert. Dies fördert die Entstehung von KYA-Frameworks, die sich auf die Verifizierung, Validierung und das Verständnis des Verhaltens sowohl menschlicher als auch nicht-menschlicher Agenten konzentrieren.

Organisationen müssen einen klaren internen Plan entwickeln, wie sie sich gegen Agentic AI-gesteuerte Bedrohungen verteidigen und ihre Entscheidungsprozesse beschleunigen wollen. Externe Zusammenarbeit ist ebenso wichtig, da Betrüger ihre Bemühungen zunehmend effektiver koordinieren als viele Verteidigungsteams. Unternehmen sollten ihre Anbieter herausfordern, wie diese Agenten erkennen und validieren, um die Bereitschaft für Hochrisikophasen wie die Weihnachtszeit sicherzustellen.