Die Trennung von Fakt und Fiktion: So transformiert KI Cyberkriminalität

In der sich schnell verändernden Landschaft der Cybersicherheit ist “künstliche Intelligenz” das Schlagwort, das die Gespräche in der Branche, die Diskussionen in Vorstandsetagen und die Schlagzeilen der Medien dominiert. Einige behaupten, dass KI eine Allzwecklösung für die Cybersicherheit ist, während andere glauben, dass sie langsam unsere digitale Gesellschaft zerstören wird, wie wir sie kennen.

Wenn es um aufkommende Technologien geht, stimmen diese Hype-Zyklen und die kühnen Behauptungen, die sie begleiten, oft nicht vollständig mit der Realität überein. Während Bedrohungsakteure sicherlich KI in ihre Angriffswerkzeuge integrieren, bleiben die sensationalistischen, apokalyptischen Szenarien, die häufig diskutiert werden, weitgehend theoretisch. Statt mehr Angst, Unsicherheit und Zweifel benötigen Verteidiger eine klare Einschätzung, wie KI das Ökosystem der Cyberkriminalität heute verändert und wie es sich in Zukunft entwickeln wird.

Letzte Woche nahm ich an der RSA Conference (RSAC) 2025 in San Francisco an einer Podiumsdiskussion teil, die genau dieses Thema behandelte. Ich hatte das Vergnügen, gemeinsam mit Experten des UC Berkeley Center for Long-term Cybersecurity (CLTC), des Berkeley Risk and Security Lab (BRSL) und der Nanyang Technological University in Singapur über KI-gestützte Cyberkriminalität zu diskutieren.

Die aktuelle Rolle von KI in der Cyberkriminalität

Es ist leicht anzunehmen, dass Cyberkriminelle KI nutzen, um neuartige Angriffsmethoden zu entwickeln. Die Realität ist jedoch, dass Bedrohungsakteure KI hauptsächlich dazu verwenden, die Effizienz und den Umfang bestehender Techniken wie Social Engineering und Malware-Deployment zu verbessern. Die Technologie senkt auch die Eintrittsbarrieren für Cyberkriminelle, sodass sowohl unerfahrene als auch erfahrene Bedrohungsakteure erfolgreiche (und lukrative) Angriffe durchführen können.

„KI erfindet Cyberbedrohungen nicht neu (vorerst); sie turboauflädt sie“, sagte Dr. Gil Baram, nicht ansässiger Forschungsscholar am UC Berkeley Center for Long-term Cybersecurity.

Wie Helena Huang, assoziierte Forschungsstipendiatin an der S. Rajaratnam School of International Studies in Singapur, bemerkte, ist es die Demokratisierung von KI, die diese Veränderungen in den Fähigkeiten der Angreifer vorantreibt. Vieles, was früher tiefgehende Programmierkenntnisse erforderte, ist jetzt leicht über KI zugänglich. Angreifer nutzen KI als „einfache Lösung“, um arbeitsintensive Aufgaben zu automatisieren, hochgradig personalisierte und kontextuell relevante Social Engineering-Kommunikationen zu erstellen und vorhandenen bösartigen Code zu optimieren, um Erkennung zu umgehen.

Während der Podiumsdiskussion teilte ich einige unserer Beobachtungen aus den FortiGuard Labs über die spezifischen Tools, die Angreifer verwenden, wie FraudGPT und WormGPT, um ihre Operationen zu unterstützen. Wir wiesen auch auf das rasante Wachstum von KI-als-Service-Modellen im Cyberkriminellen-Untergrund hin. Ähnlich wie die Ransomware-als-Service-Modelle, die im vergangenen Jahrzehnt verbreitet wurden, können heutige Kriminelle KI-gestützte Dienste erwerben, die Aufklärungstools, Deepfake-Generierung oder Social Engineering-Kits anbieten, die auf bestimmte Branchen oder Sprachen abzielen. Beispielsweise haben KI-Übersetzungstools Phishing-E-Mails viel überzeugender gemacht, indem sie Sprachfehler beseitigt haben.

Zukünftige Entwicklungen und die Auswirkungen auf Cybersicherheitsverteidiger

Während Sicherheitsexperten ihre Verteidigungsstrategien planen, ist es entscheidend, dass wir antizipieren, wie KI die Taktiken der Cyberkriminellen in den kommenden Jahren umgestalten wird. Ebenso wichtig ist es, die grundlegenden Wendepunkte und wahrscheinlichen Herausforderungen zu erkennen, die diese Evolution für die gesamte Branche mit sich bringt.

Im Verlauf der Sitzung sprachen wir über die potenziellen Auswirkungen von KI auf die Entdeckung von Schwachstellen, die Schaffung neuartiger Angriffsvektoren und die zunehmende Nutzung autonomer Agenten. Das Potenzial zukünftiger KI-Entwicklungen, die Entdeckung von Zero-Day-Schwachstellen erheblich zu beschleunigen, ist eine ernsthafte Sorge, auf die sich Verteidiger vorbereiten müssen.

Über die Nutzung von KI zur Ermittlung neuer Schwachstellen hinaus könnten Cyberkriminelle KI leicht nutzen, um neue Angriffsvektoren zu entwickeln. Auch wenn dies derzeit nicht geschieht, ist es ein Konzept, das unvermeidlich Realität werden wird. Beispielsweise könnten Angreifer Schwachstellen innerhalb von KI-Systemen selbst ausnutzen oder ausgeklügelte Datenvergiftungsangriffe auf die maschinellen Lernmodelle ausführen, die Organisationen verwenden.

Schließlich, während eine Gruppe autonomer Agentenschwärme, die gesamte Cyberangriffe durchführt, heute nicht plausibel erscheint, ist es entscheidend, dass die Cybersicherheitsgemeinschaft überwacht, wie Bedrohungsakteure schrittweise Automatisierung übernehmen, um ihre Angriffe zu unterstützen.

Entwicklung unserer kollektiven Verteidigungsstrategien

Wenn wir antizipieren, wie Angreifer KI in Zukunft nutzen könnten, wird deutlich, dass die Bekämpfung fortschrittlicher KI-gesteuerter Bedrohungen eine Evolution der Verteidigung erfordert. Wie ein Podiumsteilnehmer kommentierte: „KI-gesteuerte Angriffe sind nicht unaufhaltsam. Verteidiger passen sich ebenso schnell an.“

Glücklicherweise beginnen Verteidiger, entsprechend zu reagieren. IT-Teams nutzen Rahmenwerke wie MITRE ATT&CK, um Angriffsabläufe zu kartieren und KI für prädiktive Modellierung und Anomalieerkennung einzusetzen. Das Panel stellte jedoch auch fest, dass kriminelle Unternehmen eine Agilität beibehalten, die Verteidiger, die oft durch Bürokratie oder siloartige Verantwortlichkeiten eingeschränkt sind, härter nachahmen müssen.

Die Evolution der Cyberverteidigung umfasst die Betonung von KI-gestütztem Bedrohungsjagen, hyperautomatisierten Vorfallreaktionsfähigkeiten und die potenzielle Neubewertung von Sicherheitsarchitekturen.

Über strategische und taktische Anpassungen unserer Verteidigungen hinaus sind Gespräche wie diese und die öffentlichen-private Kooperationen, die sie antreiben, entscheidend für unseren kollektiven Erfolg. Wie ich in der Podiumsdiskussion kommunizierte, ist internationale Zusammenarbeit nicht mehr optional; sie ist der einzige Weg zu einer effektiven Verteidigung.

Diese Diskussionen müssen auch informierte politische Änderungen anregen, die die proaktive Entwicklung neuer Rahmenbedingungen und standardisierter, global akzeptierter Normen über den Einsatz und Missbrauch von KI erfordern.

KI wird weiterhin jeden Aspekt der Cybersicherheit beeinflussen. Unabhängig von den Ressourcen oder der Expertise kann keine einzelne Entität diesen Wandel erfolgreich allein bewältigen. Bei Fortinet freuen wir uns darauf, weiterhin zu den Bemühungen von CLTC gegen KI-gestützte Cyberkriminalität und anderen ähnlichen Initiativen beizutragen. Wir unterstützen Verteidiger in verschiedenen Branchen und Ländern, während wir die sich verändernde Bedrohungslandschaft navigieren und gemeinsam daran arbeiten, unseren Gegnern zuvorzukommen.

Der Erfolg wird nicht nur von Technologie abhängen, sondern auch von Zusammenarbeit, Flexibilität und kontinuierlicher Anpassung. Wie unser Panel abschloss, war eine unserer Schlussbotschaften zu teilen, dass während das Wettrüsten weitergeht, auch unser Fortschritt weitergeht.