Diese Website verwendet Cookies, um das Angebot nutzerfreundlicher und effektiver zu machen. Mit der Nutzung dieser Website stimmen Sie der Verwendung von Cookies zu. Weitere Informationen über die Verwendung von Cookies und die Möglichkeit der Verwendung von Cookies zu widersprechen, finden Sie hier.

Use #itsa19

8. - 10. Oktober 2019 // Nürnberg

it-sa Newsroom

Kriminelle KI

Technik

Illustration Datendiebstahl
© istockphoto.com/ iLexx

Wenn Angreifer künstliche Intelligenz einsetzen, hat es Security-Software schwer. Erste Ansätze wurden bereits gesichtet. Sie fordern die Entwickler von Sicherheitslösungen heraus.

Im IT-Sektor kann die Sicherheit mithilfe künstlicher Intelligenz deutlich verbessert werden, das ist unumstritten. Wo Antivirussysteme bisher für jeden neuen Abkömmling einer Schadsoftware auf eine eigene Signaturkennung angewiesen waren, können dank maschinellem Lernen Ähnlichkeiten entdeckt und Malware-Mutationen unschädlich gemacht werden. Doch auch Angriffe entwickeln sich weiter, Cyberkriminelle stellen sich auf die KI-basierten Abwehrsysteme ein. Berichte aus den Forschungslabors der Sicherheitsanbieter bestätigen: „Wir sehen erste Varianten, die versuchen, unseren Maschine-Learning-Systemen etwas Falsches beizubringen“, hieß es unlängst bei einer Podiumsdiskussion mit internationalen Security-Experten.

Die Angreifer machen sich dabei zunutze, das maschinelles Lernen auf der Korrektheit der eingegebenen Beispieldaten basiert. Wenn dieser Datenpool kompromittiert wird, sind auch die daraus resultierenden Ergebnisse falsch. Dazu könnten Betrüger beispielsweise versuchen, manipulierte Samples auf die Analyseplattform Virustotal hochzuladen, von der viele Softwareanbieter Daten beziehen.

Aber auch direkte Angriffe auf die Basistechnologie des maschinellen Lernens, die neuronalen Netze, sind denkbar. Als „Proof of Concept“ haben Forscher der Universität von New York unlängst demonstriert, wie sich in diese Software-Netze Hintertüren einbauen lassen, um gefälschte Daten zu injizieren. Diese Angriffsvariante erfordert allerdings sehr viel Aufwand und dürfte wohl weniger von typischen Cyber-Kriminellen eingesetzt werden. Inzwischen setzen allerdings erste Cybercrime-Gruppen KI-Technologien ein, um Zielnetzwerke auszuspionieren und Schutzcharakteristika zu analysieren. Angriffe können dadurch an unterschiedliche Netzwerktopologien und Sicherheitslösungen angepasst werden.

Einfacher Zugriff auf KI-Technik

Angreifer müssen für die Verwendung von KI-Methoden weder über besonderes Expertenwissen, noch über hohe finanzielle Mittel verfügen: Die steigende Zahl frei verfügbarer Lösungen für maschinelles Lernen, wie etwa Googles TensorFlow, ermöglicht Software-Entwicklern ohne besonderes Wissen den Einsatz modernster Technik. Immer leistungsstärkere Hardware zu günstigen Preisen erlaubt es Cyber-Kriminellen, KI-Software-Bibliotheken, wie OpenNN, in eigene Programme einzubinden.

Selbstlernende Software lässt sich auch einsetzen, um Schwachstellen in gängigen Software-Paketen aufzufinden oder verdächtige Code-Stellen zu identifizieren, die zur Entdeckung neuer Zero-Day-Lücken führen könnten.

Da Phishing Mails heutzutage das Mittel der Wahl für die Infiltration von Malware sind, demonstrierten Wissenschaftler kürzlich, wie Kriminelle die Effizienz von Angriffen mit Phishing Mails steigern können. Vorab hatten sie schon gezeigt, dass die Erkennung von Phishing-URLs mit KI-Methoden eine 98-prozentige Trefferquote erreichen kann. Nun gingen sie weiter, identifizierten und analysierten zwei aktuell erfolgreiche Angriffswellen. Ihr Ergebnis: Die dort verwendeten Methoden könnten durch einfache Techniken, wie veränderte URLs zu einer deutlich höheren Erfolgsquote führen. Mit ihrer KI-Software DeepPhish steigerten sie theoretisch die Trefferquote im ersten Fall von knapp ein Prozent auf über 20 Prozent und im anderen Fall sogar von rund fünf Prozent auf circa 36 Prozent. Wenn Cyberkriminelle auf solche Systeme zurückgreifen oder sie selbst entwickeln, wächst der Schaden erheblich. Deshalb wird es in den kommenden Jahren darauf ankommen, auch in Sachen KI den Tätern immer einen Schritt voraus zu sein.

Am Einsatz Künstlicher Intelligenz wird massiv geforscht. Noch hat die Technologie aber Tücken, zeigt dieser Artikel  auf.

______________

Neuheiten rund um die it-sa und News aus der IT-Sicherheitswelt finden Sie auch im it-sa Security Newsletter. Hier geht es zur Newsletter-Anmeldung.

Jetzt bis zum 27. August Gratis-Ticket sichern!

top