Diese Website verwendet Cookies, um das Angebot nutzerfreundlicher und effektiver zu machen. Mit der Nutzung dieser Website stimmen Sie der Verwendung von Cookies zu. Weitere Informationen über die Verwendung von Cookies und die Möglichkeit der Verwendung von Cookies zu widersprechen, finden Sie hier.

Use #itsa19

8. - 10. Oktober 2019 // Nürnberg

it-sa Newsroom

Künstliche Intelligenz muss noch viel lernen

Management

Schlagzeile Cyber Attack
© istockphoto.com/ CasPhotography

Kaum eine Sicherheitslösung kommt mehr ohne künstliche Intelligenz aus. Doch nicht in allen Anwendungen erfüllen diese Systeme die Erwartungen.

Künstliche Intelligenz (KI) geisterte im Jahr 2018 als Hype durch die Medien. Sie werde alles verändern, äußerte Bundeswirtschaftsminister Peter Altmaier jüngst beim Digitalgipfel in Nürnberg.

Immense Fördermittel für unzählige Forschungsprojekte unterstreichen die an diese Technologie geknüpften Erwartungen. Die Bundesregierung will bis einschließlich 2025 insgesamt etwa 3 Milliarden Euro für die Förderung der KI-Forschung zur Verfügung stellen, heißt es in einem Strategiepapier des Bundeskabinetts. Andere Länder verfügen über ähnliche Vorhaben: Großbritannien investiert rund eine Milliarde, die japanische Regierung will eine Fördersumme in Höhe von rund 1,4 Milliarden US-Dollar bereitstellen und selbst die Trump-Regierung plant staatliche Fördermittel ein.

Doch bei allen mit dieser Technologie verknüpften Hoffnungen sollte nicht vergessen werden, dass universelle Heilsbringer selten die an sie gestellten Erwartungen erfüllen. Schon einmal war KI das dominierende IT-Thema: In den 1980er Jahren galt künstliche Intelligenz als Ersatz für Expertenwissen: Expertensysteme sollten Fachleute und Spezialisten in allen Wissenschaftsdisziplinen ablösen.

Anders als damals wird das heutige KI-Verständnis durch automatisiertes maschinelles Lernen geprägt. Dabei werden neuronale Netze eingesetzt, um Modelle zu erlernen, die sich dann auf andere vergleichbare Probleme anwenden lassen. Im Gegensatz zu starren Algorithmen sind neuronale Netze in der Lage, aus großen Mengen an Beispieldaten Analogien abzuleiten und mit Fällen umzugehen, die nicht in den Beispieldaten enthalten sind, aber daraus abgeleitet werden können. Um Muster zu entdecken, gilt Machine Learning als Methode der Wahl. Genau in diesem Bereich ist KI stark: die Analyse von Varianten anhand von Mustererkennung. Dank der heute verfügbaren Rechenleistung schaffen sie das mit hoher Geschwindigkeit, beinahe in Echtzeit.

Es kommt auf das Einsatzgebiet an

Genau das macht sie für Security-Aufgaben in Computernetzen geeignet, etwa die Erkennung von Malware. Denn Angreifer sind in den letzten Jahren dazu übergegangen tausendfach Varianten ein und desselben Schädlings in Umlauf zu bringen und klassische Antivirussysteme dadurch auszutricksen. Aber auch für die Erkennung von Phishing-E-Mails ist maschinelles Lernen erfolgreich einsetzbar, denn auch hierin sind Muster auffindbar. Sie versagen jedoch gänzlich, wenn es um komplexere Angriffe geht, etwa um APT-Attacken, die zumeist verteilt über einen längeren Zeitraum ablaufen.

Auch haben Machine-Learning-Plattformen oft Schwächen, die zu Fehleinstufungen zur Folge haben, etwa bei der Bilderkennung, einer Stammdomäne des maschinellen Lernens. Bekannt wurde Googles Algorithmus, der dunkelhäutige Menschen als Gorillas einstufte. Forscher fanden heraus, dass KI-Mustererkennungssysteme blinde Flecken aufweisen, das heißt, es gibt Muster, die sie schlicht nicht sehen können. Dafür können sie Halluzinationen entwickeln, also Dinge sehen, die nicht vorhanden sind. Die KI-Forschung hat also noch einige Aufgaben zu lösen, um die Technologie in den unterschiedlichsten Anwendungsbereichen zuverlässig einzusetzen.

Das Cybersecurity Lab der Universität von Louisville hat zu KI-basierten Fehlleistungen eine Studie veröffentlicht und warnt davor, sich bei sicherheitsrelevanten Entscheidungen nur auf Software-Agenten zu verlassen. Alleine schon, weil die Fehlerfreiheit dieser Systeme bisher ebenso wenig garantiert werden könne, wie die anderer Software.

Wie Cyberkriminelle KI nutzen, um intelligente Erkennungsmethoden auszuhebeln, lesen Sie hier .

______________

Neuheiten rund um die it-sa und News aus der IT-Sicherheitswelt finden Sie auch im it-sa Security Newsletter. Hier geht es zur Newsletter-Anmeldung.

Jetzt bis zum 27. August Gratis-Ticket sichern!

top