Die KI-Chance im Sicherheitsbetrieb
Infografik
Künstliche Intelligenz (KI) ist seit langem Teil der Sicherheitslandschaft, aber neuere Entwicklungen wie generative KI bringen neue Herausforderungen und Chancen für das Security Operations Center (SOC) mit sich.
Die schlechten Nachrichten
Es gibt viele Beispiele dafür, wie generative KI Angreifern Macht verleihen könnte:
- Überzeugendere Phishing-E-Mails, die in großem Umfang verfasst und versendet werden
- Schädlicher Binärcode, der in automatisierte und orchestrierte Prozesse eingefügt wird
- Polymorphe Malware mit verbesserten Umgehungs- oder Verschleierungstechniken
- Ausgefeilte Backstopping-Maßnahmen zur Unterstützung anspruchsvoller Social-Engineering-Bemühungen
Die gute Nachricht
Die KI-Tools, denen SOCs heute vertrauen, bieten weiterhin eine wirksame Verteidigung:
- UEBA –Die von einem SIEM genutzte Benutzer- und Entitätsverhaltensanalyse (UEBA) nutzt maschinelles Lernen, um eine Basislinie normaler Aktivitäten zu erstellen, sodass Bedrohungen und Angriffe – einschließlich der von KI verursachten – identifiziert werden können.
- SOAR– Als Teil eines SIEM integriert Security Orchestration, Automation and Response (SOAR) Erkenntnisse aus Deep-Learning-Systemen, sodass bei der Erkennung eines Risikos schnell automatisierte Abwehrmaßnahmen eingeleitet werden.
Es gibt viele potenzielle Möglichkeiten, wie Sicherheitsteams auch generative KI einsetzen können. Derzeit gibt es jedoch Risiken, die erkannt und gemindert werden müssen:
- Halluzination: fehlerhafte Ausgaben, da die KI Antworten auf der Grundlage sequenzieller Wahrscheinlichkeiten und nicht auf der Grundlage von Fakten gibt.
- Modellkollaps: Schnelle Verschlechterung eines KI-Modells, da es zunehmend mit von der KI erzeugten Ergebnissen trainiert wird.
- Nichteinhaltung: regulatorische Haftungen, die sich aus der Aufnahme vertraulicher Informationen durch das Modell ergeben könnten.
Sichere Lösungen
Security Information and Event Management (SIEM)-Lösungen wie UEBA und SOAR mögen zwar weiterhin ein Bollwerk für SOCs gegen KI-gesteuerte Bedrohungen darstellen, doch neue Innovationen im Bereich der generativen KI könnten die Spielregeln grundlegend verändern. Zum Beispiel:
- Vereinfachte Abfrageprozesse, sodass Analysten Protokolle und Berichte mithilfe von Eingaben in einfacher Sprache abrufen können.
- Durch die automatische, dynamische Erstellung von Playbooks können die Erkennung, Untersuchung und Reaktion auf Bedrohungen (TDIR) optimiert werden.
- Algorithmen könnten SOC-Metriken analysieren, um bessere Datenvisualisierungen bereitzustellen und langfristige Trends aufzudecken.
- Ausgefeilte KI könnte historische Daten und prädiktive Analysen kombinieren, um eine proaktive Bedrohungssuche zu ermöglichen.
