Die offenen Geheimnisse von KI und der Exposition sensibler Daten

In der heutigen digitalen Welt ist Künstliche Intelligenz (KI) nicht mehr wegzudenken. Sie verändert die Art und Weise, wie Unternehmen arbeiten, und bietet zahlreiche Möglichkeiten zur Effizienzsteigerung. Doch mit diesen Möglichkeiten kommen auch erhebliche Sicherheitsrisiken. Eine aktuelle Umfrage von 1Password zeigt, dass 63% der Sicherheitsverantwortlichen glauben, dass die größte interne Sicherheitsbedrohung darin besteht, dass Mitarbeiter KI Zugriff auf sensible Daten gewähren. In diesem Artikel werden wir die vier größten Herausforderungen untersuchen, die durch unkontrollierten Zugang zu KI-Tools entstehen, und Lösungen vorschlagen, um diese Risiken zu minimieren.

Herausforderung 1: Eingeschränkte Sichtbarkeit der KI-Nutzung

Nur 21% der Sicherheitsverantwortlichen geben an, dass sie vollständige Sichtbarkeit über die in ihrer Organisation verwendeten KI-Tools haben. Diese mangelnde Sichtbarkeit ist ein langjähriges Problem für Sicherheitsteams, das durch die zunehmende Nutzung von generativen KI-Tools verschärft wird. Selbst wenn Richtlinien vorhanden sind, ist es schwierig, diese durchzusetzen, wenn nicht klar ist, welche KI-Anwendungen tatsächlich genutzt werden.

Um die Sichtbarkeitsprobleme zu beheben, sollten Sicherheitsverantwortliche folgende Maßnahmen ergreifen:

• Dokumentieren und verstehen, wie Mitarbeiter KI in ihren täglichen Arbeitsabläufen nutzen.
• SaaS-Governance- oder Gerätevertrauenskontrollen verwenden, um die Nutzung von KI zu identifizieren.
• Überprüfen, wo neue oder zusätzliche Richtlinien durchgesetzt werden müssen, z.B. das Blockieren bestimmter generativer KI-Tools.

Herausforderung 2: Durchsetzung von Sicherheitsrichtlinien für KI

54% der Sicherheitsverantwortlichen geben an, dass die Durchsetzung ihrer KI-Governance schwach ist. 32% glauben, dass bis zu 50% der Mitarbeiter weiterhin nicht autorisierte KI-Anwendungen verwenden. Die Implementierung und Durchsetzung von Sicherheitsrichtlinien ist schon lange eine Herausforderung, und im Bereich der KI ist die Governance besonders wichtig.

Um eine effektive KI-Governance zu etablieren, sollten Sicherheitsverantwortliche:

• Die Durchsetzung von Sicherheitsrichtlinien in die allgemeine KI-Adoptionsstrategie des Unternehmens integrieren.
• Mit Geschäftspartnern zusammenarbeiten, um die Nutzung von KI proaktiv zu identifizieren und zu bewerten.
• Tools evaluieren und annehmen, die es ermöglichen, nicht autorisierte KI-Nutzung zu überwachen und zu blockieren.

Herausforderung 3: Unbeabsichtigte Exposition durch KI-Zugriff

63% der Sicherheitsverantwortlichen glauben, dass die größte interne Sicherheitsbedrohung darin besteht, dass Mitarbeiter unwissentlich KI Zugriff auf sensible Daten gewähren. Dies geschieht häufig ohne ausreichende Aufsicht, was das Risiko eines Datenverlusts erheblich erhöht.

Um das Risiko unbeabsichtigter Datenexposition zu minimieren, sollten Unternehmen:

• Definieren, was als akzeptable Datenfreigabe mit KI-Tools gilt.
• Schulungsprogramme implementieren, die Mitarbeitern helfen, die Risiken des Hochladens von Unternehmensdaten zu erkennen.
• Benutzerfreundliche Richtlinien entwerfen, die Unternehmensdaten schützen, ohne die Arbeit zu verlangsamen.

Herausforderung 4: Unverwaltete KI

Mehr als die Hälfte der Sicherheitsverantwortlichen (56%) schätzen, dass zwischen 26% und 50% ihrer KI-Tools und -Agenten unverwaltet sind. Dies bedeutet, dass Mitarbeiter möglicherweise KI-Agenten ihre Anmeldeinformationen zur Verfügung stellen oder direkte Verbindungen zwischen KI-Tools und sensiblen Systemen herstellen, ohne formale Identitäts- oder Zugriffsverwaltung.

Um die Risiken unverwalteter KI-Tools zu mindern, sollten Organisationen:

• Das Zugriffsmanagement und die Governance auf KI-Agenten ausweiten.
• Klare Richtlinien erstellen, wie KI-Agenten und -Tools Zugriff erhalten und verwaltet werden.
• Sicherstellen, dass die Aktionen von KI-Tools und -Agenten auditiert werden können, um Compliance-Anforderungen zu erfüllen.

Den Weg nach vorne sichern

Diese Forschung macht deutlich, dass Sicherheitsverantwortliche sich der Risiken bewusst sind, die von KI ausgehen, und dass sie nicht ausreichend ausgestattet sind, um diese anzugehen. Die gute Nachricht? Es gibt einen Weg nach vorne. Die Sicherung von KI bedeutet nicht, sie zu verlangsamen – es bedeutet, sie mit Vertrauen zu ermöglichen.

Bei 1Password glauben wir, dass die Zukunft der Arbeit davon abhängt, vertrauensbasierte Sicherheit auf jede Identität, menschlich oder maschinell, auszuweiten. Es ist an der Zeit, nicht mehr hinterherzulaufen, sondern Sicherheitsstrategien zu entwickeln, die mit der KI Schritt halten.

Quellenliste:

• Quelle: New research uncovers four security challenges caused by unmanaged AI access
• Explaining the Access-Trust Gap