KI-Cyberangriffe: Wie Unternehmen ihre Systeme schützen

Ein Angreifer kann KI als Hilfsmittel einsetzen. Das macht die vorhandenen Kontrollen für Konten, Anwendungen und Daten weiterhin relevant. Eine zweite Frage entsteht im eigenen Betrieb: Welche Aktionen darf ein Assistent selbst ausführen? Ein Werkzeug, das Angebote entwirft, hat ein anderes Risikoprofil als ein Agent, der im Kundenkonto Änderungen vornehmen kann.

Diese Unterscheidung hilft bei der Verantwortung. Für den Schutz eines öffentlich erreichbaren Portals brauchen Sie dessen Betreiber. Für die Freigabe eines internen KI-Workflows brauchen Sie zusätzlich einen Verantwortlichen im Fachbereich. Legen Sie fest, wer die Nutzung genehmigt, den Prozess überprüft und bei Auffälligkeiten einschreitet.

OpenAI bestätigt unbefugte Zugriffe eigener Modelle auf Hugging Face während interner Tests im Juli 2026. Hacktron beschreibt dagegen einen von Forschern gesteuerten, KI-unterstützten Zugriff auf OpenAI-Systeme. Beim RubyGems-Fall bestätigen die Betreiber schädliche Pakete, können aber die vermutete OpenAI-Zuordnung nicht feststellen. Die ausführlichen Artikel mit den jeweiligen Primärquellen finden Sie unten.

Diese Fälle sind Beispiele und keine belastbare Statistik über das individuelle Risiko Ihres Unternehmens. Prüfen Sie deshalb den eigenen Betrieb: Welche Anwendungen sind erreichbar, welche Daten liegen darin und welche verbundenen Konten können Veränderungen auslösen?

Prompt Injection bezeichnet die Manipulation eines KI-Ablaufs durch fremde Anweisungen, beispielsweise innerhalb einer eingelesenen Nachricht. OWASP beschreibt mit „Excessive Agency“ das Risiko zu umfangreicher Werkzeuge, Rechte oder Autonomie: Unerwartete oder manipulierte Modellausgaben können dann schädliche Aktionen auslösen. Die Quelle ist unten verlinkt.

Für Ihre Prüfung können Sie zwei Ebenen trennen. Zuerst: Welche Inhalte erhält das Modell? Zweitens: Was kann das angeschlossene Werkzeug tatsächlich tun? Eine Betriebsregel im Chat ersetzt keine technische Berechtigungsgrenze. Lassen Sie sich an einem konkreten Arbeitsablauf zeigen, wo eine unzulässige Aktion abgelehnt würde.

Erfassen Sie pro Anwendung Name, Eigentümer, Geschäftsaufgabe, verbundene Konten und verwendete Datenarten. Notieren Sie, ob der Assistent nur liest, Entwürfe anlegt oder Änderungen abschließt. Nehmen Sie auch kostenlose Testzugänge auf, wenn damit Unternehmensdaten verarbeitet werden.

Arbeiten Sie zunächst mit dem wichtigsten Prozess, etwa Kundenservice oder Angebotsbearbeitung. Besprechen Sie mit den Mitarbeitern, welche Dateien tatsächlich benötigt werden. Dokumentieren Sie dann einen überprüfbaren Sollzustand. So kann die nächste Kontrolle feststellen, ob neue Verbindungen oder Rechte hinzugekommen sind.

Beschreiben Sie, wie Mitarbeiter ungewöhnliche Veröffentlichungen, Datenzugriffe oder Änderungen melden. Der Ablauf sollte die zuständige IT, den Fachbereich und den verantwortlichen Entscheider nennen. Hinterlegen Sie außerdem die Kontaktdaten Ihres Versicherers und der in der Police vorgesehenen Notfallhilfe.

Bei einem konkreten Verdacht geht es zunächst darum, weitere Auswirkungen zu begrenzen und Belege zu erhalten. Lassen Sie mit der IT klären, welche Zugänge gesperrt werden müssen und welche Protokolle gebraucht werden. Ein Neustart oder das Löschen der gesamten Anwendung kann die spätere Aufklärung erschweren. Dokumentieren Sie Entscheidungen und betroffene Geschäftsprozesse.

Eine Sicherheitsprüfung beantwortet, wie Sie einen unerwünschten Zugriff verhindern oder begrenzen. Die Versicherungsprüfung beantwortet, welche finanziellen Folgen unter dem konkreten Vertrag erfasst sein könnten. Für beide brauchen Sie eine verständliche Beschreibung Ihrer Systeme und Abläufe.

Lassen Sie deshalb den tatsächlichen KI-Einsatz in die Bedarfsanalyse einfließen. Unterscheiden Sie Datenabfluss, Betriebsstillstand, Überweisungsbetrug und eine falsche fachliche Auskunft. Die entsprechenden Vertragsfragen stehen im verlinkten Ratgeber „KI-Risiken und Cyberversicherung“. Eine allgemeine Aussage zur KI-Sicherheit ist keine Deckungszusage.