360digital · Schweiz
KI-Sicherheitsaudit für Chatbots und Agenten
Ein KI-Assistent, der Dokumente liest oder Aktionen auslöst, benötigt klare Grenzen. Wir analysieren den vereinbarten KI-Anwendungsfall entlang seiner Datenquellen, Berechtigungen und angeschlossenen Werkzeuge. Entscheidend ist, welche Auswirkungen eine falsche oder beeinflusste Antwort im tatsächlichen Geschäftsprozess haben könnte.
Prüfumfang besprechen ↗Wann dieser Einstieg sinnvoll ist
Geeignet vor dem Einsatz eines internen Wissensassistenten, eines Kundenchatbots mit Datenzugriff oder eines Agenten mit Schreibfunktionen. Die Prüftiefe richtet sich nach den verfügbaren Integrationen und der Bedeutung möglicher Aktionen – nicht allein nach dem gewählten Modell.
Der vereinbarte Prüfumfang
- Datenquellen, Nutzerrollen, Modellanbieter und angeschlossene Werkzeuge gemeinsam erfassen.
- Prüfen, wie fremde Inhalte behandelt und Zugriffsrechte vor Datenabrufen durchgesetzt werden.
- Folgenreiche Aktionen, menschliche Freigaben und technische Rechtebegrenzung betrachten.
- Mit vereinbarten Testfällen untersuchen, wie das System auf ungeeignete Inhalte oder fehlerhafte Ausgaben reagiert.
Ihre Ergebnisse
- Übersicht der Daten- und Aktionswege mit benannten Grenzen der Untersuchung.
- Dokumentierte Beobachtungen zu Zugriffen, Werkzeugnutzung und Freigaben.
- Priorisierte Empfehlungen für technische Kontrollen und betriebliche Regeln.
- Vorschläge für wiederholbare Prüfungen nach Änderungen an Modellen, Datenquellen oder Werkzeugen.
So bereiten wir den Auftrag vor
Hilfreich sind ein dokumentierter Anwendungsfall, eine Testumgebung, Beispieldaten und eine Liste erlaubter Aktionen. Zugangsdaten gehören weder in Prompts noch in öffentliche Formulare. Gemeinsam wählen wir harmlose Testfälle, die typische Geschäftsrisiken abbilden.
Aufwand, Angebot und Grenzen
Ein System-Prompt allein ist keine technische Zugriffskontrolle. Die Analyse ist weder eine allgemeine Modellzertifizierung noch eine Garantie gegen jede künftige Manipulation. Datenschutz- und Vertragsfragen werden als gesonderte Klärungspunkte benannt, wenn sie den Prüfauftrag berühren.
Nach einem Erstgespräch erhalten Sie ein Angebot mit Umfang, Voraussetzungen und vereinbarten Ergebnissen. Technische Prüfungen starten erst nach Freigabe. Über das Anfrageformular werden keine automatischen Tests ausgelöst.
Fachliche Orientierung: OWASP: Excessive Agency in LLM applications ↗Passendes Wissen vor der Beauftragung
KI-Chatbot-Sicherheit: Daten, Rechte und Antworten kontrollieren →
Sprechen wir über Ihr Vorhaben.
Beschreiben Sie kurz Ihre Umgebung und das Ziel der Prüfung. Bitte übermitteln Sie keine Passwörter, Zugangsschlüssel oder vertraulichen Kundendaten.
Analyse anfragen ↗