KI mit Leitplanken
Die KI webt mit. Die Hand am Hebel bleibt Ihre.
Die KI soll lose Enden und Risse im Gewebe finden, also verwaiste Konten und Angriffspfade. Eine KI, die Identitäten und Systeme verändern darf, braucht Grenzen, bevor sie die erste Zeile schreibt. Diese Grenzen stehen fest. Der Bau beginnt.
StandDie Regeln auf dieser Seite sind entschieden. Die KI-Schaltzentrale und die eingebaute KI-Laufzeit sind geplant; heute enthält Warpbeam noch keine KI-Funktion.
Autonomie
Sechs Stufen, für jede Aufgabe einzeln.
Sie legen fest, wie weit die KI gehen darf: getrennt für jede Art von Aufgabe, etwa „Recht entziehen“ oder „Dienst neu starten“, und getrennt nach der Kritikalität der betroffenen Systeme.
Stufe 0: Aus
Die KI tut nichts. Warpbeam arbeitet vollständig ohne sie.
Stufe 1: Erklären
Die KI erklärt Befunde und Zusammenhänge. Sie schlägt nichts vor und löst nichts aus.
Stufe 2: Empfehlen
Die KI schlägt eine Handlung vor. Ein Mensch übernimmt den Vorschlag, ein zweiter gibt ihn frei. Voreinstellung für jede Aufgabe.
Stufe 3: Mit Freigabe handeln
Die KI legt den Auftrag selbst an. Ausgeführt wird erst, wenn ein Mensch freigibt, der nicht der Auftraggeber ist. Bei den kritischsten Systemen sind es zwei.
Stufe 4: Autonom in Grenzen
Die KI handelt selbst, innerhalb fester Grenzen für Umfang, Budget und Dauer. Erst nach einem bestandenen Trockenlauf, und nur befristet.
Stufe 5: Voll autonom
Die KI handelt selbst, auch bei Freigaben. Nur wenn Sie es ausdrücklich einschalten, mit zweiter Person und bestätigter Risikoübernahme.
Auf jeder Stufe
Was immer gilt.
- ProtokollJeder Schritt der KI ist lückenlos festgehalten.
- NotausAnhalten geht sofort, ohne Freigabe.
- BudgetDie KI arbeitet mit begrenzten Mitteln und Aufrufen.
- ReichweiteJede Aktion hat eine Grenze, wie viel sie auf einmal berühren darf.
- RücknahmeZu jeder Aktion gehört ein Plan, sie rückgängig zu machen.
- TrockenlaufVor Stufe 4 oder 5 zeigt ein Probelauf, wie oft die KI richtig gelegen hätte.
Für die kritischsten Systeme gibt es einen eigenen Schalter, den nur zwei Menschen gemeinsam umlegen, und nur auf Zeit. Bei kritischer Infrastruktur bleibt die KI im IT-Betrieb bei Stufe 3, außer die Leitung übernimmt das Risiko ausdrücklich. Und auf jedem Server entscheidet zusätzlich ein Schalter vor Ort, ob die KI dort überhaupt selbst handeln darf; ab Werk ist er aus.
Grundsätze
Was sich nie abschalten lässt.
Diese Knoten bleiben fest, auch wenn alles andere eingeschaltet ist.
- Die KI ändert nie ihre eigenen Regeln oder ihre eigene Stufe.
- Das Protokoll ist nie abschaltbar und nie veränderbar. Jede Entscheidung der KI bleibt als solche erkennbar.
- Der Notaus ist immer verfügbar.
- Kein Weg führt an der einen Prüfstelle vorbei, die jede Handlung der KI passieren muss.
- Geheimnisse gehen nie an ein Modell.
- Notfallkonten sind nie Ziel einer KI-Handlung.
- Kein Sprachmodell entscheidet über eine Anmeldung.
Alles einschalten geht. Mit offenen Augen.
Sie können der KI auch Freigaben, Bestätigungen von Rechten oder das Aufheben eines Notaus überlassen. In der Voreinstellung ist das ausgeschaltet.
Wer es einschaltet, braucht eine zweite Person, bestätigt die Übernahme des Risikos und sieht vorher, welche Anforderungen der geltenden Regelwerke dann nicht mehr erfüllt sind.
Lernmodus
Erst lernen, dann handeln.
Im Lernmodus beobachtet Warpbeam Ihre Umgebung und die Entscheidungen Ihrer Leute, entscheidet im Schatten mit und misst, wie oft es richtig gelegen hätte. Es handelt nicht. Den Lernmodus gibt es heute schon im Anmeldeschutz; wir übertragen ihn auf die ganze Fabric.
- BeobachtenUmgebung und menschliche Entscheidungen, ohne einzugreifen.
- Im Schatten entscheidenDie KI entscheidet mit, aber nur auf dem Papier.
- MessenWie oft hätte sie richtig gelegen, wie oft daneben?
- Stufe 4 öffnenErst dieser Nachweis erlaubt Autonomie in Grenzen, befristet.
Jeder KI-Agent ist eine Identität.
Auch Ihre eigenen KI-Agenten und die externer Werkzeuge bekommen in Warpbeam eine Identität, einen verantwortlichen Menschen und nie mehr Rechte als dieser. Ein Agent kann nie risikoärmer gelten als der Mensch, für den er handelt.
Das Modell soll in Warpbeam laufen.
Warpbeam soll seine KI-Laufzeit selbst mitbringen. Das Sprachmodell soll ein offenes Modell sein, als signiertes Datenpaket kommen und ohne Verbindung ins Internet laufen. Für jeden Mandanten wählen Sie: die eingebaute Laufzeit, ein Modell, das Sie selbst betreiben oder beauftragen, oder gar keine KI. Vor jedem Aufruf werden Namen, Kennungen und Geheimnisse geschwärzt; das Modell sieht Pseudonyme.
Mit Ihren Daten wird kein Modell trainiert und keines nachjustiert.
Ohne Modell zeigt jede Funktion ihre Fassung ohne KI, und nichts bleibt stehen.