destill.ai · Alle Branchen · English · Trust Center
Für QS, Regulatory Affairs und Klinik-IT
Wer zeigt, was der KI-Agent gesehen und getan hat?
KI prüft heute schon Bilder und Dokumente in GxP-nahen Prozessen. Später kann niemand zeigen, welches Modell was entschieden hat und ob das Bild das aufgenommene war. Ein POAW-Beleg pro Schritt und ein versiegeltes Bild geben Ihrer QS etwas zum Prüfen statt zum Glauben.
Selbst ausprobierenPilot anfragen
Siehe auch: Pharma Medical Affairs: ein Beleg für jede Antwort, die ein KI-Agent vorbereitet
Qualitätssicherung
Ein Audit Trail im System des Anbieters ist so stark wie dessen Administrator. Die QS will einen Datensatz, den sie selbst prüfen kann.
Regulatory Affairs
Part 11 und ALCOA+ verlangen zuordenbare, zeitnahe, originale Aufzeichnungen. Für KI-Schritte ist das meist noch ein Versprechen.
Klinikleitung
Fiktiver Fall aus dem Film: Ein Triage-Agent stuft eine Patientin als „nicht dringend“ ein; später sieht ihr Röntgenbild in der Akte anders aus. Das ist eine Haftungsfrage.
Der Film
Die Eingangsszene als kurzer Clip.
Das ganze Erklärvideo
Kapitel
Selbst ausprobieren: ein signierter Beleg zum Prüfen
So sieht der Beleg aus, den Ihr Agent nach dem Pilot bei jedem Lauf erzeugt. Synthetische Daten, echte Kryptografie: eine ML-DSA-65-Signatur und ein Zeitstempel nach RFC 3161 von einer unabhängigen Stelle. Prüfen Sie ihn im Browser, danach eine Kopie, in der ein Wert in Schritt 3 geändert wurde.
Schritt der visuellen Qualitätskontrolle (fiktive Charge)
| Schritt | Was der Agent tat | Zeit (UTC) |
|---|---|---|
| 1 | Charge eingegangenbatchId: B-26-0417 · product: tablet 50 mg (fictional) · line: L3 | 06:15:00 |
| 2 | Bilder aufgenommenstation: inspection camera 2 · images: 3 × hash | 06:15:42 |
| 3 | Defekte klassifiziertmodel: vision-qc 1.7 · defectsFound: 2 · classes: chipped edge, spot · confidence: 0.94 | 06:15:44 |
| 4 | SOP-Grenzwert geprüftsop: SOP-QC-112 v5 · acceptLimit: 3 · result: within limit | 06:15:44 |
| 5 | Verwendung vorgeschlagendisposition: forward to QA review | 06:15:45 |
| 6 | Menschliche Freigaberole: QA reviewer · approver: hash | 07:02:19 |
| 7 | Datensatz archiviertsystem: eQMS · record: hash | 07:02:21 |
Diesen Beleg prüfenManipulierte Kopie prüfen
Beleg herunterladen (JSON) · Oder ziehen Sie die Datei selbst in die Prüfseite, ändern Sie eine Zahl im Texteditor und ziehen Sie sie erneut hinein.
Ihre Technik kann die Prüfung offline wiederholen, mit OpenSSL ab 3.5 und dem veröffentlichten Skript: Prüfpaket.
Was Sie bekommen
Jeder Punkt trägt seinen Stand aus unserem Funktionsregister: Gebaut, Pilot oder Roadmap. Der Hinweis am Etikett nennt den Beleg dafür.
Ein signierter Beleg pro Agentenlauf: jeder Schritt, in Reihenfolge, mit Modell und Version. Post-Quanten-Signatur ML-DSA-65 (FIPS 204). Zeitstempel einer unabhängigen Stelle nach RFC 3161; niemand kann den Beleg rückdatieren, auch wir nicht. AEGIS: ein Prompt-Injection-Filter auf der CPU, vor dem Modell. Nur selbst berichtete Werte; es gibt noch keinen öffentlichen, nachprüfbaren Lauf, daher nennt diese Seite keine. Fortress SEAL (nur Bilder): ein bei der Live-Aufnahme versiegeltes Foto; nach jeder Änderung bricht das Siegel und die Prüfung zeigt den Bereich. Fortress TRACE: eine unsichtbar markierte Kopie pro Empfänger; taucht eine Kopie auf, sehen Sie, an wen sie ging.
Der rechtliche Rahmen
Wo ein Beleg hilft, eine Pflicht nachzuweisen. Er erfüllt die Pflicht nicht für Sie und macht niemanden von selbst rechtskonform. Keine Rechtsberatung.
AI Act Art. 50
Kennzeichnung KI-erzeugter oder manipulierter Inhalte. Fortress-Marken können helfen, die Kennzeichnung nachzuweisen. Ob und wie Art. 50 für Sie gilt, ist eine rechtliche Bewertung.
Quelle: eur-lex.europa.eu
AI Act, Art. 6 Abs. 1 mit Art. 12 und 26 Abs. 6
KI als Sicherheitsbauteil eines Medizinprodukts nach MDR/IVDR ist Hochrisiko; sie muss Ereignisse protokollieren, Betreiber bewahren Logs mindestens sechs Monate auf. Ein Beleg hilft nachzuweisen, dass ein Log zu einem festen Zeitpunkt bestand, unverändert.
Quelle: eur-lex.europa.eu
21 CFR 11.10(e)
Sichere, computergenerierte, zeitgestempelte Audit Trails. Der Beleg hilft, Reihenfolge und Zeit der KI-Schritte mit einem unabhängigen Zeitstempel nachzuweisen; die Validierung Ihres Systems bleibt bei Ihnen.
Quelle: www.ecfr.gov
ALCOA+ (EMA-Leitlinie zu computergestützten Systemen)
Zuordenbar, zeitnah, original. Signatur und Zeitstempel helfen, die ersten beiden für jeden KI-Schritt nachzuweisen.
Quelle: www.ema.europa.eu
EU-GMP Annex 22 (Entwurf) und DSGVO Art. 9
Annex 22 zu KI in der GMP ist ein Konsultationsentwurf; was die finale Fassung verlangt, ist offen. Gesundheitsdaten sind besondere Kategorien: Der Beleg speichert Hashes, nicht die Daten selbst.
Quelle: health.ec.europa.eu
Die ehrliche Grenze
Ein Beleg beweist, wer welche Schritte wann signiert hat. Er beweist nicht, dass der Agent richtig lag, und nicht, dass nichts weggelassen wurde: Er deckt ab, was protokolliert wurde. Der Zeitstempel beweist, dass der Beleg vor der gestempelten Zeit existierte, nicht, wann die Handlungen stattfanden. Das SIEGEL zeigt eine Änderung nach der Aufnahme; es kann nicht zeigen, dass ein Bild schon vor dem Versiegeln falsch war, und es sagt nie, ein Bild sei „nicht KI-erzeugt“. Keine Rechtsberatung.
Geplant, noch nicht gebaut
Was als Nächstes kommt, je nach Bedarf und Investition. Nichts davon gehört zum Pilot.
Eine Beweiskette über Systeme hinweg, z. B. Foto → Agent → Entscheidung. Schlüssel in Hardware (HSM). - Zeitstempel von einer Stelle im eigenen Haus, damit das Signieren keine externe Verbindung braucht.
- Eine gehostete Schnittstelle (API) und ein Validierungspaket für regulierte Umgebungen.
- Fortress SIEGEL in einer eigenen Smartphone-App (eine ProofCam-Demo gibt es). Ein stärkerer Herkunftsbeweis käme von Kameraherstellern, die die resiliente und die fragile Marke direkt in der Hardware einbringen. Das wollen wir mit ihnen aufbauen; es hängt von Investition und Bedarf ab.
Der Pilot: Umfang und Dauer gemeinsam festgelegt, Preis nach Scoping
Umfang
Ein Anwendungsfall, z. B. visuelle Qualitätskontrolle oder ein Bild-Workflow, ein Standort, ein Team. Läuft in Ihrem Netz oder Cloud-Mandanten. Dazu ein Mapping-Dokument (AI Act Art. 12, 21 CFR 11.10(e), ALCOA+) als Arbeitsgrundlage für QS und RA, keine Validierung. Abschlussbericht mit Go/No-Go. Ihr eigener Implementierungspartner kann es anbinden: Wir übergeben das SDK und den Sandbox-Aufbau (ein Rechner, Docker). Der Zeitrahmen wird im Scoping festgelegt.
Preisrahmen: Preis nach dem Scoping, abhängig von Ihrem Prozess und Ihrer Umgebung.
Erfolgskriterien, beim Start schriftlich vereinbart
- Mindestens 99 % der KI-Schritte im Pilot-Ablauf erzeugen einen prüfbaren Beleg.
- Ihr Team prüft einen Beleg selbst, ohne unsere Hilfe (OpenSSL).
- SEAL findet veränderte Bildbereiche in mindestens 95 % der Fälle, höchstens 1 % Falschmeldungen, auf einem vorab vereinbarten Testsatz.
- Der Mehraufwand pro Arbeitsschritt wird gemessen; das Ziel legen wir beim Start gemeinsam fest.
Quelle: unser schriftliches Pilotangebot; die Zielwerte sind das, was wir zu messen zusagen, keine Ergebnisse eines früheren Piloten.
Was Sie beisteuern
- Einen konkreten Ablauf und eine verantwortliche Person
- Testdaten oder Testbilder und Zugang zu einer Testumgebung
- Ansprechpartner aus IT und Compliance oder Revision
- Eine Verbindung zu einer Zeitstempel-Stelle, beim Signieren oder später (das Signieren selbst geht offline)
- Ihre eigene rechtliche Bewertung
- Validierung (CSV/CSA) und QS-Freigabe bleiben bei Ihnen
Sie möchten das schriftliche Pilotangebot? Wählen Sie unten „Über einen Piloten sprechen“, wir senden es mit unserer Antwort.