destill.ai · Alle Branchen · English · Trust Center
Für Medical Affairs, medizinische Information und Pharmakovigilanz in großen Pharmaunternehmen
Morgens hunderte Anfragen, abends sortiert. Wer zeigt, wie jede Antwort zustande kam?
Im fiktiven Tag aus dem Film liest ein KI-Agent jede Anfrage, prüft sie gegen freigegebene Quellen, entwirft im passenden Ton und gibt nur die unsicheren Fälle an einen Menschen. Proof of Agent Work gibt jedem dieser Schritte einen signierten Beleg, den Ihre QS und Ihre Prüfer ohne uns prüfen können. Große Pharma-Teams haben zusätzlich Fragen zu GxP, Audit Trails, gefälschten Bildern und Lecks; der Abschnitt darunter nimmt jede auf und sagt, was wir abdecken und was nicht.
Selbst ausprobierenPilot anfragenGespräch buchen
Siehe auch: Healthcare und Pharma: QK-Schritte, Audit Trails, versiegelte Bilder
Medizinische Information
Eine Antwort an Fachkreise muss auf freigegebenen Quellen beruhen. Hinterher müssen Sie zeigen, auf welchen, in welcher Fassung.
Pharmakovigilanz
Enthält eine Anfrage einen Verdacht auf eine Nebenwirkung, darf er nicht verloren gehen. Sie wollen zeigen, wann er erkannt wurde und an wen er ging.
Compliance
Medizinische Antworten dürfen nicht zu Werbung werden. Ein Pfad dessen, worauf der Agent sich stützte, hilft zu zeigen, wo die Grenze lag.
Woran große Pharma-Teams mit KI heute hängen
Öffentliche Regelungsentwürfe, Branchen-Leitfäden und Studien zur Forschungsintegrität, mit der Quelle auf jeder Karte. Zu jedem Problem sagen wir, was Proof of Agent Work und Fortress heute abdecken und was nicht.
KI-Antworten brauchen einen Audit Trail
Teams für medizinische Information werden gefragt, ob sie für KI-gestützte Antworten einen vollständigen Audit Trail zeigen können. Erfundene Inhalte und die Verbreitung von Off-Label-Informationen gelten als Hauptrisiken; die Verantwortung bleibt beim Menschen im Team.
Was wir heute abdecken: Ein Beleg je Schritt nennt das freigegebene Quelldokument und seine Fassung, auf die der Agent sich stützte, das Modell mit Version und die Person, die die Antwort freigegeben hat.
Was nicht abgedeckt ist: Ob die Antwort medizinisch stimmt und ob sie Information oder Werbung ist. Das bleibt bei Ihren Prüfern.
Quellen: Medical Affairs roadmap (PDF) · IntuitionLabs: GenAI in Medical Affairs
EU-GMP Annex 11 und Annex 22 (Entwürfe)
Der Entwurf des überarbeiteten Annex 11 und der neue Annex 22 zu KI waren bis 7. Oktober 2025 in Konsultation und gelten nicht. Sie deuten schärfere Erwartungen an Audit Trails für GMP-Computersysteme an und für kritische GMP-Anwendungen statische, deterministische Modelle mit einem Menschen in der Schleife.
Was wir heute abdecken: Eine signierte, unabhängig zeitgestempelte Aufzeichnung dessen, was jeder Agentenschritt tat, die Ihre QS offline prüfen kann.
Was nicht abgedeckt ist: Es ist keine Validierung und macht kein Modell statisch. Annex 22 betrifft die GMP-Herstellung, nicht jeden Medical-Affairs-Ablauf; ob er gilt, bewerten Sie.
Quellen: gmp-compliance.org: Annex 22 draft · European Commission: consultation page
21 CFR 11.10(e): Audit Trails
Part 11 erwartet sichere, computererzeugte, zeitgestempelte Audit Trails für Handlungen, die elektronische Aufzeichnungen anlegen, ändern oder löschen.
Was wir heute abdecken: Eine hash-verkettete, zeitgestempelte Aufzeichnung der Agentenschritte, bei der jede spätere Änderung die Prüfung bricht. Der Pilot liefert ein Mapping-Dokument als Arbeitsgrundlage für QS und RA.
Was nicht abgedeckt ist: Es ersetzt nicht den Audit Trail Ihres validierten Systems (zum Beispiel des eQMS) und nicht die Part-11-Regeln zu elektronischen Signaturen, und es ist keine Validierung.
Quellen: eCFR: 21 CFR 11.10
Modelländerungen und Verwendungszweck
Der FDA-Entwurf vom Januar 2025 zu KI bei regulatorischen Entscheidungen verlangt eine Glaubwürdigkeitsbewertung je Verwendungszweck und die Dokumentation von Änderungen, die die Modellausgabe beeinflussen können. Er gilt für KI, die Daten für Entscheidungen zu Sicherheit, Wirksamkeit oder Qualität erzeugt.
Was wir heute abdecken: Jeder Schritt hält Modell und Version fest, eine Modelländerung zeigt sich also im Pfad.
Was nicht abgedeckt ist: Die Glaubwürdigkeitsbewertung selbst und alles außerhalb des Geltungsbereichs dieses Entwurfs.
Quellen: gmp-compliance.org: FDA draft guidance on AI · HHS: FDA draft guidance
Pharmakovigilanz und menschliche Aufsicht
Die CIOMS-XIV-Arbeit zu KI in der Pharmakovigilanz staffelt die menschliche Aufsicht nach Risiko; Behörden erwarten bei der Fallbearbeitung einen Menschen in der Schleife. Ein Verdacht auf eine Nebenwirkung darf nicht verloren gehen.
Was wir heute abdecken: Ein Beleg zeigt, wann der Agent einen Fall markiert hat, wohin er ging, und die signierte Freigabe der entscheidenden Person.
Was nicht abgedeckt ist: Fallkodierung, Meldefristen und Einreichungen. Wir melden nicht und verfolgen keine Fristen.
Quellen: Qualio: CIOMS XIV summary · ProPharma: AI in PV
Gefälschte Studien- und Mikroskopiebilder
Generative KI kann realistische Western Blots erzeugen, und freie KI-Detektoren schnitten in einer Studie von 2025 darauf schlecht ab. Paper Mills gelten als Hauptsorge. Das betrifft eigene Labore, Due Diligence und Einlizenzierung.
Was wir heute abdecken: Fortress SEAL: Ein Foto, das live in unserer Kamera-App aufgenommen wird, wird bei der Aufnahme versiegelt; nach jeder Änderung bricht das Siegel und die Prüfung zeigt, wo. Sinnvoll für Bilder, die Ihre eigenen Labore künftig aufnehmen.
Was nicht abgedeckt ist: Archive, hochgeladene und fremde Bilder lassen sich nicht versiegeln, es gibt keine nachträgliche Erkennung, und das SIEGEL sagt nie, ein Bild sei „nicht KI-erzeugt“.
Quellen: PeerJ: AI detectors and western blots · arXiv: explainable artifacts for synthetic western blots
Lecks und IP-Verfolgung
Unterlagen vor der Markteinführung, Dossiers und Schulungsmaterial gehen an viele Empfänger. Taucht eine Kopie auf, wollen Sie wissen, welche es war.
Was wir heute abdecken: Fortress TRACE: eine unsichtbar markierte Kopie pro Empfänger; eine gefundene Kopie verweist auf den Empfänger, an den sie ging.
Was nicht abgedeckt ist: Eine Markierung lässt sich mit Aufwand entfernen, und kein Treffer ist kein Beweis für kein Leck. Es ist Anlass für ein Gespräch, kein Urteil.
Modell- und Datenherkunft
Prüfer fragen, welches Modell welche Antwort erzeugt hat, in welcher Fassung, aus welchen Quellen.
Was wir heute abdecken: Der Beleg hält Modell, Version und die im Schritt genannten Quelldokumente fest.
Was nicht abgedeckt ist: Woher die Trainingsdaten eines Modells stammen und ob seine Ausgabe richtig war. Ein Beleg deckt ab, was protokolliert wurde.
Schätzen oder prüfen: probabilistisch gegen deterministisch
Deepfake-Detektoren schätzen
Ein Detektor sieht sich ein fertiges Bild an und gibt eine Wahrscheinlichkeit aus. Er kann sich in beide Richtungen irren, und jedes neue Generator-Modell macht ihm die Arbeit schwerer.
Fortress SEAL prüft
Ein Foto, das live in unserer Kamera-App aufgenommen wird, wird im Moment der Aufnahme versiegelt. Die Prüfung vergleicht das Foto mit diesem Siegel und antwortet mit Ja oder Nein: seit der Aufnahme verändert, und wenn ja, wo. Bestehende oder hochgeladene Fotos lassen sich nicht versiegeln, und das Abzeichen sagt „Captured live & unaltered“ (live aufgenommen und unverändert), nicht mehr.
POAW: ein Beleg pro Agentenschritt
Jeder Schritt eines KI-Agenten bekommt einen Beleg: signiert mit ML-DSA-65, zeitgestempelt nach RFC 3161, offline mit OpenSSL prüfbar. Das stützt die Nachweise für die Protokollpflichten des AI Act (Art. 12, 19 und 26 Abs. 6); es macht niemanden regelkonform.
Geplant, nicht gebaut: eine Beweiskette vom versiegelten Foto bis zur Entscheidung. Pilotpartner gesucht.
Der Film
Die Eingangsszene als kurzer Clip.
Das ganze Erklärvideo
Kapitel
Selbst ausprobieren: ein signierter Beleg zum Prüfen
So sieht der Beleg aus, den Ihr Agent nach dem Pilot bei jedem Lauf erzeugt. Synthetische Daten, echte Kryptografie: eine ML-DSA-65-Signatur und ein Zeitstempel nach RFC 3161 von einer unabhängigen Stelle. Prüfen Sie ihn im Browser, danach eine Kopie, in der ein Wert in Schritt 3 geändert wurde.
Schritt der visuellen Qualitätskontrolle (fiktive Charge)
| Schritt | Was der Agent tat | Zeit (UTC) |
|---|---|---|
| 1 | Charge eingegangenbatchId: B-26-0417 · product: tablet 50 mg (fictional) · line: L3 | 06:15:00 |
| 2 | Bilder aufgenommenstation: inspection camera 2 · images: 3 × hash | 06:15:42 |
| 3 | Defekte klassifiziertmodel: vision-qc 1.7 · defectsFound: 2 · classes: chipped edge, spot · confidence: 0.94 | 06:15:44 |
| 4 | SOP-Grenzwert geprüftsop: SOP-QC-112 v5 · acceptLimit: 3 · result: within limit | 06:15:44 |
| 5 | Verwendung vorgeschlagendisposition: forward to QA review | 06:15:45 |
| 6 | Menschliche Freigaberole: QA reviewer · approver: hash | 07:02:19 |
| 7 | Datensatz archiviertsystem: eQMS · record: hash | 07:02:21 |
Diesen Beleg prüfenManipulierte Kopie prüfen
Beleg herunterladen (JSON) · Oder ziehen Sie die Datei selbst in die Prüfseite, ändern Sie eine Zahl im Texteditor und ziehen Sie sie erneut hinein.
Ihre Technik kann die Prüfung offline wiederholen, mit OpenSSL ab 3.5 und dem veröffentlichten Skript: Prüfpaket.
Was Sie bekommen
Jeder Punkt trägt seinen Stand aus unserem Funktionsregister: Gebaut, Pilot oder Roadmap. Der Hinweis am Etikett nennt den Beleg dafür.
Ein signierter Beleg pro Agentenlauf: jeder Schritt, in Reihenfolge, mit Modell und Version. Post-Quanten-Signatur ML-DSA-65 (FIPS 204). Zeitstempel einer unabhängigen Stelle nach RFC 3161; niemand kann den Beleg rückdatieren, auch wir nicht. Die menschliche Freigabe, signiert mit dem eigenen Schlüssel der prüfenden Person. Fortress TRACE: eine unsichtbar markierte Kopie pro Empfänger; taucht eine Kopie auf, sehen Sie, an wen sie ging. AEGIS: ein Prompt-Injection-Filter auf der CPU, vor dem Modell. Nur selbst berichtete Werte; es gibt noch keinen öffentlichen, nachprüfbaren Lauf, daher nennt diese Seite keine. Fortress SEAL (nur Bilder): ein bei der Live-Aufnahme versiegeltes Foto; nach jeder Änderung bricht das Siegel und die Prüfung zeigt den Bereich.
Der rechtliche Rahmen
Wo ein Beleg hilft, eine Pflicht nachzuweisen. Er erfüllt die Pflicht nicht für Sie und macht niemanden von selbst rechtskonform. Keine Rechtsberatung.
AI Act Art. 12, 14 und 26
Protokollierung und menschliche Aufsicht bei Hochrisiko-KI. Ob Ihr Anwendungsfall Hochrisiko ist, bewertet Ihre Rechtsabteilung. Wo er es ist, hilft ein Beleg nachzuweisen, dass ein Log zu einem festen Zeitpunkt unverändert bestand und ein Mensch entschieden hat.
Quelle: eur-lex.europa.eu
AI Act Art. 50
Kennzeichnung KI-erzeugter oder manipulierter Inhalte. Fortress-Marken können helfen, die Kennzeichnung nachzuweisen. Ob und wie Art. 50 für Sie gilt, ist eine rechtliche Bewertung.
Quelle: eur-lex.europa.eu
Richtlinie 2001/83/EG, Art. 86 bis 88
Regeln zur Werbung für Arzneimittel. Der Beleg zeigt, auf welche freigegebene Quelle sich eine Antwort stützte; die Grenze zwischen Information und Werbung ziehen Sie.
Quelle: eur-lex.europa.eu
EMA GVP Modul VI
Erfassung und Meldung von Verdachtsfällen von Nebenwirkungen. Der Beleg hilft nachzuweisen, wann der Agent einen Fall markiert hat und an wen er eskaliert wurde.
Quelle: www.ema.europa.eu
DSGVO Art. 9
Gesundheitsdaten sind besondere Kategorien. Der Beleg speichert Hashes, nicht die Daten selbst.
Quelle: eur-lex.europa.eu
Die ehrliche Grenze
Ein Beleg beweist, wer welche Schritte wann signiert hat. Er beweist nicht, dass der Agent richtig lag, und nicht, dass nichts weggelassen wurde: Er deckt ab, was protokolliert wurde. Der Zeitstempel beweist, dass der Beleg vor der gestempelten Zeit bestand, nicht, wann die Handlungen geschahen. Das SIEGEL zeigt eine Änderung nach der Aufnahme; es kann nicht zeigen, dass ein Bild schon vor dem Versiegeln falsch war, und es sagt nie, ein Bild sei „nicht KI-erzeugt“. Keine Rechtsberatung.
Geplant, noch nicht gebaut
Was als Nächstes kommt, je nach Bedarf und Investition. Nichts davon gehört zum Pilot.
Eine Beweiskette über Systeme hinweg, z. B. Foto → Agent → Entscheidung. Schlüssel in Hardware (HSM). - Zeitstempel von einer Stelle im eigenen Haus, damit das Signieren keine externe Verbindung braucht.
- Eine gehostete Schnittstelle (API) und ein Validierungspaket für regulierte Umgebungen.
- Fortress SIEGEL in einer eigenen Smartphone-App (eine ProofCam-Demo gibt es). Ein stärkerer Herkunftsbeweis käme von Kameraherstellern, die die resiliente und die fragile Marke direkt in der Hardware einbringen. Das wollen wir mit ihnen aufbauen; es hängt von Investition und Bedarf ab.
Der Pilot: Umfang und Dauer gemeinsam festgelegt, Preis nach Scoping
Umfang
Ein Anfrage-Ablauf, ein Team, ein Produktbereich. Läuft in Ihrem Netz oder Cloud-Mandanten. POAW-Belege für die Agentenschritte und die menschliche Freigabe; optional TRACE für versandte Unterlagen. Abschlussbericht mit Go/No-Go. Ihr eigener Umsetzungspartner kann es anbinden: Wir übergeben das SDK und den Sandbox-Aufbau (eine Maschine, Docker). Der Zeitrahmen wird im Scoping festgelegt.
Preisrahmen: Preis nach dem Scoping, abhängig von Ihrem Prozess und Ihrer Umgebung.
Erfolgskriterien, beim Start schriftlich vereinbart
- Mindestens 99 % der KI-Schritte im Pilot-Ablauf erzeugen einen prüfbaren Beleg.
- Ihr Team prüft einen Beleg selbst, ohne unsere Hilfe (OpenSSL).
- Der Mehraufwand pro Arbeitsschritt wird gemessen; das Ziel legen wir beim Start gemeinsam fest.
Quelle: unser schriftliches Pilotangebot; die Zielwerte sind das, was wir zu messen zusagen, keine Ergebnisse eines früheren Piloten.
Was Sie beisteuern
- Einen konkreten Ablauf und eine verantwortliche Person
- Testdaten oder Testbilder und Zugang zu einer Testumgebung
- Ansprechpartner aus IT und Compliance oder Revision
- Eine Verbindung zu einer Zeitstempel-Stelle, beim Signieren oder später (das Signieren selbst geht offline)
- Ihre eigene rechtliche Bewertung
- Freigegebene Quelldokumente und Testanfragen ohne echte Patientendaten
Sie möchten das schriftliche Pilotangebot? Wählen Sie unten „Über einen Piloten sprechen“, wir senden es mit unserer Antwort.