Offenlegung des Restrisikos
Auch bei bestimmungsgemäßem Gebrauch können bei der Verwendung der KI-gestützten Funktion zur Umformulierung von Texten gewisse Restrisiken verbleiben.
Diese Risiken betreffen vor allem die Genauigkeit und die Sicherheit des automatisch generierten Textes.
Künftige Versionen des Systems werden zusätzliche Sicherheitsvorkehrungen enthalten, um diese Risiken weiter zu minimieren:
• Validierung der KI-Ausgabe
Das System stellt sicher, dass die generierte Ausgabe nur aus reinem Text besteht.
Andere Inhaltsarten (wie Bilder, Code oder ausführbare Daten) werden nicht akzeptiert oder angezeigt.
• Schutz gegen Prompt Injection
Es werden Mechanismen implementiert, um manipulative oder böswillige Anweisungen zu erkennen und zu verhindern, die die KI über ihren eigentlichen Zweck hinaus beeinflussen könnten.
Die Benutzer sind weiterhin dafür verantwortlich, dass die generierten Inhalte korrekt und angemessen sind, bevor sie der Patientendokumentation hinzugefügt werden.
Die KI-Funktion dient lediglich als Dokumentationshilfe und darf nicht als Quelle für medizinische Entscheidungen verwendet werden.