Informationen für die Antragsstellung

Sie planen, Buddy in einem Forschungs- oder Förderprojekt einzusetzen und müssen im Antrag das Datenschutzkonzept beschreiben? Diese Seite fasst zusammen, was Buddy und das ZTM dazu bereitstellen, und liefert Ihnen Formulierungshilfen für Ihren Antrag.

Datenschutzkonzept mit dem ZTM: Hosting, Sprachmodell, Auftragsverarbeitung, Löschfristen

Buddy ist die KI-Plattform des ZTM, mit der Sie eigene Chatbots auf Basis Ihrer Wissensinhalte erstellen. Als Anwendungsbeispiele aus der Forschung dienen u. a. die Evaluation des Rheuma-Chatbots OsteoCHAT mit dem Institut für Digitale Medizin der Philipps-Universität Marburg sowie eine Akzeptanzstudie mit MS-Patienten in einem Tageszentrum in Wien.

Auf einen Blick

1. Hosting

• Standort und Betreiber: Buddy und alle Chatbots der Partner werden auf Servern des ZTM gehostet. Die Server stehen ausschließlich in Deutschland.
• Zertifizierungen: Das ZTM ist nach ISO/IEC 27001 zertifiziert; die Server erfüllen die Standards DIN ISO 27001 und 27701.
• Eigenentwicklung: Die Entwicklung der Plattform liegt vollständig beim ZTM. Für Dokumentenverarbeitung, Embedding sowie Sprachein- und -ausgabe betreibt das ZTM eigene Modelle und Infrastruktur.
• Kontrolle: Der Datenschutzbeauftragte des ZTM prüft die Einhaltung der Datenschutzmaßnahmen jährlich.
• Zugang für Nutzende: Ein Buddy kann ohne Login per Link geteilt, per iFrame in Webseiten oder Apps eingebunden oder mit einer Benutzerauthentifizierung betrieben werden. Eine Internetverbindung ist erforderlich.

2. Sprachmodell

Das ZTM entwickelt keine eigenen Sprachmodelle. Es sorgt dafür, dass leistungsfähige Sprachmodelle DSGVO-konform genutzt werden können. Zur Auswahl stehen verschiedene GPT-Modelle, Google Gemma, Mistral (Mixtral), Claude und lokal betriebene Open-Source-Modelle. Sie sind nicht von einem Anbieter abhängig.

Betriebsvarianten

Zugesicherte Eigenschaften

• Ihre Nutzerdaten werden nicht für Trainingszwecke verwendet.
• Das Sprachmodell nutzt nur Ihre eigenen Inhalte aus der Wissensbasis, die Sie im Buddy Management festlegen.
• Der Buddy ist so konfiguriert, dass er zu keinem Zeitpunkt menschliche Entscheidungen übernimmt. Er stellt validiertes Wissen bereit.
• Quellenangaben zu Antworten können angezeigt werden (Transparenz).
• Buddy verarbeitet primär textbasierte Anfragen bzw. Spracheingabe. Bilder und medizinische Dokumente können von Nutzenden optional hochgeladen und analysiert werden.

3. Auftragsverarbeitung (AVV)

• Setzt Ihre Organisation einen Chatbot auf Basis von Buddy um, schließen Ihre Organisation und das ZTM einen Auftragsverarbeitungsvertrag (AVV) ab. Dieser regelt die Datenverarbeitung.
• Rollenverteilung: Ihre Organisation ist Verantwortliche im Sinne der DSGVO, das ZTM ist Auftragsverarbeiter. Diese Einordnung ergibt sich aus dem AVV-Modell.
• Zugriff: Auf die zu Auswertungszwecken gespeicherten Chatdaten hat die jeweilige Organisation Zugriff, die den Chatbot umgesetzt hat.
• Die Datenschutzerklärung und die Nutzungsvereinbarung finden Sie im Buddy Infocenter.

4. Welche Daten werden verarbeitet?

• Gespeichert werden: Verkehrsdaten wie die IP-Adresse sowie die Fragen an den Buddy und dessen Antworten, zu Auswertungszwecken.
• Anonymisierung: Alle Nutzereingaben können auf personenbezogene Daten geprüft werden. Zur Auswertung und Verbesserung werden sie in anonymisierter Form gespeichert. Bei Chatbots für vulnerable Gruppen (z. B. chronische Erkrankungen, psychische Gesundheit) können sämtliche personenbezogenen Daten, auch sensible Gesundheitsthemen, anonymisiert werden.
• Auswertung: Das Dashboard zeigt u. a. die Gesamtzahl der Interaktionen, die Anzahl der Nachrichten pro Session und das Feedback zu Antworten. Es arbeitet mit anonymisierten Daten.

5. Einwilligung, Transparenz und Betroffenenrechte

• Einwilligung: Vor der erstmaligen Nutzung kann das Einverständnis der Nutzenden über einen Disclaimer eingeholt werden.
• Widerspruch: Betroffene können der KI-Nutzung widersprechen, indem sie dem Disclaimer nicht zustimmen.
• Kennzeichnung als KI: Der Chatbot kann so konfiguriert werden, dass er jede Antwort als KI-Antwort kennzeichnet. Zusätzlich kann im Footer ein expliziter Hinweis stehen.
• Datenentfernung: Bereits erfasste Daten können auf Wunsch entfernt werden.

6. Löschfristen

Chats werden zu Auswertungszwecken für einen beschränkten Zeitraum gespeichert. Auf Wunsch können bereits erfasste Daten entfernt werden. Die aktuell gültige Frist ist in der AVV festgehalten.

7. Qualitätssicherung und regulatorische Einordnung

• Regelmäßige Prüfung: Chatbots können anhand eines Fragenkatalogs und definierter Metriken geprüft werden. Mit Buddy-Eval bewerten Sie u. a. inhaltliche Korrektheit, sprachliche Neutralität, gendergerechte Formulierungen und alarmierenden Tonfall. Das lässt sich als Qualitätsmaßnahme im Antrag nutzen.
• EU AI Act / Medizinprodukt: Buddy ist als „Simple Search" unter MDCG 2019-11 eingeordnet und ist damit kein Medizinprodukt. Buddy erfüllt in dieser Einordnung die Vorgaben des EU AI Acts und benötigt keine MD-Zertifizierung.

Weiterführende Informationen

• Sicherheit und Datenschutz
• FAQ: Datenschutz
• Technische Daten & Infrastruktur
• Anwendungsbeispiele

Kontakt

Für Ihren Antrag stellen wir Ihnen gerne den AVV, ein Angebot und Unterstützung bei der Datenschutzbeschreibung bereit.