Der Einsatz von KI-basierten Anwendungen gehört für immer mehr Praxen zum Alltag. Doch welche Regeln müssen im Umgang mit Künstlicher Intelligenz eigentlich beachtet werden? Ein neues Serviceheft der KBV in der Reihe PraxisWissen stellt vor, worauf Praxen achten sollten.
Ob Chatbots oder Telefonassistenten, aber auch medizinische Anwendungen wie Entscheidungsunterstützungssysteme können Praxen bei der Administration und Patientenversorgung unterstützen. Doch so groß die Chancen und Möglichkeiten auch sind, der Einsatz dieser Mittel sollte stets verantwortungsvoll geschehen. Damit das der Fall ist, hat die KBV in einer kompakten Form Checklisten erstellt, die Ärzten und Psychotherapeuten einen schnellen Überblick über die Erfordernisse geben.
Regeln der EU-KI-Verordnung
Basis bildet die EU-KI-Verordnung, die Regeln für einen sicheren Einsatz von KI-Lösungen enthält. Dazu gehören elementare Grundsätze, dass eingesetzte KI-Systeme nur der Unterstützung dienen und „kein Ersatz für ärztliche Leistungen sind“, aber auch technische und rechtliche Vorgaben für die Hersteller solcher Tools. Zudem müssen KI-Systeme der Datenschutz-Grundverordnung entsprechen.
Doch nicht nur bei der Auswahl eines Systems, auch bei der Implementierung und dem Betrieb gibt es einiges zu berücksichtigen. Dazu gehört, dass alle Praxismitarbeitende die Betriebsanleitung kennen sollten. Patientinnen und Patienten sollten aufgeklärt und informiert werden, damit der Einsatz von KI für sie transparent ist. Zum Teil ist ihre Einwilligung notwendig, beispielsweise bei KI-Systemen, mit denen Gesprächsprotokolle erstellt werden.
Berücksichtigen sollten Ärzte und Psychotherapeuten beim Einsatz von KI-Systemen außerdem, dass es sich hierbei in aller Regel um sogenannte Cloud-Anwendungen handelt, für deren Nutzung besondere Anforderungen gelten. Auch dazu gibt das neue PraxisWissen Auskunft.
Steiner: Verantwortung liegt weiterhin beim Arzt
Die Handreichung der KBV diene als Checkliste, an der sich die Praxen orientieren könnten, sagte das für Digitalisierung zuständige Mitglied im KBV-Vorstand, Dr. Sibylle Steiner. „Klar ist: KI fällt keine Entscheidungen und sie muss transparent sein. Die Verantwortung im Rahmen der Versorgung liegt weiterhin bei Ärzten und Psychotherapeuten.“
Anwendungen der Künstlichen Intelligenz in der Patientenversorgung sind auch Thema des Positionspapiers „Digital und nah“, dass die Vertreterversammlung der KBV am Montag in Leipzig verabschiedet hat. Darin sind unter anderem die Anforderungen beschrieben, die KI-Instrumente und andere digitale Tools für den Einsatz in der Praxis erfüllen müssen.
Quelle: Praxisnachrichten der Kassenärztlichen Bundesvereinigung
Bilderquelle: © stock.adobe.com – metamorworks
