Blog

Apr 21, 2024

Welche Rolle spielen die Regulierungsbehörden angesichts der rasanten Fortschritte der KI im Gesundheitswesen?

Jesse M. Ehrenfeld, MD, MPH, weiß, dass automatisierte Technologie seine Effizienz als Kliniker verbessern könnte. „Es vergeht kein Tag, an dem ich nicht die Möglichkeiten sehe, die ich mir bieten kann

Jesse M. Ehrenfeld, MD, MPH, weiß, dass automatisierte Technologie seine Effizienz als Kliniker verbessern könnte.

„Es vergeht kein Tag … an dem ich nicht Möglichkeiten sehe, bei denen die Pflege, die ich leisten könnte, durch einige dieser Tools verbessert werden könnte“, sagte Dr. Ehrenfeld, der gewählte Präsident der AMA und praktizierender Anästhesist.

Die AMA hilft Ärzten, eine bessere Zukunft für die Medizin aufzubauen, indem sie sich vor Gericht und auf dem Hügel dafür einsetzt, Hindernisse bei der Patientenversorgung zu beseitigen und die größten Gesundheitskrisen von heute zu bewältigen.

Begrenzte Zeit: Möglicherweise haben Sie Anspruch daraufBeiträge zum halben Preis . Erfahren Sie mehr!

Es ist eine aufregende Zeit für die Medizin. Ärzte könnten in nicht allzu ferner Zukunft Hunderte von Möglichkeiten für ein bestimmtes KI-Tool für das Gesundheitswesen für einen bestimmten klinischen Zweck sehen, fügte er hinzu.

Das AMA-Abgeordnetenhaus verwendet den Begriff Augmented Intelligence (AI) als eine Konzeptualisierung künstlicher Intelligenz, die sich auf die unterstützende Rolle der KI konzentriert und betont, dass ihr Design die menschliche Intelligenz verbessert, anstatt sie zu ersetzen.

AMA-Umfragen zeigen, dass die Akzeptanz digitaler Gesundheitstools in den letzten Jahren deutlich zugenommen hat. Mittlerweile nutzt jeder fünfte Arzt in den USA KI für das Gesundheitswesen, doch der Großteil dieser Nutzung beschränkt sich derzeit auf die Unterstützung von Back-Office-Funktionen.

„Das Interesse ist groß, es gibt viel Wachstum. Aber trotz alledem besteht große Unsicherheit über die Richtung und den regulatorischen Rahmen für KI“, sagte Dr. Ehrenfeld, stellvertretender Dekan und ordentlicher Professor für Anästhesiologie am Medical College of Wisconsin.

Er und Jeffrey E. Shuren, MD, Direktor des Center for Devices and Radiological Health der Food and Drug Administration (FDA), sprachen auf einem Forum zur Regulierung medizinischer Geräte, das vom American Enterprise Institute, einer Washingtoner Denkfabrik, veranstaltet wurde.

Das bestehende Regulierungsparadigma für Hardwaregeräte ist nicht gut geeignet, diese Tools zu regulieren. Nicht alle digitalen Technologien halten, was sie versprechen, sagte Dr. Ehrenfeld. Unter anderem ist er Co-Vorsitzender des KI-Komitees der Association for the Advancement of Medical Instrumentation (AAMI) und Co-Autor eines Artikels mit dem Titel „Artificial Intelligence in Medicine & ChatGPT: De-Tether the Physician“, der im Journal of veröffentlicht wurde Medizinische Systeme. AAMI veröffentlichte außerdem einen Sonderbericht zum Thema KI.

Ärzte spielen bei diesem Unterfangen eine entscheidende Rolle.

Ohne ärztliches Wissen, Fachwissen und Anleitung zu Design und Einsatz würden die meisten dieser digitalen Innovationen scheitern, prognostizierte er. Sie werden nicht in der Lage sein, ihre grundlegendste Aufgabe zu erfüllen, Arbeitsabläufe zu rationalisieren und die Patientenergebnisse zu verbessern.

Die AMA arbeitet eng mit der FDA zusammen, um Bemühungen zu unterstützen, die neue Wege und Ansätze zur Regulierung dieser Instrumente schaffen, sagte Dr. Ehrenfeld.

Jeder Regulierungsrahmen sollte sicherstellen, dass nur sichere, klinisch validierte und qualitativ hochwertige Werkzeuge auf den Markt kommen. „Wir dürfen nicht zulassen, dass KI zu einer zusätzlichen Verzerrung der klinischen Versorgung führt“, sagte er und warnte davor, dass dies das Vertrauen der Öffentlichkeit in die auf den Markt kommenden Instrumente untergraben könnte.

Es muss auch ein Gleichgewicht zwischen strenger Aufsicht und der Sicherstellung bestehen, dass das Regulierungssystem Entwickler, Unternehmer und Hersteller nicht übermäßig belastet, „und gleichzeitig darüber nachdenken, wie wir die Haftung für Ärzte auf angemessene Weise begrenzen“, fügte Dr. Ehrenfeld hinzu.

Die FDA verfügt über einen Aktionsplan für Medizinprodukte zu KI und Software für maschinelles Lernen, der es der Behörde ermöglichen würde, ein Softwareprodukt von der Entwicklung vor dem Inverkehrbringen bis zur Leistung nach dem Inverkehrbringen zu verfolgen und zu bewerten. Die AMA hat sich zu dem Plan geäußert und erklärt, die Behörde müsse sich vor Voreingenommenheit in der KI hüten und sich auf die Patientenergebnisse konzentrieren.

Dr. Shuren sagte, die FDA könne nur begrenzt viel tun, um die Regulierung innovativer Geräte zu verbessern. „Wir müssen über andere Modelle nachdenken“, die akkreditierte Dritte einbeziehen, sagte er. „Es gibt kein einziges Unternehmen, das das kann.“ Er wies weiter darauf hin, dass die FDA in Zukunft wahrscheinlich nicht über die Personalkapazität verfügen werde, um alle KI-gestützten medizinischen Algorithmen einzeln zu bewerten.

Auf Praxisebene sollten sich Ärzte vier grundlegende Fragen stellen, bevor sie diese Tools in ihre Arbeitsabläufe integrieren, schlug Dr. Ehrenfeld vor.

Die erste ist: Funktioniert es? „Genau wie bei einem Medikament, einem Biologikum, müssen wir die klinischen Beweise für die Wirksamkeit sehen, damit wir die Risiken und Vorteile eines Werkzeugs abwägen können“, sagte er. Der Versicherungsschutz ist eine andere Frage. Wird der Arzt für das Produkt bezahlt?

Drittens: Wer ist verantwortlich, wenn etwas schief geht? „Was ist mit einer Datenschutzverletzung? Wer ist für diese Probleme verantwortlich?“ Er wies darauf hin und fügte hinzu, dass der Datenschutz beim Umgang mit derart großen Datenmengen besonders wichtig sei.

Die letzte Frage lautet: Wird es in meiner Praxis funktionieren? Wenn diese Tools nicht dazu beitragen, ein Ergebnis oder eine Effizienz zu verbessern oder einen Mehrwert zu bieten, „müssen Sie sich fragen: Warum sollten Sie sich die Mühe machen?“ sagte Dr. Ehrenfeld.

Interessenvertretung, Forschung und Ressourcen der AMA für Telegesundheit

AMA-Bericht zur Zukunft der Gesundheit

Vorschriften zur Informationsblockierung: Was Sie wissen und wie Sie sie einhalten müssen

Playbook-Reihe zur Umsetzung digitaler Gesundheit

Validierung digitaler Gesundheitsinnovationen

Telehealth Impact Report