Erweiterte Realität in der Medizin

Ein Blick auf die Zukunft der Gesundheitsversorgung

Beitrag von Dr. Ulrich Eck, Michael Sommersperger, Technische Universität München, Alexander Winkler, Ludwig-Maximilian Universität München

Erweiterte Realität (Augmented Reality, AR) bietet neue Möglichkeiten für Medizinische Diagnose, Behandlung und Schulung und kann als fortschrittliche Darstellungs- und Benutzerinteraktionsform den klinischen Alltag revolutionieren. Mithilfe von Datensichtbrillen werden zusätzliche Informationen wie präoperative Bilddaten, aktuelle Sensor Messwerte, oder Planungsdaten perspektivisch korrekt in das Sichtfeld der Mediziner eingeblendet. Dies erleichtert die HandAuge-Koordination, da alle Informationen räumlich korrekt dargestellt werden. Mit AR können relevante Informationen zum jeweiligen Arbeitsschritt angezeigt werden und darüber hinaus für jeden Benutzer individuell angepasst werden.

Der Lehrstuhl für Informatikanwendungen in der Medizin von Prof. Nassir Navab an der Technischen Universität München entwickelt und erforscht seit 20 Jahren in enger Zusammenarbeit mit medizinischen Experten neue AR Konzepte zur medizinischen Aus- und Weiterbildung, präoperativen Planung, intraoperativer Unterstützung, um zur Verbesserung der Patientenversorgung und -behandlung beizutragen. Im Folgenden stellen wir drei aktuelle Forschungsprojekte aus der minimalinvasiven Augen- und Abdominalchirurgie und der Telekonsultation vor.

Minimalinvasive Chirurgie in Verbindung mit bildgebenden Modalitäten oder navigierter Chirurgie ist ein Grundpfeiler der modernen Patientenversorgung. Dies ermöglicht den Medizinern, Eingriffe präziser und mit weniger Nebenwirkungen durchzuführen, führt aber auch zu höherer kognitiver Belastung. Durch die technische Einbeziehung weiterer Informationsquellen, wie medizinischer Bilddaten oder präoperativer Pläne, kann AR effektiv zusätzliche Informationen sichtbar machen oder die ansonsten im Vergleich zu offenen Ansätzen verloren gegangene Information wieder verfügbar machen.

Augenchirurgie

Im Bereich der Augenchirurgie wird zum Beispiel zusätzlich zu dem Blickfeld durch das Operationsmikroskop die optische Kohärenztomografie (OCT) verwendet, um mikroskopisch kleinste Gewebestrukturen tiefenaufgelöst für Chirurgen sichtbar zu machen. In solchen Situationen kann AR helfen, den Chirurgen kritische Informationen zum richtigen Zeitpunkt zur Verfügung zu stellen, ohne dass sie ihre Aufmerksamkeit vom Operationsfeld abwenden müssen. Eine vielversprechende Strategie zur Reduzierung der mentalen Anforderungen besteht darin, den Chirurgen in einer Darstellung ergänzende Informationen aus zusätzlichen Modalitäten zu präsentieren. So kann eine kombinierte Ansicht von OCT-Schnittbilder mit Bildern aus dem Operationsmikroskop fusioniert werden, oder durch zusätzliche Farbkodierung von 3D Daten eine verbesserte räumliche Darstellung ermöglicht werden. Zudem werden Chirurgen zukünftig auch Teile einer Operation mit Hilfe von 4D OCT durchführen können, bei dem 3D Bilder in Echtzeit erzeugt werden. Dabei können durch AR auf der Realität basierende Wahrnehmungshinweise künstlich in die OCT Darstellung integriert werden. Abbildung 1 zeigt, wie virtuelle Schatten, die chirurgische Instrumente auf die Netzhaut werfen, erzeugt werden, um Chirurgen bei der Abstandsbestimmung zu unterstützen und so Interaktionen mit Instrumenten zu verbessern [1].

Abdominalchirurgie

Auch im Bereich der laparoskopischen Abdominalchirurgie stehen die Operateure vor der Herausforderung, dass Sie keine direkte Sicht auf das Operationsfeld haben. Eine der häufigsten Herausforderungen besteht darin, dass Chirurgen die dreidimensionale Anatomie des Patienten anhand monoskopischer Ansichten, die von der laparoskopischen Kamera aufgenommen wurden, mental rekonstruieren müssen. Dies erschwert die Wahrnehmung der Tiefe und Form relevanter anatomischer Strukturen wie Organe, Blutgefäße oder Tumore, die oft von anderen Gewebeschichten verdeckt sind. Daher verlassen sich Chirurgen oft auf ihre Erfahrung und ihr patientenspezifisches Wissen, um sich Modelle der Anatomie ihrer Patienten vorzustellen und intraoperativ an sie zu erinnern, die es ihnen ermöglichen, die gewünschten anatomischen Ziele zu erreichen. Dank der Einführung von AR und dessen Fähigkeit, virtuelle und reale Inhalte zu kombinieren, können die Chirurgen bei diesen Eingriffen unterstützt werden. Etwa können medizinische AR-Anwendungen die Beobachtung verdeckter Ziele ermöglichen und das räumliche Vorstellungsvermögen verbessern. Die Auswahl einer geeigneten Darstellungsweise der virtuellen Objekte ist hierbei unerlässlich. Beispielsweise können Semitransparenz, Kantenbetonung, Schatten und sogar Animationen hilfreich sein, um Form und Tiefe der virtuellen Objekte effektiv zu vermitteln [2].

Telekonsultation

Im Forschungsprojekt Artekmed wurde ein immersives Telekonsultationssystem für medizinische Notfälle entwickelt und erprobt. Artekmed erlaubt es medizinischen Experten, sich mit entfernten Kollegen in Echtzeit zu beraten. Ein wichtiger Aspekt des Konzeptes ist die Realisierung einer möglichst natürlichen verbalen und non-verbalen Kommunikation. Deshalb erstellt das System in Echtzeit eine 3D-Rekonstruktion des Patienten und dessen Umgebung und ermöglicht Experten, die eventuell hunderte von Kilometern entfernt sind, virtuell an dem Ort des Geschehens anwesend zu sein und die vor Ort befindlichen Ärzte dabei unterstützen, Patienten zu untersuchen und zu behandeln. Das System wurde mit simulierten Anwendungsfällen aus der Unfallchirurgie und der Intensivpflege getestet. Abb. 2 zeigt eine Konsultation eines Traumachirurgen mit einem Neurochirurgen zur Planung einer Kraniotomie. In diesem Beispiel markiert der zugeschaltete Experte mittels AR Annotation direkt am Patienten den Hautschnitt. Mithilfe von Telekonsultation kann in Zukunft die Patientenversorgung verbessert werden und ermöglicht zusätzlich eine kontaktlose Kommunikation zwischen den medizinischen Disziplinen. Dadurch kann das System auch den Kontakt mit infizierten Personen minimieren und so das medizinische Personal entlasten. Erste Studien haben die Vorteile des Systems gezeigt, aber es sind noch Verbesserungen bei der Sensortechnologie, den 3D-Rekonstruktionsmethoden und der Informationsdichte erforderlich, bevor es in der klinischen Praxis weiter erprobt werden kann [3].

Wie bringen wir AR in die Medizin?

Medizinische AR Systeme können relevante Patienteninformationen zum richtigen Zeitpunkt am richtigen Ort einblenden und dabei die Anforderungen der einzelnen Teammitglieder einbeziehen. Dadurch könnten zum Beispiel neue Mitarbeiter schneller und besser in ein OP-Team integriert werden. Die Technologie unterstützt auch die Durchführung komplexerer Eingriffe durch die Einblendung von ansonsten nicht sichtbaren Informationen. Ein wichtiger Aspekt bei der Einführung von AR Systemen in den medizinischen Alltag wird es sein, dass diese sich nahtlos und ohne wesentlichen Mehraufwand in die eingespielten Abläufe bei der Patientenversorgung integrieren. Großes Potenzial hat hier die automatische Erkennung von Aktivitäten und Abläufen mittels tiefem Lernen zur Optimierung und Personalisierung der AR Benutzerschnittstellen. Darüber hinaus muss bei der Darstellung der Grafik darauf geachtet werden, dass diese Information von den Benutzern auch korrekt wahrgenommen wird, da die Kombination von virtuellen und realen Informationen oft zu falscher Tiefenwahrnehmung führt.

Literatur

[1] M. Sommersperger et al., “Semantic Virtual Shadows (SVS) for Improved Perception in 4D OCT Guided Surgery,” in International Conference on Medical Image Computing and Computer-Assisted Intervention, Springer, 2023, pp. 408–417.

[2] A. Martin-Gomez et al., “A Closer Look at Dynamic Medical Visualization Techniques,” in 2023 IEEE International Symposium on Mixed and Augmented Reality (ISMAR), Los Alamitos, CA, USA: IEEE Computer Society, Oct. 2023, pp. 99–108. doi: 10.1109/ISMAR59233.2023.00024.

[3] K. Yu et al., “Mixed Reality 3D Teleconsultation for Emergency Decompressive Craniotomy: An Evaluation with Medical Residents,” in 2023 IEEE International Symposium on Mixed and Augmented Reality (ISMAR), IEEE Computer Society, 2023, pp. 662–671.

Erstmals erschienen in: TiB Ausgabe 02/2024 MÄR/APR

Hier finden Sie weitere Beiträge zum Thema "Technologien der Zukunft"