Wdrożenie AI to nie zakup licencji. Jak mądrze wykorzystać ją w ochronie zdrowia?

– „AI w ochronie zdrowia” to dziś etykieta równie pojemna jak „elektryczność w ochronie zdrowia”. Gdy przechodzimy do decyzji wdrożeniowych, każde ogólne stwierdzenie „AI poprawia” albo „AI zagraża” jest po prostu nieprawdziwe, bo zależy od tego, która jest AI, w jakim zadaniu, obsługiwana przez kogo i w jakim systemie – mówi w rozmowie z „Menedżerem Zdrowia” prof. Aleksandra Przegalińska.

Prof. Aleksandra Przegalińska, filozofka i badaczka sztucznej inteligencji mówi o tym, że osoby wdrażające AI w ochronie zdrowia nie powinny zaczynać od odpowiedzi na pytanie „jak zrobić”, tylko „jaki problem chcemy rozwiązać i czy AI jest najlepszym narzędziem do naprawienia tego”
Przed wprowadzeniem rozwiązań AI warto zdać sobie sprawę z zagrożeń, jakie się z nimi wiążą, takich jak: erozja kompetencji klinicznych, jeśli przestaniemy ćwiczyć to, co oddajemy maszynie; wyciek i wtórne wykorzystanie danych medycznych; pogłębianie nierówności, gdy dobra AI trafia do dużych ośrodków, a reszta dostaje tanie substytuty.
Prof. Przegalińska wskazuje również na możliwe kierunki rozwoju sztucznej inteligencji w ochronie zdrowia. Możemy spodziewać się na przykład, że nastąpi przesunięcie od AI diagnostycznej do AI, która towarzyszy pacjentowi w czasie. – Ochrona zdrowia jest dziś zorganizowana wokół epizodów, a życie z chorobą jest ciągłe. Technologia po raz pierwszy pozwala zasypać tę lukę – mówi.

Jak brzmią najważniejsze pytania, które powinny sobie zadać osoby wdrażające AI w ochronie zdrowia? Na co zwrócić uwagę? Z jakich szans i zagrożeń zdać sobie sprawę?

Zacznę od pytania, które brzmi banalnie, a w praktyce zadaje je zaskakująco mało organizacji: jaki problem chcemy rozwiązać? Nie „jak wdrożyć AI”, tylko „co dziś nie działa i czy akurat AI jest najlepszym narzędziem do naprawienia tego”. Ochrona zdrowia ma wiele wąskich gardeł, które nie wynikają z braku inteligencji w systemie, lecz z braku ludzi, czasu, procedur i zaufania. Algorytm nie zastąpi pielęgniarki, której nie ma na oddziale, może natomiast odciążyć tę, która jest, jeśli zdejmie z niej dokumentację, a nie doda kolejny ekran do obsłużenia.

Drugie pytanie dotyczy danych: na czym ten system się uczył i czy nasi pacjenci przypominają tę populację? Modele trenowane na danych z innych krajów, innych grup wiekowych czy innych systemów opieki mogą działać świetnie w testach producenta i słabo w konkretnej przychodni. To nie jest kwestia abstrakcyjnej „stronniczości algorytmów”, tylko bardzo konkretnego ryzyka klinicznego.

Trzecie pytanie, które w moich badaniach uważam za kluczowe, brzmi: co się stanie z człowiekiem, który będzie z tym narzędziem pracował? Wiemy już z badań nad współpracą człowieka z AI, że ludzie bardzo szybko zaczynają ufać systemom, które brzmią pewnie, nawet gdy te systemy się mylą. W medycynie takie „automatyczne przytakiwanie” jest groźne. Trzeba więc projektować nie tylko narzędzie, ale cały proces: kiedy lekarz ma prawo i obowiązek nie zgodzić się z rekomendacją, jak ten sprzeciw jest rejestrowany, czy system zostawia miejsce na wątpliwość. Równie ważny jest drugi biegun, czyli odrzucanie AI z zasady, bez sprawdzenia, czy w danym zastosowaniu naprawdę nie pomaga.

Czwarte: kto odpowiada, gdy coś pójdzie nie tak? Nie „czy producent ma certyfikat”, tylko realna ścieżka odpowiedzialności w organizacji. I piąte: jak będziemy mierzyć, czy wdrożenie się udało? Jeśli jedyną miarą jest liczba wdrożonych licencji, to nie jest wdrożenie, tylko zakup.

Szanse są ogromne i nie chcę ich pomniejszać: wcześniejsze wykrywanie chorób, szybsza diagnostyka obrazowa, personalizacja terapii, odzyskanie czasu lekarza dla pacjenta, lepsza dostępność opieki w miejscach, gdzie specjalistów brakuje.

Zagrożenia są równie konkretne: erozja kompetencji klinicznych, jeśli przestaniemy ćwiczyć to, co oddajemy maszynie; wyciek i wtórne wykorzystanie danych medycznych; pogłębianie nierówności, gdy dobra AI trafia do dużych ośrodków, a reszta dostaje tanie substytuty; wreszcie przesunięcie relacji lekarz – pacjent w stronę relacji pacjent – ekran. To ostatnie badam w kontekście psychofizjologii interakcji z AI i powiem tak: ludzie reagują na systemy konwersacyjne emocjonalnie, nie tylko poznawczo. W ochronie zdrowia to jest zarówno szansa, jak i odpowiedzialność.

Zawał nie patrzy na zegarek– Zmiany dotyczące limitów wynagrodzeń i czasu pracy uderzą w wielu uczciwych lekarzy – kardiologów inwazyjnych, ale także innych specjalistów, którzy pracują więcej, aby zabezpieczyć potrzeby zdrowotne chorych. Nowe regulacje dotkną jednak przede wszystkim pacjentów, gdyż zmniejszy się dostęp do świadczeń i wydłużą kolejki, a w konsekwencji wzrośnie śmiertelność, zwłaszcza poza dużymi miastami – mówi „Menedżerowi Zdrowia” prof. Piotr Buszman, kardiolog.

Czy na tym etapie rozwoju sztucznej inteligencji i różnych jej zastosowań można jeszcze mówić ogólnie o czymś takim jak „AI w ochronie zdrowia”?

Moim zdaniem nie, a przynajmniej nie z pożytkiem. „AI w ochronie zdrowia” to dziś etykieta równie pojemna jak „elektryczność w ochronie zdrowia”. Algorytm analizujący mammografie, model prognozujący obłożenie oddziałów, asystent piszący wypisy, chatbot do triażu i system wspierający odkrywanie leków to zupełnie różne technologie, z różnym profilem ryzyka, różnymi wymogami regulacyjnymi i różnym wpływem na pracę ludzi.

Dyskusja ogólna ma sens na jednym poziomie: wartości i zasad. Czy pacjent ma prawo wiedzieć, że rozmawia z maszyną. Kto jest właścicielem danych. Jaką rolę zachowujemy dla człowieka w decyzjach o zdrowiu i życiu. To są pytania, które warto zadawać niezależnie od narzędzia. Natomiast gdy przechodzimy do decyzji wdrożeniowych, każde ogólne stwierdzenie „AI poprawia” albo „AI zagraża” jest po prostu nieprawdziwe, bo zależy od tego, która jest AI, w jakim zadaniu, obsługiwana przez kogo i w jakim systemie. Zachęcam więc, by pytać konkretnie: to narzędzie, w tej roli, na tych danych, z tym człowiekiem przy sterach.

W którą stronę może rozwijać się wykorzystanie AI w ochronie zdrowia? Czy istnieją obszary, co do których nawet nie przypuszczamy, że mogą w przyszłości być zagospodarowane przez AI?

Najbardziej oczywisty kierunek to przesunięcie od AI diagnostycznej do AI, która towarzyszy pacjentowi w czasie: między wizytami, w domu, w codziennym zarządzaniu chorobą przewlekłą. Ochrona zdrowia jest dziś zorganizowana wokół epizodów, a życie z chorobą jest ciągłe. Technologia po raz pierwszy pozwala zasypać tę lukę.

Drugi kierunek to agenci, czyli systemy, które nie tylko odpowiadają, ale wykonują sekwencje zadań: umawiają, przypominają, porządkują dokumentację, koordynują między placówkami. Tam, gdzie dziś opieka rozpada się na styku instytucji, AI może pełnić rolę spoiwa. Trzeci to odkrywanie leków i medycyna spersonalizowana, gdzie postęp jest szybszy, niż większość z nas zakłada.

Alkohol może powodować raka piersi. AI wesprze medyków w rozmowach z pacjentami na ten temat?Picie alkoholu jest uznanym czynnikiem ryzyka raka piersi, a mimo to pracownicy ochrony zdrowia rzadko pytają pacjentów o to, czy go spożywają – alarmują eksperci Światowej Organizacji Zdrowia (WHO) przy okazji Miesiąca Świadomości Raka Piersi, który jest obchodzony w październiku. Pomoże im asystem AI?

A obszary, których nie przewidujemy? Sądzę, że największe zaskoczenia nie przyjdą z klinicznej strony, tylko ze społecznej i emocjonalnej. Samotność, lęk, wsparcie opiekunów osób chorych, zdrowie psychiczne w skali, do której nigdy nie wystarczy terapeutów. To są obszary, w których AI już dziś działa, choć często poza systemem i bez nadzoru, a ochrona zdrowia dopiero zaczyna to zauważać.

Drugie potencjalne zaskoczenie to AI jako narzędzie badania samego systemu: analiza tego, gdzie pacjenci znikają, gdzie decyzje są niespójne, gdzie marnuje się czas. Oraz trzecie, najbardziej spekulatywne: AI, która uczy nas lepiej rozmawiać z pacjentem, bo potrafi pokazać lekarzowi, jak brzmi w oczach drugiej strony. Jako filozofka powiem tak: najciekawsze zastosowania technologii zwykle nie polegają na zastąpieniu człowieka, lecz na tym, że pokazują nam coś o nas samych, czego wcześniej nie widzieliśmy.

Aleksandra Przegalińska – profesor i prorektor Akademii Leona Koźmińskiego, pracownik badawczy Center for Labor and a Just Economy przy Harvard Law School (Fellow Harvard CLJE), zajmująca się badaniem przyszłości pracy w kontekście rozwoju sztucznej inteligencji. Doradca CampusAI oraz członek władz europejskich instytucji i lider sojuszu uniwersyteckiego EUonAIr European University Alliance.

Przeczytaj także: „AI w ochronie zdrowia i podążanie ścieżką pacjenta”.