Generatywna sztuczna inteligencja w medycynie – diabeł czy anioł?

Generatywna sztuczna inteligencja (generative artificial intelligence – GAI), a w szczególności duże modele językowe (large language models – LLM), stała się w ostatnich latach jednym z najszybciej rozwijających się obszarów technologicznych, znajdując coraz szersze zastosowanie w ochronie zdrowia. Rozwiązania te są wykorzystywane między innymi do tworzenia i streszczania dokumentacji, wspierania procesów diagnostycznych oraz podejmowania decyzji klinicznych, komunikacji z pacjentami, a także przygotowywania analiz i raportów. Zmiany te stawiają przed kadrą zarządzającą podmiotami leczniczymi nowe wyzwania związane z etyką, odpowiedzialnością, bezpieczeństwem chorych oraz nadzorem nad algorytmicznymi procesami.

Nowa technologia stanowi kolejny etap ewolucji narzędzi informatycznych w medycynie. W odróżnieniu od klasycznych algorytmów uczenia maszynowego, projektowanych głównie do predykcji lub klasyfikacji, modele generatywne potrafią tworzyć zupełnie nowe treści, w tym teksty medyczne i organizacyjne. Obejmuje to między innymi szkice zaleceń i podsumowania kliniczne – zawsze weryfikowane przez personel – oraz wsparcie w relacjach z pacjentem.

Jednocześnie dostępne wytyczne i komentarze eksperckie wskazują, że systemy te mogą generować treści niepełne, niespójne lub niezgodne z aktualną wiedzą medyczną, co określa się mianem tzw. halucynacji modeli. Z perspektywy bezpieczeństwa oznacza to konieczność wdrażania mechanizmów kontroli, przejrzystego dokumentowania użycia tych rozwiązań oraz jednoznacznego przypisania odpowiedzialności za podejmowane z ich udziałem decyzje.

Charakterystyka opisywanej technologii rodzi pytania dotyczące ryzyka powstawania błędnych informacji, problemów prawnych i etycznych oraz przejrzystości procesów decyzyjnych. W odpowiedzi na te wyzwania w ostatnich latach opracowano międzynarodowe wytyczne dotyczące raportowania zastosowań GAI w ochronie zdrowia.

Międzynarodowe standardy raportowania aplikacji generatywnych

W odpowiedzi na dynamiczny rozwój tej dziedziny zaproponowano szereg wyspecjalizowanych standardów, których celem jest zwiększenie przejrzystości, porównywalności oraz bezpieczeństwa badań naukowych i praktycznych wdrożeń. W przeciwieństwie do wcześniejszych regulacji odnoszących się do klasycznych algorytmów, nowe dokumenty uwzględniają specyfikę modeli generatywnych, w tym ich zdolność do interakcji w języku naturalnym.

Jedną z najbardziej aktualnych syntez jest komentarz zatytułowany „Reporting guidelines for studies involving generative artificial intelligence applications: what do I use, and when?”¹ opublikowany w 2025 r. na łamach czasopiśma „npj Digital Medicine”, którego autorami są Bo Huo, Gary S. Collins, Gianetta E. Cacciamani oraz Gordon Guyatt. Publikacja ta uporządkowała wytyczne według rodzaju zastosowania GAI (między innymi chatboty zdrowotne, modele predykcyjne, generowanie treści) oraz etapu wykorzystania – od badań i walidacji po praktykę kliniczną i organizacyjną. Wskazali również kluczowe obszary wymagające raportowania, takie jak zakres użycia narzędzia, charakterystyka danych wejściowych, ograniczenia oraz mechanizmy nadzoru. Takie uporządkowanie stanowi punkt odniesienia zarówno dla badaczy, jak i dla menedżerów decydujących o wdrażaniu sztucznej inteligencji w placówkach medycznych.

TRIPOD-LLM – predykcja i dokumentacja

Standard TRIPOD-LLM stanowi rozszerzenie klasycznych wytycznych raportowania modeli predykcyjnych, dostosowane do specyfiki dużych modeli językowych². Dokument ten uwzględnia zastosowania związane z analizą danych pacjentów, generowaniem dokumentacji medycznej oraz wspomaganiem decyzji klinicznych i organizacyjnych.

Z perspektywy zarządczej TRIPOD-LLM podkreśla znaczenie jasnego opisu danych wejściowych, metod trenowania systemów, procesu walidacji oraz identyfikacji ograniczeń. Takie podejście sprzyja transparentności i ułatwia ocenę wiarygodności narzędzi sztucznej inteligencji wykorzystywanych w codziennej działalności szpitali i przychodni.

CHART – chatboty i systemy doradcze

Wytyczne CHART (chatbot assessment reporting tool) odnoszą się do zastosowań dostarczających informacji zdrowotnych lub porad klinicznych za pośrednictwem systemów konwersacyjnych³. Standard ten powstał w odpowiedzi na rosnącą popularność takich rozwiązań w komunikacji z pacjentami oraz edukacji zdrowotnej.

CHART kładzie nacisk na jednoznaczne określenie celu chatbotów, zakresu udzielanych porad, ograniczeń technologicznych oraz zasad nadzoru nad generowaną treścią i odpowiedzialności za jej jakość. Z punktu widzenia zarządzania podmiotem leczniczym wytyczne te stanowią praktyczne narzędzie w ocenie ryzyk klinicznych, regulacyjnych i reputacyjnych.

GAMER – wykorzystanie AI w dokumentach i publikacjach

Standard GAMER odnosi się do stosowania generatywnej sztucznej inteligencji w procesie tworzenia tekstów naukowych oraz dokumentów⁴. Choć opracowano go z myślą o badaniach medycznych, jego założenia mają istotne znaczenie w praktyce menedżerskiej, w szczególności przy przygotowywaniu raportów, analiz czy dokumentów strategicznych.

GAMER akcentuje potrzebę jawności użycia narzędzi AI oraz zachowania pełnej odpowiedzialności autorów i decydentów za treść powstających materiałów. Sprzyja to budowaniu kultury odpowiedzialnego i kontrolowanego wdrażania innowacji.

Znaczenie wytycznych dla zarządzania i perspektywa polskiego systemu

Z perspektywy kadry zarządzającej międzynarodowe standardy należy postrzegać nie tylko jako instrumenty metodologiczne, lecz także jako element zarządzania ryzykiem, jakością i odpowiedzialnością organizacyjną. Ich adaptacja wspiera porządkowanie procesów wdrażania innowacji oraz ogranicza ryzyko niekontrolowanego posługiwania się technologią.

W polskim systemie ochrony zdrowia brak obecnie dedykowanych regulacji krajowych dotyczących stosowania GAI. W tej sytuacji standardy międzynarodowe mogą pełnić rolę rozwiązań przejściowych.

Sporo emocji budzi lokalizacja serwerów obsługujących systemy sztucznej inteligencji. Przetwarzanie danych poza Unią Europejską stanowi wyzwanie z perspektywy zgodności z przepisami RODO i wymaga wdrożenia dodatkowych zabezpieczeń prawnych oraz organizacyjnych. Z drugiej strony ergonomia wielu rozwiązań sprzyja ich szybkiemu, a niekiedy nieformalnemu wdrażaniu przez personel. Lepszym podejściem niż całkowita rezygnacja z tych technologii jest zrównoważone podejście oparte na współpracy z wiarygodnymi dostawcami, umowach zawierających klauzule dotyczące ochrony danych i nadzoru oraz systematycznych szkoleniach pracowników.

Niezbędnym elementem tego procesu są także kwestie prawne i etyczne. Zgodnie z aktualnym Kodeksem Etyki Lekarskiej pacjent powinien zostać poinformowany o wykorzystaniu sztucznej inteligencji w procesie udzielania świadczeń, a w określonych sytuacjach – także wyrazić na to świadomą zgodę. Nowelizowany artykuł 12 Kodeksu Etyki Lekarskiej (KEL) wymaga, aby chory był informowany o udziale algorytmów w diagnostyce lub terapii. Komentarz Naczelnej Izby Lekarskiej wskazuje, że informacja musi być zrozumiała, a zgoda może być wyrażona ustnie lub poprzez dorozumiane zachowanie, jeżeli pacjent został odpowiednio poinstruowany. Zgoda ta może stanowić część ogólnej zgody na udzielenie świadczenia zdrowotnego.

Przypisy: 

1. Huo B, Collins GS, Cacciamani GE, Guyatt G. „Reporting guidelines for studies involving generative artificial intelligence applications: what do I use, and when?” NPJ Digital Medicine. 2025;8:646.
2. Gallifant J, et al. „The TRIPOD-LLM reporting guideline for studies using large language models”. Nature Medicine. 2025;31:60–69.
3. The CHART Collaborative. „Reporting guideline for chatbot health advice studies: the Chatbot Assessment Reporting Tool (CHART) statement”. BMJ Medicine. 2025.
4. Luo X, et al. „Reporting guideline for the use of Generative Artificial Intelligence tools in Medical Research: the GAMER statement”. BMJ Evidence-Based Medicine. 2025.
   

Tekst Małgorzaty Lewalskiej, Aleksandry Olejnik i Tomasza Stefaniaka z Uniwersyteckiego Centrum Klinicznego Gdańskiego Uniwersytetu Medycznego.

Sztuczna inteligencja kontra naturalnaCo dziesiąty badacz jest zdania, że wykorzystywanie sztucznej inteligencji do pisania prac naukowych jest niewłaściwe. Ponad połowa uczonych dopuszcza taką praktykę tylko pod warunkiem, że zostanie transparentnie ujawniona w opublikowanym artykule. Wszystko dlatego, że AI potrafi popełniać merytoryczne błędy, które łatwo mogą umknąć osobom bez odpowiedniej wiedzy i przygotowania. Zdarza się, że sztuczna inteligencja preparuje źródła, które nie istnieją. 

Przeczytaj także: „Oko w oko z algorytmem”.