Sztuczna inteligencja poleca najdroższe leki?

Sztuczna inteligencja preferuje leki, które są bardziej obecne w sieci, co może generować wielomilionowe koszty – informuje o tym pismo „Nature Health”.

Duże modele językowe (ang. Large Language Models – LLM), takie jak ChatGPT czy Claude, są coraz częściej wykorzystywane do dostarczania społeczeństwu informacji z zakresu zdrowia.

Choć sprzyja to lepszemu dostępowi do wiedzy o metodach leczenia, naukowcy z Osaka Metropolitan University (Japonia) oraz University of Texas (USA) ujawnili istotne ograniczenia tych narzędzi: modele LLM wykazują stronniczość w sugerowaniu terapii, a stosowanie się do ich wskazań w praktyce mogłoby prowadzić do wzrostu kosztów leczenia.

Tendencja do faworyzowania produktów 

Poproszone o rekomendowanie maksymalnie trzech produktów leczniczych zatwierdzonych przez amerykańską Agencję Żywności i Leków (FDA) dla wielu symulowanych scenariuszy, LLM (GPT-5.4, Claude Sonnet 4.6, Gemini 3.1 Flash, Llama 4 oraz MedGemma) miały tendencję do faworyzowania znanych marek oraz produktów o większej widoczności w internecie – nawet w sytuacjach, gdy dostępne były alternatywne leki.

Mimo że dla każdej analizowanej substancji czynnej dostępne było średnio 5,5 produktu zatwierdzonego przez FDA, w przypadku aż 97,5 proc. rekomendacji wskazywanych jako „pierwszy wybór” (biorąc pod uwagę wszystkie przetestowane scenariusze i modele) pojawiał się jeden i ten sam produkt.

Rekomendacje dotyczyły głównie leków markowych, produktów o wysokiej widoczności w wynikach wyszukiwania Google oraz preparatów posiadających własne strony w serwisie Wikipedia.

Modele LLM rzadziej wskazywały produkty, które uzyskały zatwierdzenie FDA później, a także te, które są częściej przepisywane przez lekarzy w rzeczywistej praktyce klinicznej. Badanie wykazało również, że niektóre rekomendacje były niezgodne z oficjalnymi danymi regulacyjnymi – wskazywano nawet na produkty, których produkcja została już wstrzymana.

Wdrożenie AI to nie zakup licencji. Jak mądrze wykorzystać ją w ochronie zdrowia?– „AI w ochronie zdrowia” to dziś etykieta równie pojemna jak „elektryczność w ochronie zdrowia” – mówi w rozmowie z „Menedżerem Zdrowia” prof. Aleksandra Przegalińska.

Skutki finansowe dla pacjentów

Następnie naukowcy, opierając się na danych ze Stanów Zjednoczonych, oszacowali potencjalne skutki finansowe dla pacjentów, zakładając scenariusz, w którym lekarze postępowaliby zgodnie z zaleceniami generowanymi przez sztuczną inteligencję.

– Ustaliliśmy, że roczne koszty zakupu leków wzrosłyby o mniej więcej 55,6 miliona dolarów amerykańskich – wskazał profesor Daiju Ueda z Osaka Metropolitan University. – Oznacza to wzrost kosztów realizacji recept o 1019 proc. Gdy modele otrzymały polecenie nadania priorytetu produktom tańszym lub lekom generycznym, odpowiednio zmieniły swoje rekomendacje; mimo to zalecenia nadal koncentrowały się na ograniczonej grupie produktów – dodał. 

– Nasze ustalenia wskazują na konieczność oceny systemów sztucznej inteligencji w ochronie zdrowia pod kątem stronniczości w doborze produktów oraz sposobu, w jaki uwzględniają one informacje o kosztach i wymogach regulacyjnych – podkreślił profesor Ueda. – Łączenie systemów AI z wiarygodnymi źródłami informacji o lekach oraz zapewnienie nadzoru ze strony człowieka może pomóc w dokonywaniu właściwszych wyborów terapeutycznych – dodał. 

Przeczytaj także: „Mała aktualizacja, duże ryzyko”.