Nie masz konta? Zarejestruj się
fot. licencja OIL w Warszawie
Autor: Artur Olesch
Placówki zdrowia są zasypywane ofertami aplikacji sztucznej inteligencji, od systemów do tworzenia EDM po algorytmy triażujące pacjentów i przewidujące ryzyko wystąpienia chorób. Ale obietnice marketingowe szybko mogą się zamienić w kosztową kulę u nogi.
Według raportu Top Disruptors in Healthcare 2025 aż 62 proc. polskich start-upów medycznych rozwija rozwiązania oparte na sztucznej inteligencji i uczeniu maszynowym. Oprócz młodych firm aplikacje AI oferują też firmy dostarczające oprogramowanie oraz urządzenia medyczne. Codziennie do szpitali i placówek zdrowia trafiają zapytania o możliwość testowania algorytmów albo oferty kuszące nowymi możliwościami AI.
Na fali popularności sztucznej inteligencji można odnieść wrażenie, że prawie każdy nowy system albo aplikacja ma w sobie jakiś element AI. Ale nie każdy algorytm to od razu AI. Ten zwykły działa jak drzewo decyzyjne: jeśli pacjent ma gorączkę i kaszel, to prawdopodobnie choruje na infekcję górnych dróg oddechowych. Z kolei sztuczna inteligencja analizuje dane, samodzielnie wyciąga wnioski i z biegiem czasu się uczy.
Umiejętność rozróżnienia AI od prostego algorytmu to pierwszy krok, aby nie dać się nabrać na marketingowe obietnice AI skracającej czas obsługi pacjenta, automatyzującej tworzenie dokumentacji albo usprawniającej zarządzanie szpitalem. Wiele z nich może okazać się mydleniem oczu AI (ang.: AI washing) – praktyką polegającą na przypisywaniu funkcji AI rozwiązaniom, które opierają się na prostych algorytmach.
Prosty algorytm i prawdziwa AI różnią się jeszcze jednym: trudnością wdrożenia i kosztami. W drugim przypadku sprawa mocno się komplikuje.
Kupując rozwiązania AI, szpitale są zdane na siebie. Dotąd nie powstały żadne wytyczne ani rekomendacje podobne do szpitalnej oceny technologii medycznych. Stosując HB-HTA, łatwiej ocenić, czy nowe leki, sprzęt i procedury są bezpieczne oraz opłacalne.
Dopiero niedawno opublikowany „Poradnik Nabywcy AI” Koalicji AI w Zdrowiu jest pierwszą próbą ustrukturyzowania procesu zakupu i wdrożenia AI na polskim rynku zdrowia. Autorzy proponują, aby decyzję o implementacji AI poprzedzić odpowiedzią na 10 kluczowych pytań, m.in. o zgodność z prawem, dowody naukowe na skuteczność AI i bezpieczeństwo, koszty itd. Wszystko po to, aby uniknąć nabywania rozwiązań, które jedynie skomplikują pracę, zamiast ją ułatwić, albo spowodują eksplozję kosztów, których wcześniej nie przewidziano.
Jeśli już wiadomo, że rozwiązanie to naprawdę AI, a nie jedynie prosty algorytm, drugim krokiem jest zastanowienie się, czy problemu nie można rozwiązać, np. zmieniając organizację pracy, zamiast od razu kupować AI – radzą autorzy poradnika.
Przykładem jest długi czas oczekiwania na wyniki badań tomografii komputerowej, wynikający z opóźnień w przygotowaniu opisów. Problemem może okazać się nieprawidłowa priorytetyzacja zleceń albo niedopasowanie grafików pracy do pory dnia o największej liczbie pacjentów. Jeśli w innej lokalizacji szpitala taki problem nie występuje, radiolodzy mogliby przejąć część opisów w ramach teleradiologii. Dopiero gdy wyczerpane zostaną wszystkie możliwości reorganizacyjne, wdrożenie AI będzie zasadne.
Skąd ten nacisk na próbę rozwiązania problemu innymi metodami niż AI? Wdrożenie sztucznej inteligencji wiąże się ze spełnieniem wielu rygorystycznych wymagań prawnych, monitorowaniem jakości AI po wdrożeniu, szkoleniami pracowników i konserwacją. A to może generować spore koszty. I komplikować pracę.
Kiedy decyzja o zakupie AI zapadła, rozpoczyna się analiza techniczno-legislacyjna. Dział prawny analizuje, czy AI spełnia wszystkie wymagania formalne, czyli czy posiada oznakowanie CE i klasę wyrobu medycznego oraz czy jest zgodna z dyrektywą ws. urządzeń medycznych MDR lub ma certyfikat jakości, np. ISO 82304-1 dla oprogramowania, które nie kwalifikuje się pod MDR. Producent powinien określić, do jakiej klasy ryzyka według rozporządzenia UE o sztucznej inteligencji (EU AI Act) system należy. Jeśli to AI wysokiego ryzyka, dochodzą kolejne obowiązki, m.in. w zakresie raportowania poważnych incydentów w terminie od 2 do 15 dni od ich wystąpienia.
Dostawca powinien dostarczyć raport z oceny klinicznej, dokumentację walidacyjną i plan nadzoru po wdrożeniu. Z kolei dział IT sprawdza parametry modelu, jak czułość, swoistość, AUC (Area Under the Curve, ogólna zdolność algorytmu do odróżniania osób chorych od zdrowych dla algorytmów diagnostycznych), PPV (Positive Predictive Value, jak często pozytywny wynik AI rzeczywiście oznacza chorobę), NPV (Negative Predictive Value, jak często negatywny wynik AI oznacza brak choroby).
Równie ważne jest sprawdzenie, czy model był testowany na populacji podobnej do populacji placówki zdrowia, na różnych zbiorach danych oraz w badaniach klinicznych. Dodatkowe punkty należą się rozwiązaniom, dla których wyniki walidacji zostały opublikowane w czasopiśmie naukowym.
Algorytm ze świetnymi wynikami na danych testowych niekoniecznie musi takie osiągać po wdrożeniu. Podobnie jak w przypadku systemów IT, o sukcesie decydują szkolenia pracowników, odpowiedni plan wdrożenia, wplecenie rozwiązania w procedury pracy oraz łatwość jego użytkowania przez lekarzy, pielęgniarki i personel. AI powinna być zintegrowana z całą infrastrukturą IT i dostępna bezpośrednio w zintegrowanym systemie placówki, aby nie obciążać personelu koniecznością przełączania się między różnymi rozwiązaniami.
Jeszcze przed wdrożeniem trzeba ustalić procedury monitorowania skuteczności AI. Wiele algorytmów ma tendencję do dryfowania, czyli spadku czułości wraz z upływem czasu spowodowanego błędami w danych. Nie można zapomnieć o etyce AI. Według metodologii FUTURE-AI system AI powinien być sprawiedliwy, uniwersalny, identyfikowalny, użyteczny, niezawodny i wyjaśnialny (choć w przypadku generatywnej AI nie zawsze jest to możliwe).
Jeśli to pierwsze wdrożenie AI, warto poszukać ambasadorów zmiany – lekarzy, którzy interesują się sztuczną inteligencją i widzą w niej szansę na podniesienie jakości leczenia. Przy tym nie można zapominać o sceptykach, którzy mogą bać się AI i utraty pracy. Właściwa komunikacja wewnętrzna rozwieje nieuzasadnione obawy.
Stosowanie AI wiąże się z wieloma ryzykami. Jednym z nich jest możliwość naruszenia przepisów dotyczących przetwarzania danych. Problem nie istnieje, jeśli model działa lokalnie, a dane nie opuszczają organizacji. Jeśli algorytm AI jest oferowany w usłudze chmurowej, musi to być chmura (serwer) zlokalizowana w Europie. Wszędzie tam, gdzie przetwarza się dane, konieczne jest spełnienie obowiązków RODO. Pozostaje też pytanie o cel wykorzystania danych. Konserwatywną i bezpieczną opcją jest zastrzeżenie, że dane mogą służyć wyłącznie do świadczenia usługi (wygenerowania wyniku, udzielenia odpowiedzi itd.) oraz doskonalenia modelu dla danej placówki zdrowia. Ewentualna klauzula pozwalająca na wykorzystanie danych do ogólnego trenowania modelu wymaga dużej ostrożności i analizy prawnej.
Rozwiązanie AI musi być odporne na zagrożenia cyberbezpieczeństwa, czyli posiadać odpowiednie mechanizmy uwierzytelniania użytkowników, szyfrowania danych, zarządzania dostępem. Tak jak w przypadku klasycznych systemów AI, trzeba stworzyć procedury reagowania na incydenty bezpieczeństwa danych i przygotować plan przywrócenia systemu po awarii lub cyberataku.
Ostatnim elementem są koszty. Sama licencja to jedynie ułamek nakładów. W późniejszym okresie dochodzą aktualizacje, rozwój AI, zatrudnienie specjalistów ds. AI, konsultacje z dostawcą i wsparcie techniczne, koszty integracji itd. Jeśli nie zostaną wcześniej zabudżetowane, mogą z czasem eksplodować, zmuszając podmiot do wyłączenia wdrożonego rozwiązania. Aby tego uniknąć, zaleca się skalkulowanie całkowitego kosztu posiadania (TCO), który obejmuje wszystkie wydatki związane z eksploatacją AI, nawet jeśli muszą zostać poniesione dopiero za kilka lat.
W tym miejscu wraca się do punktu wyjścia, czyli decyzji o tym, kiedy AI będzie opłacalna. Jeszcze przed wdrożeniem placówka musi dokładnie zmierzyć procesy, które AI ma udoskonalić (np. czas diagnostyki, liczbę błędów, wydajność personelu, czas hospitalizacji itd.), aby na tej podstawie oszacować zwrot z inwestycji (ROI) w AI. ROI na plus będzie mocnym argumentem przy wnioskowaniu o dofinansowanie na kolejne wdrożenia AI oraz okazją do pochwalenia się osiągnięciami w publikacji naukowej.