Sztuczna inteligencja w medycynie. Tygodnik „Nature” rozważa i przestrzega

Rozwój sztucznej inteligencji jest niezwykle obiecujący na polu medycyny, szczególnie we wczesnej diagnostyce. Narzędzia SI rozwijają się w dużym tempie, a zespoły badawcze chwalą się, że ich komputery potrafią rozpoznawać niektóre choroby szybciej niż lekarze specjaliści. Redaktorzy tygodnika „Nature” uważnie śledzą ten rozwój i postanowili w najnowszym numerze opublikować swoją opinię na ten temat. Przekazujemy ją (ze skrótami) czytenikom Przystanku Nauka.

23.03.2018Aktualizacja: 05.04.2018Opublikował: RK

Jednym z największych – i najbardziej przychodowych – obszarów, do których aplikowana jest sztuczna inteligencja, jest opieka zdrowotna. Możliwości sztucznej inteligencji (SI) w zakresie diagnozy i przewidywania ryzyka rosną w szybkim tempie. Tylko w ostatnich tygodniach naukowcy pokazali nam modele SI, które skanują obraz siatkówki, żeby określić ryzyko chorób oczu i układu krążenia i takie, które analizują wyniki mammografii w celu wykrycia raka piersi. Niektóre narzędzia SI zostały już zastosowane w praktyce klinicznej.

Narzędzia diagnostyczne oparte na sztucznej inteligencji mogą podnieść jakość i efektywność opieki zdrowotnej. Wiele z nich jest wielkim tryumfem nauki, wynikiem długich lat badań rozwojowych w zakresie informatyki i badań nad sieciami neuronowymi, które legły u podstaw procesów uczenia głębokiego (ang. deep learning) u maszyn. Komputer wyposażony w tego typu sztuczną inteligencję przetwarza setki tysiące oznaczony zdjęć chorób, by w końcu nauczyć się samodzielnie klasyfikować obrazy. Naukowcy donoszą, że algorytm odniósł już sukces, ponieważ jest w stanie rozpoznawać choroby z taką samą skutecznością jak patolodzy i radiolodzy.

Nie oznacza to jednak, że sztuczna inteligencja jest gotowa na pracę kliniczną. Obecny etap prac można porównać do etapu badań klinicznych, w którym projektowanemu lekarstwu udało się zniszczyć patogen w warunkach laboratoryjnych. To duże osiągnięcie, ale jeszcze daleko do tego, żeby móc zacząć leczyć ludzi.

Wiele z publikacji dotyczących narzędzi diagnostycznych opartych na SI to jedynie deklaracje, nie podlegające nawet procesowi recenzowania, który pozwoliłby krytycznie przeanalizować algorytmy, ocenił materiał, na którym SI się rozwijała i sprawdził podstawę porównań. Tymczasem takie szczegóły mają znaczenie. Dla przykładu, w zeszłym roku opublikowano badania, na podstawie których stwierdzono, że komputer był skuteczniejszy w diagnozowaniu raka piersi niż jedenastu różnych patologów. Podczas sprawdzania danych okazało się jednak, że lekarzom dano krótki czas – około minuty – na obserwację każdego obrazu. Gdy pozwolono im dłużej skupić się na obserwacji, to osiągali znacznie lepsze rezultaty.

Niektóre problemy pojawiają się dopiero na etapie aplikacji narzędzia. Błędy mogą wynikać chociażby z użycia innego sprzętu do tworzenia obrazów, niż ten, na którym prowadzone były badania. Podejrzewa się też, że niedoprecyzowany algorytm może „wyróżniać” zdjęcia dostarczone przez jedno urządzenie ponad inne tylko dlatego, że na etapie uczenia się maszyna częściej spotykała obrazy chorób dostarczone przez to urządzenie.

Wszystkie te problemy można oczywiście rozwiązać. Jednym z rozwiązać jest wprowadzenie powszechnego raportowania wszelkich zastosowań sztucznej inteligencji przez lekarzy, którzy zaczynają stosować ją w diagnostyce. Na tej podstawie prowadzono by badania retrospektywne, które stopniowo pozwalały by wykrywać niedoskonałości i je korygować. Najlepiej by było, gdyby można było takie narzędzie wprowadzić jako obowiązkowe. Należy się jednak spodziewać, że spotkałoby się to z niechęcią, szczególnie w prywatnej służbie zdrowia, która zmuszona by była udostępniać ogromną ilość danych medycznych. Mimo wszystko naukowcy pracują już nad takim systemem, zakładając że raportowanie może wypływać nie tylko od lekarzy, ale i od pacjentów.

Obecnie nadzór człowieka chroni nas przed ewentualnymi słabościami systemów SI, które mogą być przecież sprawą życia i śmierci. Tylko dlatego organizacje takie jak rządowa amerykańska Agencja Żywności i Leków (FDA, US Food and Drug Administration) zgadza się, by lekarze prowadzili pilotażowe zastosowania SI o niskim poziomie ryzyka. Jednak brak szczegółowych, bardzo dokładnych badań, może przynieść negatywne efekty, na przykład jeśli efekty jednego wadliwego produktu zniechęcą badaczy i użytkowników do rozwoju i testowania innych, które mogłyby być znacznie lepsze. Trzeba też pamiętać, że jeśli rynek tej technologii zacząłby się rządzić tylko zasadami komercyjnymi, to działania marketingowe mogłyby zdobyć przewagę nad skutecznością medyczną.

Powolne i rzetelne badania są zdecydowanie najlepszym rozwiązaniem. I chociaż może to oznaczać dłuższą drogę dla technologii i mniej spektakularnych oświadczeń, to uchroni to nas przed niepotrzebnymi zgonami a w przyszłości pozwoli lepiej chronić życie.

Opracowano na podstawie artykułu AI diagnostics need attention opublikowanego na stronie internetowej tygodnika „Nature”. Nature 555, 285 (2018) doi: 10.1038/d41586-018-03067-x