Dlaczego nie warto ufać algorytmom AI w nagłych wypadkach?
Dlaczego nie warto ufać algorytmom AI w nagłych wypadkach?
W świecie startupów MedTech trwa intensywny wyścig o stworzenie innowacyjnych rozwiązań, które mogłyby wspierać służbę zdrowia. Wśród nich znajduje się pomysł na „Doktora AI”, który miałby przeprowadzać wstępny triaż pacjentów. Jednak niedawne badania opublikowane w JAMA Network Open kwestionują te ambicje.
Badacze z University of California (UCSF) postanowili przetestować, jak popularne modele AI, w tym ChatGPT-4, radzą sobie w sytuacjach nagłych. Wyniki są alarmujące: algorytmy mają tendencję do bagatelizowania objawów, które dla lekarzy są jasnym sygnałem do wezwania karetki.
W badaniu zbadano 15 scenariuszy medycznych, w tym:
- zawał serca
- udar mózgu
- ciężkie reakcje alergiczne
Niepokojące jest, że AI często nie dostrzega powagi sytuacji, co może prowadzić do tragicznych konsekwencji. W obliczu takich wyników, czy możemy naprawdę zaufać algorytmom w sytuacjach kryzysowych?
Na podstawie: Źródła
