Francuzi i AI w służbie zdrowia: między pragmatycznym podejściem a wymaganiami przejrzystości

W marcu ubiegłego roku, FLASHS przeprowadziło badanie dla MedTech Galeon na próbie 2003 Francuzów i Francuzek w wieku 18 lat i więcej, reprezentatywnej dla populacji francuskiej, aby zrozumieć ich postrzeganie AI w dziedzinie zdrowia. 

Badanie ujawnia rosnącą, ale nierównomierną znajomość tych technologii. 64% respondentów (70% mężczyzn w porównaniu z 58% kobiet) deklaruje, że słyszało o AI medycznej, ale tylko 10% uważa, że ma o niej dogłębną wiedzę. Zauważalne są różnice między płciami oraz pokoleniami. Osoby w wieku 18-24 lat są bardziej skłonne do korzystania z AI (68%), podczas gdy tylko 10% osób powyżej 65. roku życia to robiło.

Te różnice nie tylko odzwierciedlają różne poziomy narażenia na innowacje. Mogą również wskazywać na różnice w podejściu do ryzyka, autonomii w podejmowaniu decyzji medycznych lub zaufaniu do systemów zautomatyzowanych.

Jednak zaufanie do tych narzędzi pozostaje podzielone: 43% Francuzów przypisuje pewną wiarygodność odpowiedziom dostarczanym przez AI, takie jak ChatGPT lub Google Gemini, w dziedzinie zdrowia, podczas gdy 45% pozostaje sceptycznych. Pełne zaufanie jest marginalne (4%), podczas gdy absolutna nieufność jest bardziej wyraźna (16%).

Postrzegany potencjał jest jednak rzeczywisty: diagnostyka (48%) i badania terapeutyczne (47%) są uważane za najbardziej odpowiednie zastosowania. Funkcje bardziej peryferyjne — jak automatyzacja administracyjna czy monitorowanie epidemiologiczne — budzą mniejsze, ale wyczuwalne zainteresowanie. Tylko 13% uważa, że AI nie wnosi żadnej wartości dodanej do sektora zdrowia.

Wśród tych, którzy pytali AI o kwestie związane ze zdrowiem, sześć na dziesięć osób twierdzi, że postępowało zgodnie z otrzymanymi zaleceniami. Znacząca część (17%) stosuje zalecenia AI bez konsultacji lekarskiej, co rodzi pytania o potrzebę bardziej rygorystycznych regulacji w sektorze tradycyjnie regulowanym przez zasady odpowiedzialności, ostrożności i śledzenia.

Jakość danych wejściowych, często niejednorodnych i czasem obciążonych błędami, bezpośrednio wpływa na jakość zaleceń generowanych przez AI. Ponadto, nieprzejrzystość używanych algorytmów, zwłaszcza w tzw. systemach "czarnej skrzynki", ogranicza zrozumienie generowanych decyzji, nawet przez samych profesjonalistów medycznych.

Podczas gdy błąd ludzki jest zazwyczaj relatywizowany w zależności od złożoności przypadku, błąd algorytmiczny jest postrzegany jako wada systemu, a więc znacznie mniej tolerowany: tylko 9% Francuzów to akceptuje, w porównaniu do 20% w przypadku błędu ludzkiego.

Zapytani o zdolność AI do przewyższania ludzkich umiejętności, większość Francuzów przyjmuje zrównoważoną postawę. Tylko 12% uważa, że może ona stać się bardziej niezawodna niż lekarze w całym procesie opieki. Ale ponad połowa (53%) przyznaje, że może przewyższyć profesjonalistów w niektórych wyspecjalizowanych dziedzinach, głównie technicznych, takich jak analiza obrazów medycznych czy wczesne wykrywanie słabych sygnałów.

Dehumanizacja opieki jest głównym zmartwieniem Francuzów (34%), następnie ryzyko błędu (28%) i brak kontroli ludzkiej (24%). Jeśli 30% respondentów jest gotowych zaakceptować operację chirurgiczną przeprowadzaną wyłącznie przez AI, 40% podkreśla konieczność obecności lekarza.

Francuzi opowiadają się za podejściem hybrydowym: prawie połowa (49%) jest za tym, aby ich lekarz wspierał się AI w celu doprecyzowania diagnozy lub zalecenia leczenia. Kluczowy wniosek z badania to wymóg przejrzystości. Dla 4 Francuzów na 5 istotne jest, aby być informowanym o użyciu AI w ich opiece, a prawie połowa chciałaby znać jej dokładne zastosowania. Wymóg ten dotyczy wszystkich pokoleń i jest obserwowany niezależnie od płci.

Regulacje etyczne i jasność praktyk będą zatem kluczowe dla zwiększenia akceptowalności AI w nadchodzących latach w dziedzinie zdrowia.