Kdo ponese zodpovědnost za chyby AI ve zdravotnictví?

6. 6. 2023

Umělá inteligence se dotýká vysokou rychlostí všech profesních odvětví a zdravotnictví není výjimkou. Téma implementace AI ve zdravotní péči a zdravotnických systémech vyvolává řadu otázek ohledně etiky a transparentnosti, skepticismus a nedůvěru, a proto je „na stole“ potřeba identifikovat etické výzvy a stanovit pravidla a regulace pro využívání AI v medicíně.

Přínos AI vnímá mnoho odborníků pro danou oblast zejména v:

  • přesnější diagnostice pomocí zobrazovací technologie diagnostických a radiologických snímků
  • analýze a zpracování rozsáhlých nestrukturovaných textových dokumentů a dat
  • opakovaných preventivních vyšetření a screeningů a jejich vyhodnocování
  • snižování nákladů na zdravotní péči
  • včasné detekci nemocí prostřednictvím analýzy zdravotních a nezdravotních údajů
  • provedení triáže pacientů podle naléhavosti

Je však důležité si uvědomit, že AI chybí cit a schopnost rozhodovat na základě empatie, což je ve zdravotnictví neodmyslitelnou součástí každého zdravotnického pracovníka.

Přestože AI může představovat obrovský přínos v medicíně, představuje také hrozbu pro ohrožení soukromí a bezpečnosti pacientů. Aby mohlo dojít k širokému přijetí AI, systémy umělé inteligence musí být schváleny regulačními orgány, integrovány se systémy EHR (electronic health record), pravidelně aktualizovány a její výstupy cerifikovány. Rovněž je nezbytné, aby právní systémy a regulační orgány přizpůsobily legislativu v souvislosti s rozvojem AI, zohlednily její rizika ve zdravotnictví a zajistily spravedlivé rozdělení odpovědnosti mezi všemi zúčastněnými stranami.

Jaké jsou vyhlídky AI ve zdravotnictví do budoucna?

AI přináší zásadní změny a překonává očekávání, ale její systémy nikdy nenahradí zdravotníky, jejichž zkušenosti a odborné znalosti jsou nezastupitelné. AI však dokáže fungovat jako užitečný partner a spolupracovník pod dohledem a finální kontrolou zdravotníka.

Správně používaná a implementovaná AI má potenciál zvýšit efektivitu fungování zdravotnictví, ale jen v případě, že dojde k:

  • definování etického rámce, rolí, odpovědností, postupů a politik
  • vypracování zásad a absolvování školení pro její používání
  • posílení managementu v oblasti používání a etiky umělé inteligenci
  • pravidelného hodnocení rizik a zkreslení spojených s výsledky každého případu použití
  • zabezpečení soukromí citlivých údajů
Doporučení k etice a řízení umělé inteligence ve stejném duchu formuluje i WHO v příručce Ethics & Governance of Artificial Intelligence for Health.

Diskuze

Vaše e-mailová adresa nebude zveřejněna. Vyžadované informace jsou označeny *