Comunicat al OMS privind etica folosirii inteligenței artificiale în aplicațiile din domeniul sănătății

0
737

Organizația Mondială a Sănătății (OMS) lansează noi îndrumări privind etica și guvernarea modelelor mari multimodale (LMM) – un tip de tehnologie de inteligență artificială generativă (AI) cu evoluție rapidă în aplicații din domeniul sănătății.

Ghidul subliniază peste 40 recomandări pentru a fi luate în considerare de guverne, companii de tehnologie și furnizori de servicii de sănătate pentru a asigura utilizarea adecvată a LMM-urilor în promovarea și protejarea sănătății populațiilor.

LMM-urile pot accepta unul sau mai multe tipuri de date precum text, videoclipuri sau imagini și pot genera diverse ieșiri, fără a se limita la tipul celor introduse. Ele sunt unice prin imitarea comunicării umane și capacitatea de a îndeplini sarcini pentru care nu au fost programate în mod explicit. Acestea au fost adoptate mai rapid decât orice aplicație de consum din istorie, cu mai multe platforme – cum ar fi ChatGPT, Bard și Bert – care au intrat în conștiința publică de anul trecut:

„Tehnologiile IA generative au potențialul de a îmbunătăți îngrijirea sănătății, dar numai dacă cei care dezvoltă, reglementează și folosesc aceste tehnologii identifică și țin cont pe deplin de riscurile asociate. Avem nevoie de informații și politici transparente pentru a gestiona proiectarea, dezvoltarea și utilizarea LMM-urilor pentru a obține rezultate mai bune în materie de sănătate și a depăși inechitățile persistente în materie de sănătate”, a precizat dr. Jeremy Farrar, om de știință șef al OMS.

Beneficii și riscuri potențiale

Noul ghid OMS subliniază cinci aplicații generale ale LMM-urilor pentru sănătate:

  • Diagnostic și îngrijire clinică, cum ar fi răspunsul la întrebările scrise ale pacienților;
  • Utilizare ghidată de pacient, cum ar fi pentru investigarea simptomelor și tratamentului;
  • Sarcini administrative și administrative, cum ar fi documentarea și rezumarea vizitelor pacienților în dosarele electronice de sănătate;
  • Educație medicală și asistență medicală, inclusiv oferirea stagiarilor cu întâlniri simulate cu pacienții și;
  • Cercetare științifică și dezvoltare de medicamente, inclusiv pentru identificarea de noi compuși.

Deși LMM-urile încep să fie utilizate în scopuri specifice legate de sănătate, există, de asemenea, riscuri documentate de a produce declarații false, inexacte, părtinitoare sau incomplete, care ar putea dăuna persoanelor care utilizează astfel de informații în luarea deciziilor privind sănătatea. În plus, pot fi setate pe informații de proastă calitate sau părtinitoare prin rasă, etnie, ascendență, sex, identitate de gen sau vârstă.

Ghidul detaliază, de asemenea, riscuri mai ample pentru sistemele de sănătate cum ar fi accesibilitatea și accesabilitatea celor mai performante LMM-uri. El poate încuraja, de asemenea, „prejudecățile de automatizare” din partea profesioniștilor din domeniul sănătății și a pacienților, prin care erorile sunt trecute cu vederea spre deosebire de situații în care ar fi fost identificate sau alegerile dificile sunt delegate în mod necorespunzător unui LMM.

LMM-urile, ca și alte forme de AI, sunt, de asemenea, vulnerabile la riscurile de securitate cibernetică care ar putea pune în pericol informațiile pacienților sau fiabilitatea acestor algoritmi precum și furnizarea de asistență medicală în general.

Pentru a crea LMM-uri sigure și eficiente, OMS subliniază necesitatea implicării diferitelor părți interesate: guverne, companii de tehnologie, furnizori de servicii medicale, pacienți și societatea civilă, în toate etapele de dezvoltare și implementare a unor astfel de tehnologii, inclusiv supravegherea și reglementarea acestora.

„Guvernele din toate țările trebuie să conducă în cooperare eforturile pentru a reglementa eficient dezvoltarea și utilizarea tehnologiilor AI, cum ar fi LMM-urile”, a subliniat dr. Alain Labrique, directorul OMS pentru sănătate digitală și inovare în divizia de știință.

Recomandări cheie

Noul ghid al OMS include recomandări pentru guverne, care au responsabilitatea principală de a stabili standarde pentru dezvoltarea și implementarea LMM-urilor, precum și integrarea și utilizarea acestora în scopuri medicale și de sănătate publică. De exemplu, guvernele ar trebui:

  • Investiți sau furnizați infrastructură publică sau non-profit, inclusiv putere de calcul și seturi de date publice, accesibile dezvoltatorilor din sectoarele public, privat și non-profit, care impune utilizatorilor să adere la principii și valori etice în schimbul acces.
  • Respectați legile, politicile și reglementările pentru a vă asigura că LMM-urile și aplicațiile utilizate în îngrijirea sănătății și medicinei – indiferent de riscul sau beneficiul asociat cu tehnologia AI – îndeplinesc obligațiile etice și standardele privind drepturile omului care afectează, de exemplu, demnitatea, autonomia sau intimitate.
  • Atribuiți unei agenții de reglementare existente sau nouă evaluarea și a aprobarea LMM-urile și aplicațiilor destinate utilizării în îngrijirea sănătății sau în medicină – în măsura în care resursele permit acest lucru.
  • Introduceți auditul și evaluările de impact obligatorii după lansare, inclusiv pentru protecția datelor și drepturile omului, de către terți independenți atunci când un LMM este implementat la scară largă. Auditul și evaluările de impact ar trebui publicate și ar trebui să includă rezultatele și impacturile dezagregate în funcție de tipul de utilizator, inclusiv, de exemplu, în funcție de vârstă, rasă sau dizabilitate.

Ghidul include, de asemenea, următoarele recomandări cheie pentru dezvoltatorii de LMM-uri, care ar trebui să se asigure că:

  • LMM-urile sunt proiectate nu numai de oameni de știință și ingineri. Utilizatorii potențiali și toate părțile interesate direcți și indirecti, inclusiv furnizorii de servicii medicale, cercetătorii științifici, profesioniștii din domeniul sănătății și pacienții, ar trebui să fie implicați încă din etapele incipiente ale dezvoltării AI într-un design structurat, incluziv, transparent și să li se ofere oportunități de a ridica probleme etice, de a exprima preocupările și furnizați informații pentru aplicația AI luată în considerare.
  • LMM-urile sunt concepute pentru a îndeplini sarcini bine definite cu acuratețea și fiabilitatea necesare pentru a îmbunătăți capacitatea sistemelor de sănătate și pentru a promova interesele pacienților. Dezvoltatorii ar trebui, de asemenea, să fie capabili să prezică și să înțeleagă potențialele rezultate secundare.

Noul document privind Etica și guvernarea AI pentru sănătate Ghid pentru modele mari multimodale se bazează pe ghidul OMS publicat în iunie 2021 ce poate fi consultat AICI.

Articolul precedentSCUB: Artrsocopia, intervenție minim invazivă pentru leziunile de menisc
Articolul următorAmbasadorul Republicii Franceze în România, în vizită la UMF Cluj-Napoca