Intelligence Articifielle et médecine : mariage ou divorce ?

Le rapport "Medical AI Now!" (et ses recommandations), publié (en anglais) à l'automne 2019 pose les questions qui fâchent : un problème de méthodologie en 1er.

Cette courte présentation, propose les principaux items qui sont développés dans ce document de 60 pages vendu en souscription au format pdf pour une diffusion sous licence au sein de vos entreprises afin de sensibiliser les dirigeants et les porteurs de projets. Par ailleurs une équipe peut vous accompagner dans le design et l'accompagnement du projet à commencer par un "séminaire kick-of" afin d'être bien sûr de commencer correctement...

Pourquoi ces recommandations? D’abord beaucoup d’erreurs, de perte de temps et d’argent dans les projets :

• Pourquoi oppose-t-on constamment machine et humain ?

• Que retenir des publications internationales « pour ou contre » ?

• Que faire pour éviter le risque de brûler les étapes clefs, dans le management des données ?

• Pourquoi le rapport entre IA & Santé est-il si particulier ?

• Quelles protections de la vie privée souhaite Ursula Von Der Leyen (Commission Européenne) ?

• Quels sont les bons profils pour mener à bien un projet IA en Santé ?

• Pourquoi les use-cases santé (déjà enregistrés à la FDA) ne peuvent être des modèles en France ?

• Pour ne pas repartir à zéro, quelles sont les bons outils et architectures ?

• Quelles recommandations majeures afin de mener à bien ses projets ? Suivis dans les startups, grandes entreprises, …

Un nouvel AI-ldorado, y compris dans la santé : Mais aussi le nouveau e-pigeon à plumer pour ceux qui n’y comprennent (encore) rien

Les récents articles et estimations parlent de milliards de dollars de valeur et d'économie

Dans le monde de la santé, encore une fois, les Etats-Unis sont facilitateurs.

Comme "agence unique" la FDA est "en avance", mais  l'Europe s'en rend compte (à son rythme) et les agences HMA/EMA sont depuis un an en "task force " sur le sujet.

• Presque 100 projets approuvés en cours aux US : l’avantage d’un guichet unique…
• Un retard reconnu dans l’UE lié aux multiples structures et gouvernances réglementaires (Dispositif medical, medicament, GDPR, pays, …)
• Et le risque du “frein à la française” qui régule en amont
• Et la présidente de la Commission Européenne, promet une régulation sur les data sensibles… dans 100 J

"Je t'aime / moi non plus"

Cet été, des brûlots ont été lancés contre l'IA, les startups santé des GAFA (Deepmind) mais contre Watson (IBM), aussi allant trop vite dans les INTERPRETATIONS (voir mon article http://www.varlet.paris/que-retenir-de-la-meta-analyse-publiee-dans-le-lancet-qui-oppose-ai-et-humain/)

La grosse Méta-Analyse publiée en Octobre dernier dans The Lancet - Digital Health comparant le DeepLearning et la capacité de détection des pathologies par l'imagerie par les professionnels de santé ne pose pas la bonne question  : elle oppose Machine et humain, au lieu de revenir sur la méthodologie et la finalité.

1- beaucoup de mauvaises définitions des données (structurées ou non)

2- biais importants (sur de la sélection de données retrospectives, fausses hypothèses, méthodesstatistiques…)

3- corrélations fausses, mauvais testing, validations arbitraires, mauvaise terminologie

4- pas de discussion entre les analystes/développeurs et les cliniciens

5- sans parler des mauvaises méthodes et hyperparamétrages de machine-learning, des architectures technologiques utilisées, du partage des données qui ne sont pas dans les gold standards IT ou des études cliniques

La médecine a changé :

Patients, médecins et plus largement équipe de soins en plus des outils, des usages et des attentes. Nous avons 3 modèles qui co-existent encore aujourd'hui.

LE PASSÉ : The CURE model (cela existe encore beaucoup et même certains n'y ont pas accès sur la planète !)

• Unilatéral - Chronophage - Individu(s) dépendant
• Une limite du modèle (ressources)
• Des attentes nouvelles
• Un “coût” de moins en moins acceptable pour une large couverture

AUJOURD’HUI : the CARE model (pas tout à fait encore partout car dépendant des "payeurs")

• Standardisation - Engagement  - Monitoring - Règles logiques et scénarios
• Moins opérateur dépendant - EBM
• Coût + efficacité amélioré
• Qualité de vie, durabilité

DEMAIN : Personalized model. Un objectif vertueux tant dans l’accès, l’efficacité, le coût, les ressources, mais avec un investissement nécessaire

• Patient participatif - Outils partagés intelligents - Médecine collaborative
• Gestion des ressources spécialisés
• Un modèle à valider avec une nouvelle forme d’évaluation

Un accompagnement fort pour toutes les parties sera à prévoir et financer

La data, l'or de demain.

Un potentiel déjà accessible, y compris en France

mais à rendre plus accessible, plus transparent, et plus rapidement en gardant notre souveraineté ; le Health Data Hub va t-il répondre aux attentes ?

Il faut déjà parler le même langage !

Si votre boss fronce les sourcils, c'est pas bon... vous allez vous retrouver à la case "on va te trouver un stagiaire".

AI, Deep Learning, Machine Learning, Big data, Open data, BlockChain, Auto-ML,

Analyste,  Biostatisticien, Développeur, ingénieur Biomed, mathématicien…

Qui fait quoi et qui décide ?

Quelle est l’ampleur du projet ?  

En combien de temps doit-être réalisé ? rentable ? sur quels critères (pas les anciens...) ?

Chacun a t-il conscience des 10 v de la data dans le groupe projet ?

Il faut donc bâtir une roadmap agile selon la dimension projet

• Gérer le plan et le management des données
• Définir les expertises et les gouvernances de décisions
• Trouver les valeurs du projet, les partager, les protéger
• Mettre en place les méthodes et “outils”
• Structurer le développement et les équipes

Par étape, en mobilisant les bonnes ressources au bon moment avec le bon argent

Data Management : 16 étapes

La plupart des projets sautent des étapes… Qui se payent par :

• Des biais
• Des fausses corrélations
• Des blocages réglementaires
• Un mauvais positionnement
• Un problème d’acceptabilité

De par ces manquements, les porteurs du projets (dont les financiers...) développent une perte de confiance et c'est un retour à zéro assuré.

Une gouvernance est à définir en amont entre les différents interlocuteurs : en mettant le patient et le clinicien au centre du projet.

• Un interlocuteur métier dans les différentes task-force (qui comprend les différentes missions)
• Au contact du “business owner” ($ et T)
• Ce n’est pas avec un stagiaire que vous y arriverez… 
• et avec une Pérennité des ressources fiables

Le projet est aussi technologique que médical. Mais pas que… et à ne pas faire piloter « que » par des technos…

• Savoir économiser les ressources et utiliser les bonnes méthodes
• Vérifier par étapes, enclencher les corrections
• Une méthode agile et flexible (difficile pour les grandes entreprises et institutions aux pratiques d’appels d’offres…)

Savoir utiliser les bons partenaires (éviter de réinventer la roue)

Utiliser les bonnes méthodes selon le projet :

• Symboliste, analogiste, Bayesien, Connectionniste, matriciel… tout ceci est à discuter avec les tas-forces dédiées. La “machine” est donc indispensable pour calculer vos hypothèses.
• Accompagner l’apprentissage, le poids des hypothèses, revérifier, tester avec 3 set de data, valider la cohérence sur le terrain 

Plus vous insérez de formats de data, plus les risques sont grands : il faut évaluer les “résultats” avec un regard critique expert.

Éviter les biais et les corrélations aberrantes. 

Pour chaque famille de biais il faut prévoir les solutions en amont. Il y a 5 "grandes familles" de biais :

• Economiques
• Développeur seul
• Cognitifs (decision making)
• Statistiques
• Echantillon

Les 7 tendances IT qui rendent l’IA accessibles et en utilisant des outils du marché…

• Moins cher, plus rapide, plus évolutif, 
• Encore faut il choisir les bons outils, produits et services et...
• Choisir une infrastructure robuste (partenaire) 

Tout en gardant la VALEUR du projet (5 catégories qui sont précisées dans le rapport)

il faut aussi savoir s'inspirer des cas d'usages (avec succès ou échecs)....

• Exemples business significatifs : biologie, métabolisme, diabète, Cardiologie, Imagerie +++, Neurologie, Triage et selection patient (études)
• Et surtout des “prestataires” métiers qui se sont adaptés (ou tentent) ou des nouveaux entrants
• Une expertise externe doit vérifier la robustesse des concepts avant de signer un chèque en blanc....

Et la confiance ? 

C'est là que doit intervenir la Privacy By Desing,  avec des objectifs et des valeurs partagés.

Le concept du XAI (explainable artificial intelligence) propose :

• la Compréhension du modèle
• l'Interprétation et usage des conclusions des algorithmes
• la Vérification Evidence Based medicine
• la Légitimité, confidentialité, confiance

Le rapport détaille 3 grands familles de recommandations

chacune plusieurs items clefs pour le développement correct des projets d'IA.

Chaque porteur de projet doit montrer son engagement en amont avec une Charte

• Un intéret pour le projet, la gouvernance, les équipes, son boss, le budget, le timing
• Une méthologie partagées (autorités, régulations, investigateurs, cliniciens, patients)
• Des enregistrements et valorisations comprises
• Une acceptabilité lors du passage à l’usage en monde réel plus efficient

Conclusion: L’IA, un usage bénéfique pour tous. Patients, aidants, soignants, établissements, assureurs, payeurs, politiques…

• Prevention,

• Improving testing, prognosis,

• Decision making, using protocols, improving clinical workflows,

• Selecting the right treatment or transfer orientation at the right moment,

• To the relevant patient in the real world (eligibility),

• Predicting adverse event (complications, side effects, re-admission),

• Detecting fraud, denial management,

• Increasing patient involvement to understand and manage their personalized care

• Including efficiency, safety, compliance and quality of life

La machine n’apprend que ce que l’Humain donne

La santé est un sujet suffisament sérieux pour ne pas introduire notre bêtise naturelle dans l’intelligence artificielle