IA générative et transformation hospitalière
23 min de lecture

IA fantôme (Shadow IA) à l’hôpital : comprendre le risque et l’encadrer sans freiner les équipes

Mardi, 18h40. Au secrétariat d’un service de médecine, il reste six courriers de sortie à mettre en forme. La secrétaire médicale ouvre ChatGPT sur son téléphone, colle le compte rendu dicté par le médecin et demande une version « claire et professionnelle ». En trente secondes, le courrier est propre. Elle partira à l’heure. Personne […]

Mardi, 18h40. Au secrétariat d’un service de médecine, il reste six courriers de sortie à mettre en forme. La secrétaire médicale ouvre ChatGPT sur son téléphone, colle le compte rendu dicté par le médecin et demande une version « claire et professionnelle ». En trente secondes, le courrier est propre. Elle partira à l’heure. Personne à la DSI n’en saura rien, et le compte rendu, avec le nom du patient, son diagnostic et son traitement, vient d’être envoyé à un service grand public hébergé hors de l’Union européenne.

C’est cela, le Shadow AI : l’usage d’outils d’IA par les professionnels, en dehors de tout cadre fixé par l’établissement. Une IA fantôme, invisible pour la sécurité de l’hôpital. Il ne naît presque jamais d’une mauvaise intention. Il naît d’un besoin métier réel, auquel personne n’a encore apporté de réponse encadrée.

Cet article s’adresse aux DSI hospitalières, aux directions des soins et aux cadres. Il explique ce qu’est le Shadow AI en établissement de santé, les risques du Shadow AI pour la sécurité des données sensibles, le cadre réglementaire, puis montre pourquoi le bloquer ne suffit pas et comment DSI et métiers peuvent le réduire ensemble.

Qu’est-ce que l’IA fantôme, ou Shadow IA ?

Le Shadow AI, ou Shadow IA en français, désigne l’utilisation d’outils d’intelligence artificielle par des salariés sans validation ni contrôle de leur direction des systèmes d’information. Il s’agit le plus souvent d’outils d’IA générative grand public, comme ChatGPT, Gemini, Copilot ou des extensions de navigateur, utilisés avec un compte personnel. On parle aussi d’« IA fantôme » : des outils d’IA et des applications utilisés dans l’ombre, sans gouvernance.

Le phénomène est massif dans tous les secteurs. Selon le Work Trend Index publié par Microsoft et LinkedIn en 2024, 75 % des travailleurs du savoir utilisent l’IA au travail, et 78 % d’entre eux apportent leurs propres outils, sans attendre que leur employeur leur en fournisse.

Source : Microsoft et LinkedIn, 2024 Work Trend Index, 8 mai 2024

Shadow AI et Shadow IT : ce qui change

Le Shadow AI est l’héritier du Shadow IT, c’est-à-dire l’usage de logiciels ou de services non validés par la DSI : messagerie instantanée personnelle pour coordonner une équipe, service de partage de fichiers gratuit, tableur hébergé en ligne. Les DSI connaissent bien ce phénomène. Le Shadow AI pose pourtant des risques nouveaux pour la sécurité des données.

CritèreShadow ITShadow AI
Ce qui est utiliséUn logiciel ou un service en ligne non validéUn outil d’IA générative grand public, souvent sur compte personnel
Ce qui sort de l’établissementDes fichiers stockés ou partagésLe contenu même des requêtes : textes, comptes rendus, données patients
Fiabilité du résultatL’outil fait ce qu’on lui demandeL’IA peut produire une réponse fausse mais crédible (hallucination)
Réutilisation des donnéesStockage chez un tiersSelon les conditions d’utilisation, les données peuvent servir à entraîner le modèle
Visibilité pour la DSIRepérable par l’inventaire des applicationsTrès difficile à repérer, notamment sur smartphone personnel
Facilité d’accèsInstallation ou inscription nécessaireUne page web ou une application gratuite suffit

La différence décisive tient à la nature de ce qui circule. Avec le Shadow IT, on stocke des fichiers ailleurs. Avec le Shadow AI, on confie le contenu lui-même à un modèle, pour qu’il le lise, le transforme et produise un nouveau texte. À l’hôpital, ce contenu est très souvent une donnée de santé, parmi les données sensibles les plus protégées.

À quoi ressemble le Shadow AI dans un établissement de santé

Dans un établissement de santé, le Shadow AI prend la forme d’usages très concrets, liés au quotidien de chaque métier : reformuler un courrier, résumer un compte rendu, préparer une réunion, chercher une information médicale. Ces usages du Shadow AI répondent à une pression réelle sur le temps et la charge de travail.

Des usages différents selon les métiers

MétierUsage typique non encadréDonnée exposéeNiveau de risque
Secrétariat médicalMettre en forme un courrier de sortie ou un compte renduIdentité, diagnostic, traitement du patientÉlevé
Cadre de santéRédiger un planning, résumer un compte rendu de réunion, préparer un entretien annuelDonnées RH, situations individuelles d’agentsMoyen à élevé
SoignantVérifier une posologie, comprendre une pathologie, reformuler une transmissionDonnées cliniques, parfois identifiantesÉlevé (erreur clinique possible)
MédecinAide au diagnostic différentiel, rédaction de comptes rendusDonnées cliniques complètesÉlevé
Fonctions administrativesRédiger une note, un appel d’offres, un dossier de subventionDonnées internes, financières, contractuellesMoyen
DirectionPréparer une présentation, synthétiser un rapportDonnées stratégiques de l’établissementMoyen

Ces usages ne sont pas tous équivalents. Demander à une IA de reformuler une note de service sans aucune donnée personnelle ne pose pas les mêmes questions que lui confier un compte rendu d’hospitalisation. C’est précisément cette nuance entre usage sans risque et usage à risque que les professionnels ne maîtrisent pas toujours, faute d’avoir été formés à l’utilisation des outils d’IA.

L’ampleur du phénomène dans la santé

En France, la mesure la plus précise vient du GCS HOURAA, qui réunit les quatre CHU d’Auvergne-Rhône-Alpes : Clermont-Ferrand, Grenoble, Lyon et Saint-Étienne. Son enquête sur les usages de l’IA, publiée en juillet 2026, a recueilli les réponses de 2 509 professionnels. 46,1 % d’entre eux utilisent déjà l’IA à titre individuel, surtout l’IA générative, et plus de 60 % de ces utilisateurs s’en servent au moins une fois par semaine.

Le point le plus parlant pour une DSI : la majorité des utilisateurs passent par une licence personnelle, gratuite ou payante. L’outil mis à disposition par le CHU reste minoritaire. C’est la définition même de l’IA fantôme.

Indicateur (enquête GCS HOURAA, 2026)Résultat
Professionnels qui utilisent l’IA à titre individuel46,1 %
Utilisateurs qui s’en servent chaque jour31 %
Répondants qui connaissent l’existence de la charte IA de leur CHU7,6 %
Répondants qui se disent avancés ou experts17,7 %
Frein cité : craintes éthiques et juridiques51,5 %
Frein cité : manque de connaissances50,1 %
Répondants impliqués dans un projet d’IA de l’établissement3,5 %

Ces chiffres dessinent un décalage net : l’IA est déjà entrée dans le quotidien d’un professionnel sur deux, alors que seuls 3,5 % participent à un projet porté par l’établissement. Et quand une charte IA existe, elle reste très largement méconnue. Le problème n’est donc pas seulement l’absence de règles, mais leur diffusion et la formation des équipes. Une limite à garder en tête : les répondants étaient volontaires, environ 5 % des agents, ce qui surreprésente probablement les plus intéressés par l’IA.

Source : GCS HOURAA, enquête sur les usages de l’IA dans les 4 CHU d’Auvergne-Rhône-Alpes, juillet 2026

À l’international, le rapport Netskope Threat Labs consacré au secteur de la santé, publié en mai 2025, indique que des applications d’IA générative sont utilisées dans 88 % des organisations de santé étudiées. Il relève aussi que 43 % des professionnels de santé utilisent encore un compte personnel d’IA générative au travail, et que les violations de politique de données liées à l’IA générative concernent souvent des données réglementées, comme les dossiers patients.

Source : Netskope Threat Labs, Threat Labs Report Healthcare 2025 (données mondiales), mai 2025

Côté médecins, une enquête publiée en 2024 dans le BMJ Health & Care Informatics auprès de 1 006 médecins généralistes britanniques montre qu’un sur cinq utilise déjà une IA générative dans sa pratique clinique, notamment pour la documentation et le diagnostic différentiel. La Haute Autorité de santé elle-même constate, dans sa communication d’octobre 2025, que « des mauvaises pratiques sont aussi observées comme la transmission d’informations confidentielles ».

Pourquoi les professionnels de santé y ont recours

Le Shadow AI n’est pas un problème de discipline. C’est d’abord le symptôme d’un besoin auquel les outils de l’établissement ne répondent pas encore. Les professionnels de santé y recourent pour des raisons simples :

  • la charge administrative pèse lourd et l’IA fait gagner un temps réel sur les écrits
  • l’outil est gratuit, immédiat et ne demande aucune installation
  • l’établissement ne propose pas encore d’outil validé, ou pas pour leur usage
  • personne ne leur a expliqué clairement ce qui est autorisé et ce qui ne l’est pas
  • les collègues le font déjà, ce qui banalise la pratique

Tant que ces raisons existent, le Shadow AI persiste, quels que soient les outils de sécurité en place. C’est le point de départ de toute stratégie efficace : partir du besoin métier, pas seulement du risque technique.

Les risques du Shadow AI pour un hôpital

Le Shadow AI fait courir à un établissement de santé des risques de cinq ordres : la fuite de données de santé et la violation du secret professionnel, les erreurs produites par l’IA, la perte de traçabilité, l’exposition aux menaces de cybersécurité et la mise en cause de la responsabilité de l’établissement.

RisqueCe qui se passe concrètementConséquence pour l’établissement
Données de santé exposéesDes données patients sont saisies dans un outil grand public, non certifié hébergeur de données de santé (HDS), souvent hors UEManquement au RGPD et aux règles d’hébergement des données de santé
Secret professionnelDes informations couvertes par le secret médical sont transmises à un tiers non autoriséMise en cause possible au titre du secret professionnel
Erreurs et hallucinationsL’IA invente une référence, se trompe de dose, d’unité ou de nom de médicamentErreur dans un écrit, voire dans une prise en charge
Perte de traçabilitéPersonne ne sait quel contenu a été produit ou modifié par une IAImpossible de reconstituer une décision ou un écrit en cas d’incident
CybersécuritéComptes personnels, extensions de navigateur non contrôlées, partage de documents internesPorte d’entrée supplémentaire pour les attaques, dans un secteur déjà très ciblé
ResponsabilitéUn document ou une décision s’appuie sur une sortie d’IA non vérifiéeResponsabilité du professionnel et de l’établissement engagée

Le secteur de la santé est déjà sous forte pression cyber. Le CERT Santé a recensé 764 incidents de sécurité déclarés par les structures de santé en 2025, et désigne la compromission de comptes comme la menace la plus importante de l’année. Multiplier les comptes personnels, les applications et les outils d’IA non maîtrisés augmente encore les risques.

Source : Agence du numérique en santé, CERT Santé, Observatoire des signalements d’incidents de sécurité des systèmes d’information pour le secteur santé, rapport 2025

À noter : l’exemple le plus cité du Shadow AI vient de l’industrie. En 2023, des ingénieurs de Samsung ont collé du code source confidentiel dans ChatGPT, ce qui a conduit l’entreprise à restreindre l’usage des IA génératives. À l’hôpital, l’équivalent n’est pas du code, mais un dossier patient.

Ce que dit le cadre réglementaire sur l’IA en santé

Le Shadow AI se heurte à plusieurs textes : le code de la santé publique sur le secret et l’hébergement des données de santé, le RGPD, et le règlement européen sur l’intelligence artificielle (AI Act), qui impose aux organisations de former leurs équipes. La HAS, la CNIL et l’ANSSI ont publié des repères pratiques.

Données de santé, hébergement et secret professionnel

L’article L1110-4 du code de la santé publique garantit au patient le respect de sa vie privée et du secret des informations le concernant. L’article L1111-8 impose que toute personne qui héberge des données de santé pour le compte d’un établissement soit certifiée hébergeur de données de santé (HDS). Le référentiel HDS, révisé en 2024, exige notamment que les données soient hébergées dans l’Espace économique européen.

Coller un compte rendu dans un outil d’IA grand public avec un compte personnel revient, en pratique, à confier des données de santé à un prestataire qui n’a ni contrat avec l’établissement ni certification HDS. C’est la raison principale pour laquelle les données patients, et plus largement les informations sensibles, ne doivent jamais être saisies dans ces outils d’IA.

Source : Agence du numérique en santé, publication au Journal officiel du référentiel de certification HDS (mai 2024)

L’AI Act et l’obligation de maîtrise de l’IA

Le règlement européen sur l’intelligence artificielle (règlement 2024/1689) contient une disposition très concrète pour les établissements : son article 4, applicable depuis le 2 février 2025, demande aux organisations qui déploient des systèmes d’IA de prendre des mesures pour assurer une maîtrise suffisante de l’IA par leur personnel, en tenant compte de leurs connaissances et du contexte d’utilisation. L’omnibus numérique adopté en 2026 a assoupli la formulation de cette obligation, sans en supprimer le principe : former les équipes à l’IA reste attendu.

Le même règlement classe parmi les systèmes à haut risque de nombreux dispositifs utilisés en santé, avec des obligations renforcées dont le calendrier a été repoussé à 2027 et 2028. Pour le détail du cadre juridique (RGPD, HDS, AI Act, espace européen des données de santé), consultez notre article sur l’intelligence artificielle à l’hôpital.

Source : Commission européenne, AI Act Service Desk, article 4 « Maîtrise de l’IA »

Les repères de la HAS, de la CNIL et de l’ANSSI

En octobre 2025, la HAS a publié un guide intitulé « Premières clefs d’usage de l’IA générative en santé ». Il résume les bonnes pratiques en quatre verbes, sous l’acronyme A.V.E.C. :

  • Apprendre : s’approprier l’outil et se former, notamment aux règles de confidentialité des données de santé
  • Vérifier : contrôler chaque contenu produit, ne jamais partager d’informations confidentielles, traiter chaque réponse comme une proposition qui peut contenir des erreurs
  • Estimer : évaluer dans le temps la qualité de l’outil et son adéquation aux besoins
  • Communiquer : échanger avec ses pairs et les patients, en toute transparence sur les usages

Le message de la HAS est clair : l’IA générative en santé, oui, mais avec un usage « conscient, supervisé et raisonné ».

Source : HAS, « Premières clefs d’usage de l’IA générative en santé », 30 octobre 2025

La CNIL a de son côté publié en 2024 des recommandations pour déployer une IA générative dans une organisation : partir d’un besoin concret, établir une liste des usages autorisés et interdits, privilégier des solutions sécurisées, former les utilisateurs et associer dès le départ le délégué à la protection des données, le responsable de la sécurité des systèmes d’information et les métiers. L’ANSSI a publié la même année 35 recommandations de sécurité pour les systèmes d’IA générative, utiles pour cadrer un outil interne.

Source : CNIL, « Comment déployer une IA générative ? La CNIL apporte de premières précisions », 18 juillet 2024

Pourquoi bloquer le Shadow AI ne suffit pas

Bloquer l’accès aux outils d’IA générative depuis le réseau de l’hôpital réduit l’exposition visible au Shadow AI, mais ne fait pas disparaître le besoin. Les usages se déplacent vers le smartphone personnel, hors de toute visibilité. Une formation purement technique ne suffit pas non plus : elle explique l’outil, pas son usage dans le métier.

Le blocage déplace l’usage, il ne le supprime pas

Le réflexe le plus naturel pour une DSI consiste à filtrer les sites d’IA générative. C’est une mesure de sécurité légitime, mais elle a un effet pervers. La secrétaire médicale de l’introduction n’arrête pas d’utiliser l’IA : elle passe par son téléphone, avec son compte personnel, sur le réseau mobile. Le risque devient invisible pour l’établissement : le Shadow AI continue, hors de toute sécurité.

Le Shadow AI recule quand les professionnels disposent d’une alternative crédible : un outil d’IA validé, une gouvernance lisible, des règles compréhensibles et des compétences pour s’en servir. Plusieurs établissements français s’engagent dans cette voie. Le CHU de Montpellier développe ainsi un assistant IA interne, avec données hébergées localement et vérification humaine systématique, et le CHU de Rouen a déployé une plateforme d’IA générative hébergée en France pour ses professionnels.

Source : Acteurs publics, « Le CHU de Montpellier développe un agent IA pour soulager les soignants », avril 2026

Formation technique ou formation à l’usage métier : deux besoins différents

Beaucoup d’établissements confient la formation à l’IA à la DSI ou à un prestataire informatique, avec un programme identique pour tous. C’est utile pour la culture générale, mais cela crée rarement de l’usage réel chez un cadre de santé ou une secrétaire médicale. Leurs besoins ne sont pas ceux d’un profil technique.

DimensionFormation technique (DSI, prestataire IT)Formation à l’usage métier
ObjectifComprendre l’outil, l’infrastructure, la sécuritéSavoir utiliser l’IA dans ses tâches réelles, en sécurité
ContenuFonctionnement des modèles, paramétrage, architectureCas concrets du métier, prompts adaptés, données à ne jamais saisir
PublicHomogène, souvent mixte soignants et informaticiensPar métier : cadres, secrétariats, soignants, administratifs
Résultat typiqueConnaissances générales, faible usage ensuiteUsages adoptés, encadrés, mesurables
Effet sur le Shadow AILimité si aucun usage concret n’est proposéRéduction, car l’usage autorisé répond au besoin

Les deux approches sont complémentaires. La DSI garantit un outil sûr. La formation métier garantit que cet outil est réellement utilisé, et utilisé correctement. Sans la seconde, la première reste une coquille vide, et les professionnels retournent à leurs outils personnels, donc au Shadow AI.

DSI et Direction des soins : co-piloter l’IA plutôt que s’opposer

Réduire le Shadow AI à l’hôpital demande un co-pilotage : la DSI porte la sécurité et les outils, la Direction des soins et les directions métiers portent les usages et l’adoption. Ni l’une ni l’autre ne peut réussir seule face au Shadow AI. Une gouvernance commune de l’IA permet d’avancer sans se marcher sur les pieds.

Ce qui revient à la DSI

La DSI est la garante du socle technique et de la sécurité. Son rôle dans la lutte contre le Shadow AI comprend :

  • choisir ou construire des outils d’IA générative conformes (hébergement HDS, contrat, localisation des données)
  • sécuriser les accès, journaliser les usages, contrôler les extensions et les connecteurs
  • définir avec le DPO les règles sur les données autorisées dans chaque outil
  • assurer la veille sur les menaces et les recommandations de l’ANSSI et du CERT Santé

Ce qui revient aux directions métiers et à la Direction des soins

Les directions métiers connaissent les besoins réels et les situations de travail. Leur rôle :

  • identifier les tâches où l’IA apporte un gain réel, métier par métier
  • traduire les règles de sécurité en consignes concrètes pour les équipes
  • organiser la formation à l’usage, avec des cas propres à chaque profession
  • désigner des référents IA dans les services, relais entre terrain et DSI
  • faire remonter les usages émergents avant qu’ils deviennent du Shadow AI

Une gouvernance commune de l’IA générative

La forme la plus simple est un comité IA réunissant la DSI, le DPO, le RSSI, la Direction des soins, la direction qualité et des représentants des métiers. Ce comité de gouvernance de l’IA valide les outils, évalue les risques, arbitre les usages, rédige et met à jour la charte d’usage de l’IA, et suit les indicateurs d’adoption.

Dans cette organisation, la DSI n’est plus celle qui interdit, et les métiers ne sont plus ceux qui contournent. Chacun sécurise le périmètre de l’autre. C’est aussi dans cet esprit que les organismes de formation spécialisés dans les métiers hospitaliers peuvent intervenir : non pas en concurrence avec la DSI, mais pour garantir l’adoption sur le terrain dans le cadre qu’elle a fixé.

Réduire le Shadow AI en 6 étapes

Un établissement de santé peut réduire le Shadow AI en six étapes : mesurer les usages réels, proposer un outil validé, écrire des règles claires, former par métier, s’appuyer sur des référents et suivre les résultats. L’enjeu n’est pas d’éliminer toute utilisation de l’IA, mais de faire passer les usages de l’IA fantôme vers un cadre de sécurité maîtrisé.

ÉtapeCe qu’on faitPilotePoint d’attention
1. Mesurer les usagesQuestionnaire anonyme auprès des équipes sur les outils utilisés et les tâches concernéesDSI et Direction des soinsL’anonymat est indispensable pour obtenir des réponses honnêtes
2. Proposer un outil validéMettre à disposition une IA générative conforme (hébergement, contrat, sécurité)DSIL’outil doit couvrir les usages les plus fréquents, sinon il ne sera pas adopté
3. Écrire des règles clairesCharte d’usage de l’IA : usages autorisés, interdits, données à ne jamais saisirComité IAUne page lisible vaut mieux qu’un règlement de vingt pages
4. Former par métierSessions adaptées aux cadres, secrétariats, soignants, administratifsDirection des soins, formation continuePartir des tâches réelles de chaque profession
5. Nommer des référentsUn référent IA par pôle ou par serviceDirections métiersLe référent doit être reconnu et disposer de temps
6. Suivre et ajusterIndicateurs d’usage de l’outil validé, retours des équipes, mise à jour de la charteComité IARefaire la mesure des usages au bout de six mois

La première étape est souvent la plus révélatrice. Un questionnaire anonyme bien conçu montre en général que les usages sont plus répandus que prévu, et surtout qu’ils répondent à des besoins légitimes. C’est une base solide pour bâtir l’offre d’outils d’IA et de formation, et pour réduire durablement le Shadow AI.

À noter : la charte d’usage de l’IA est l’outil central de cette démarche. Elle traduit en règles simples ce que la DSI et les métiers ont décidé ensemble, et donne aux professionnels un repère clair sur ce qu’ils peuvent faire.

Le Shadow AI est-il présent dans votre établissement ?

Répondez par oui ou non à ces huit questions, en pensant à la situation actuelle.

  1. Votre établissement met-il à disposition un outil d’IA générative validé par la DSI ?

  2. Existe-t-il une charte ou des règles écrites sur l’usage de l’IA, connues des équipes ?

  3. Les professionnels savent-ils précisément quelles données ne doivent jamais être saisies dans une IA ?

  4. Avez-vous mesuré, même de façon informelle, les usages réels de l’IA dans les services ?

  5. Des formations à l’usage de l’IA adaptées à chaque métier ont-elles été proposées ?

  6. La DSI et la Direction des soins se réunissent-elles sur le sujet de l’IA ?

  7. Des référents IA sont-ils identifiés dans les pôles ou les services ?

  8. Un professionnel qui a un besoin lié à l’IA sait-il à qui s’adresser ?

Se former pour un usage responsable de l’IA à l’hôpital

La formation est le levier qui transforme le Shadow AI, un usage caché, en usage maîtrisé des outils d’IA. L’AI Act demande d’ailleurs aux établissements de développer la maîtrise de l’IA de leur personnel, et la HAS place l’apprentissage en premier dans ses recommandations. Pour être efficace, la formation doit parler le langage de chaque métier.

La Relève Santé propose des formations à l’IA générative conçues pour les professionnels hospitaliers, organisées par métier : IA générative pour cadres et managers hospitaliers, IA générative en secrétariat médical, IA générative dans les fonctions administratives et, pour les équipes de direction, conduire le changement et piloter un projet outillé par l’IA générative. Ces formations s’inscrivent dans le cadre fixé par la DSI de l’établissement.

Formation : utiliser l’IA générative de manière responsable à l’hôpital

Sécurité des données, éthique, cadre professionnel et bons réflexes au quotidien : une formation pour que les équipes utilisent l’IA générative en toute sécurité, en complément des outils validés par votre DSI. En inter ou en intra établissement.

Pour donner aux équipes une alternative concrète dès maintenant, téléchargez aussi notre guide gratuit IA à l’hôpital : 5 prompts pour gagner 10 h par semaine.

Ce qu’il faut retenir

Le Shadow AI désigne l’usage d’outils d’IA par les professionnels en dehors de tout cadre fixé par l’établissement. À l’hôpital, le Shadow AI expose des données sensibles de santé, peut introduire des erreurs dans les écrits et échappe à toute traçabilité et à toute sécurité. Il répond pourtant à un besoin réel : gagner du temps sur des tâches lourdes.

Le bloquer ne suffit pas. Le réduire suppose un co-pilotage entre la DSI, qui fournit des outils sûrs, et les directions métiers, qui organisent les usages et la formation. Charte claire, outil validé, formation par métier et référents forment le socle d’un usage de l’IA à la fois sûr et réellement adopté. Retrouvez l’ensemble de nos formations IA et transformations.

Questions fréquentes sur le Shadow AI

Quelle différence entre Shadow AI et Shadow IT ?

Le Shadow IT désigne l’usage de logiciels ou de services non validés par la DSI. Le Shadow AI en est une forme particulière, centrée sur les outils d’intelligence artificielle. Sa spécificité : ce sont les contenus eux-mêmes, souvent des données sensibles, qui sont confiés à l’outil, et le résultat produit peut être faux.

Un soignant peut-il utiliser ChatGPT au travail ?

Un soignant peut utiliser une IA générative si son établissement l’autorise et dans le cadre qu’il fixe. Il ne doit jamais y saisir de données permettant d’identifier un patient ni d’informations couvertes par le secret médical, et doit vérifier chaque contenu produit, comme le recommande la HAS. Le plus sûr est d’utiliser l’outil validé par la DSI.

Peut-on mettre des données patients dans une IA générative ?

Non, pas dans un outil grand public. Les données de santé doivent être hébergées par un prestataire certifié HDS, dans le cadre d’un contrat avec l’établissement. Seul un outil d’IA générative validé par l’établissement, et explicitement prévu pour cet usage, peut traiter des données patients, dans les conditions définies avec la DSI et le DPO.

Comment détecter le Shadow AI dans un établissement ?

Les outils de sécurité réseau permettent de repérer une partie des connexions aux services d’IA. Mais une grande partie des usages passe par les smartphones personnels et reste invisible. Le moyen le plus fiable est un questionnaire anonyme auprès des équipes, présenté comme une démarche d’amélioration et non comme un contrôle.

Faut-il interdire ChatGPT à l’hôpital ?

Interdire les outils grand public pour les données de santé est indispensable. Interdire toute IA, en revanche, déplace les usages vers les téléphones personnels sans réduire le risque. La démarche la plus efficace combine des règles claires, un outil validé qui répond aux besoins et une formation adaptée à chaque métier.

Qui est responsable en cas d’erreur liée à une IA ?

L’IA reste un outil d’aide. Le professionnel qui utilise un contenu produit par une IA demeure responsable de ce qu’il valide, signe ou transmet. L’établissement, de son côté, doit encadrer les usages et former son personnel. C’est pourquoi la HAS insiste sur la vérification systématique de chaque contenu.

Newsletter

Restez dans la boucle.

Les actus du terrain et nos ressources, directement par email. Pas de spam, désinscription en un clic.

Cookies

Avec votre accord, nous mesurons l'audience (Google Analytics) et l'efficacité de nos publicités (Google Ads, LinkedIn). Modifiable à tout moment via « Gérer mes cookies » en bas de page. En savoir plus

Mesure d'audienceGoogle Analytics : pages consultées, boutons cliqués, provenance des visites.
PublicitéGoogle Ads et LinkedIn : mesurer les demandes issues de nos annonces et vous les proposer à nouveau.
Statistiques anonymesCompteur de visites sans cookie, hébergé en France pour La Relève Santé. M'opposer
Sans accord