Mardi, 18h40. Au secrétariat d’un service de médecine, il reste six courriers de sortie à mettre en forme. La secrétaire médicale ouvre ChatGPT sur son téléphone, colle le compte rendu dicté par le médecin et demande une version « claire et professionnelle ». En trente secondes, le courrier est propre. Elle partira à l’heure. Personne à la DSI n’en saura rien, et le compte rendu, avec le nom du patient, son diagnostic et son traitement, vient d’être envoyé à un service grand public hébergé hors de l’Union européenne.
C’est cela, le Shadow AI : l’usage d’outils d’IA par les professionnels, en dehors de tout cadre fixé par l’établissement. Une IA fantôme, invisible pour la sécurité de l’hôpital. Il ne naît presque jamais d’une mauvaise intention. Il naît d’un besoin métier réel, auquel personne n’a encore apporté de réponse encadrée.
Cet article s’adresse aux DSI hospitalières, aux directions des soins et aux cadres. Il explique ce qu’est le Shadow AI en établissement de santé, les risques du Shadow AI pour la sécurité des données sensibles, le cadre réglementaire, puis montre pourquoi le bloquer ne suffit pas et comment DSI et métiers peuvent le réduire ensemble.
Qu’est-ce que l’IA fantôme, ou Shadow IA ?
Le Shadow AI, ou Shadow IA en français, désigne l’utilisation d’outils d’intelligence artificielle par des salariés sans validation ni contrôle de leur direction des systèmes d’information. Il s’agit le plus souvent d’outils d’IA générative grand public, comme ChatGPT, Gemini, Copilot ou des extensions de navigateur, utilisés avec un compte personnel. On parle aussi d’« IA fantôme » : des outils d’IA et des applications utilisés dans l’ombre, sans gouvernance.
Le phénomène est massif dans tous les secteurs. Selon le Work Trend Index publié par Microsoft et LinkedIn en 2024, 75 % des travailleurs du savoir utilisent l’IA au travail, et 78 % d’entre eux apportent leurs propres outils, sans attendre que leur employeur leur en fournisse.
Source : Microsoft et LinkedIn, 2024 Work Trend Index, 8 mai 2024
Shadow AI et Shadow IT : ce qui change
Le Shadow AI est l’héritier du Shadow IT, c’est-à-dire l’usage de logiciels ou de services non validés par la DSI : messagerie instantanée personnelle pour coordonner une équipe, service de partage de fichiers gratuit, tableur hébergé en ligne. Les DSI connaissent bien ce phénomène. Le Shadow AI pose pourtant des risques nouveaux pour la sécurité des données.
| Critère | Shadow IT | Shadow AI |
|---|---|---|
| Ce qui est utilisé | Un logiciel ou un service en ligne non validé | Un outil d’IA générative grand public, souvent sur compte personnel |
| Ce qui sort de l’établissement | Des fichiers stockés ou partagés | Le contenu même des requêtes : textes, comptes rendus, données patients |
| Fiabilité du résultat | L’outil fait ce qu’on lui demande | L’IA peut produire une réponse fausse mais crédible (hallucination) |
| Réutilisation des données | Stockage chez un tiers | Selon les conditions d’utilisation, les données peuvent servir à entraîner le modèle |
| Visibilité pour la DSI | Repérable par l’inventaire des applications | Très difficile à repérer, notamment sur smartphone personnel |
| Facilité d’accès | Installation ou inscription nécessaire | Une page web ou une application gratuite suffit |
La différence décisive tient à la nature de ce qui circule. Avec le Shadow IT, on stocke des fichiers ailleurs. Avec le Shadow AI, on confie le contenu lui-même à un modèle, pour qu’il le lise, le transforme et produise un nouveau texte. À l’hôpital, ce contenu est très souvent une donnée de santé, parmi les données sensibles les plus protégées.
À quoi ressemble le Shadow AI dans un établissement de santé
Dans un établissement de santé, le Shadow AI prend la forme d’usages très concrets, liés au quotidien de chaque métier : reformuler un courrier, résumer un compte rendu, préparer une réunion, chercher une information médicale. Ces usages du Shadow AI répondent à une pression réelle sur le temps et la charge de travail.
Des usages différents selon les métiers
| Métier | Usage typique non encadré | Donnée exposée | Niveau de risque |
|---|---|---|---|
| Secrétariat médical | Mettre en forme un courrier de sortie ou un compte rendu | Identité, diagnostic, traitement du patient | Élevé |
| Cadre de santé | Rédiger un planning, résumer un compte rendu de réunion, préparer un entretien annuel | Données RH, situations individuelles d’agents | Moyen à élevé |
| Soignant | Vérifier une posologie, comprendre une pathologie, reformuler une transmission | Données cliniques, parfois identifiantes | Élevé (erreur clinique possible) |
| Médecin | Aide au diagnostic différentiel, rédaction de comptes rendus | Données cliniques complètes | Élevé |
| Fonctions administratives | Rédiger une note, un appel d’offres, un dossier de subvention | Données internes, financières, contractuelles | Moyen |
| Direction | Préparer une présentation, synthétiser un rapport | Données stratégiques de l’établissement | Moyen |
Ces usages ne sont pas tous équivalents. Demander à une IA de reformuler une note de service sans aucune donnée personnelle ne pose pas les mêmes questions que lui confier un compte rendu d’hospitalisation. C’est précisément cette nuance entre usage sans risque et usage à risque que les professionnels ne maîtrisent pas toujours, faute d’avoir été formés à l’utilisation des outils d’IA.
L’ampleur du phénomène dans la santé
En France, la mesure la plus précise vient du GCS HOURAA, qui réunit les quatre CHU d’Auvergne-Rhône-Alpes : Clermont-Ferrand, Grenoble, Lyon et Saint-Étienne. Son enquête sur les usages de l’IA, publiée en juillet 2026, a recueilli les réponses de 2 509 professionnels. 46,1 % d’entre eux utilisent déjà l’IA à titre individuel, surtout l’IA générative, et plus de 60 % de ces utilisateurs s’en servent au moins une fois par semaine.
Le point le plus parlant pour une DSI : la majorité des utilisateurs passent par une licence personnelle, gratuite ou payante. L’outil mis à disposition par le CHU reste minoritaire. C’est la définition même de l’IA fantôme.
| Indicateur (enquête GCS HOURAA, 2026) | Résultat |
|---|---|
| Professionnels qui utilisent l’IA à titre individuel | 46,1 % |
| Utilisateurs qui s’en servent chaque jour | 31 % |
| Répondants qui connaissent l’existence de la charte IA de leur CHU | 7,6 % |
| Répondants qui se disent avancés ou experts | 17,7 % |
| Frein cité : craintes éthiques et juridiques | 51,5 % |
| Frein cité : manque de connaissances | 50,1 % |
| Répondants impliqués dans un projet d’IA de l’établissement | 3,5 % |
Ces chiffres dessinent un décalage net : l’IA est déjà entrée dans le quotidien d’un professionnel sur deux, alors que seuls 3,5 % participent à un projet porté par l’établissement. Et quand une charte IA existe, elle reste très largement méconnue. Le problème n’est donc pas seulement l’absence de règles, mais leur diffusion et la formation des équipes. Une limite à garder en tête : les répondants étaient volontaires, environ 5 % des agents, ce qui surreprésente probablement les plus intéressés par l’IA.
Source : GCS HOURAA, enquête sur les usages de l’IA dans les 4 CHU d’Auvergne-Rhône-Alpes, juillet 2026
À l’international, le rapport Netskope Threat Labs consacré au secteur de la santé, publié en mai 2025, indique que des applications d’IA générative sont utilisées dans 88 % des organisations de santé étudiées. Il relève aussi que 43 % des professionnels de santé utilisent encore un compte personnel d’IA générative au travail, et que les violations de politique de données liées à l’IA générative concernent souvent des données réglementées, comme les dossiers patients.
Source : Netskope Threat Labs, Threat Labs Report Healthcare 2025 (données mondiales), mai 2025
Côté médecins, une enquête publiée en 2024 dans le BMJ Health & Care Informatics auprès de 1 006 médecins généralistes britanniques montre qu’un sur cinq utilise déjà une IA générative dans sa pratique clinique, notamment pour la documentation et le diagnostic différentiel. La Haute Autorité de santé elle-même constate, dans sa communication d’octobre 2025, que « des mauvaises pratiques sont aussi observées comme la transmission d’informations confidentielles ».
Pourquoi les professionnels de santé y ont recours
Le Shadow AI n’est pas un problème de discipline. C’est d’abord le symptôme d’un besoin auquel les outils de l’établissement ne répondent pas encore. Les professionnels de santé y recourent pour des raisons simples :
- la charge administrative pèse lourd et l’IA fait gagner un temps réel sur les écrits
- l’outil est gratuit, immédiat et ne demande aucune installation
- l’établissement ne propose pas encore d’outil validé, ou pas pour leur usage
- personne ne leur a expliqué clairement ce qui est autorisé et ce qui ne l’est pas
- les collègues le font déjà, ce qui banalise la pratique
Tant que ces raisons existent, le Shadow AI persiste, quels que soient les outils de sécurité en place. C’est le point de départ de toute stratégie efficace : partir du besoin métier, pas seulement du risque technique.
Les risques du Shadow AI pour un hôpital
Le Shadow AI fait courir à un établissement de santé des risques de cinq ordres : la fuite de données de santé et la violation du secret professionnel, les erreurs produites par l’IA, la perte de traçabilité, l’exposition aux menaces de cybersécurité et la mise en cause de la responsabilité de l’établissement.
| Risque | Ce qui se passe concrètement | Conséquence pour l’établissement |
|---|---|---|
| Données de santé exposées | Des données patients sont saisies dans un outil grand public, non certifié hébergeur de données de santé (HDS), souvent hors UE | Manquement au RGPD et aux règles d’hébergement des données de santé |
| Secret professionnel | Des informations couvertes par le secret médical sont transmises à un tiers non autorisé | Mise en cause possible au titre du secret professionnel |
| Erreurs et hallucinations | L’IA invente une référence, se trompe de dose, d’unité ou de nom de médicament | Erreur dans un écrit, voire dans une prise en charge |
| Perte de traçabilité | Personne ne sait quel contenu a été produit ou modifié par une IA | Impossible de reconstituer une décision ou un écrit en cas d’incident |
| Cybersécurité | Comptes personnels, extensions de navigateur non contrôlées, partage de documents internes | Porte d’entrée supplémentaire pour les attaques, dans un secteur déjà très ciblé |
| Responsabilité | Un document ou une décision s’appuie sur une sortie d’IA non vérifiée | Responsabilité du professionnel et de l’établissement engagée |
Le secteur de la santé est déjà sous forte pression cyber. Le CERT Santé a recensé 764 incidents de sécurité déclarés par les structures de santé en 2025, et désigne la compromission de comptes comme la menace la plus importante de l’année. Multiplier les comptes personnels, les applications et les outils d’IA non maîtrisés augmente encore les risques.
À noter : l’exemple le plus cité du Shadow AI vient de l’industrie. En 2023, des ingénieurs de Samsung ont collé du code source confidentiel dans ChatGPT, ce qui a conduit l’entreprise à restreindre l’usage des IA génératives. À l’hôpital, l’équivalent n’est pas du code, mais un dossier patient.
Ce que dit le cadre réglementaire sur l’IA en santé
Le Shadow AI se heurte à plusieurs textes : le code de la santé publique sur le secret et l’hébergement des données de santé, le RGPD, et le règlement européen sur l’intelligence artificielle (AI Act), qui impose aux organisations de former leurs équipes. La HAS, la CNIL et l’ANSSI ont publié des repères pratiques.
Données de santé, hébergement et secret professionnel
L’article L1110-4 du code de la santé publique garantit au patient le respect de sa vie privée et du secret des informations le concernant. L’article L1111-8 impose que toute personne qui héberge des données de santé pour le compte d’un établissement soit certifiée hébergeur de données de santé (HDS). Le référentiel HDS, révisé en 2024, exige notamment que les données soient hébergées dans l’Espace économique européen.
Coller un compte rendu dans un outil d’IA grand public avec un compte personnel revient, en pratique, à confier des données de santé à un prestataire qui n’a ni contrat avec l’établissement ni certification HDS. C’est la raison principale pour laquelle les données patients, et plus largement les informations sensibles, ne doivent jamais être saisies dans ces outils d’IA.
L’AI Act et l’obligation de maîtrise de l’IA
Le règlement européen sur l’intelligence artificielle (règlement 2024/1689) contient une disposition très concrète pour les établissements : son article 4, applicable depuis le 2 février 2025, demande aux organisations qui déploient des systèmes d’IA de prendre des mesures pour assurer une maîtrise suffisante de l’IA par leur personnel, en tenant compte de leurs connaissances et du contexte d’utilisation. L’omnibus numérique adopté en 2026 a assoupli la formulation de cette obligation, sans en supprimer le principe : former les équipes à l’IA reste attendu.
Le même règlement classe parmi les systèmes à haut risque de nombreux dispositifs utilisés en santé, avec des obligations renforcées dont le calendrier a été repoussé à 2027 et 2028. Pour le détail du cadre juridique (RGPD, HDS, AI Act, espace européen des données de santé), consultez notre article sur l’intelligence artificielle à l’hôpital.
Source : Commission européenne, AI Act Service Desk, article 4 « Maîtrise de l’IA »
Les repères de la HAS, de la CNIL et de l’ANSSI
En octobre 2025, la HAS a publié un guide intitulé « Premières clefs d’usage de l’IA générative en santé ». Il résume les bonnes pratiques en quatre verbes, sous l’acronyme A.V.E.C. :
- Apprendre : s’approprier l’outil et se former, notamment aux règles de confidentialité des données de santé
- Vérifier : contrôler chaque contenu produit, ne jamais partager d’informations confidentielles, traiter chaque réponse comme une proposition qui peut contenir des erreurs
- Estimer : évaluer dans le temps la qualité de l’outil et son adéquation aux besoins
- Communiquer : échanger avec ses pairs et les patients, en toute transparence sur les usages
Le message de la HAS est clair : l’IA générative en santé, oui, mais avec un usage « conscient, supervisé et raisonné ».
Source : HAS, « Premières clefs d’usage de l’IA générative en santé », 30 octobre 2025
La CNIL a de son côté publié en 2024 des recommandations pour déployer une IA générative dans une organisation : partir d’un besoin concret, établir une liste des usages autorisés et interdits, privilégier des solutions sécurisées, former les utilisateurs et associer dès le départ le délégué à la protection des données, le responsable de la sécurité des systèmes d’information et les métiers. L’ANSSI a publié la même année 35 recommandations de sécurité pour les systèmes d’IA générative, utiles pour cadrer un outil interne.
Pourquoi bloquer le Shadow AI ne suffit pas
Bloquer l’accès aux outils d’IA générative depuis le réseau de l’hôpital réduit l’exposition visible au Shadow AI, mais ne fait pas disparaître le besoin. Les usages se déplacent vers le smartphone personnel, hors de toute visibilité. Une formation purement technique ne suffit pas non plus : elle explique l’outil, pas son usage dans le métier.
Le blocage déplace l’usage, il ne le supprime pas
Le réflexe le plus naturel pour une DSI consiste à filtrer les sites d’IA générative. C’est une mesure de sécurité légitime, mais elle a un effet pervers. La secrétaire médicale de l’introduction n’arrête pas d’utiliser l’IA : elle passe par son téléphone, avec son compte personnel, sur le réseau mobile. Le risque devient invisible pour l’établissement : le Shadow AI continue, hors de toute sécurité.
Le Shadow AI recule quand les professionnels disposent d’une alternative crédible : un outil d’IA validé, une gouvernance lisible, des règles compréhensibles et des compétences pour s’en servir. Plusieurs établissements français s’engagent dans cette voie. Le CHU de Montpellier développe ainsi un assistant IA interne, avec données hébergées localement et vérification humaine systématique, et le CHU de Rouen a déployé une plateforme d’IA générative hébergée en France pour ses professionnels.
Formation technique ou formation à l’usage métier : deux besoins différents
Beaucoup d’établissements confient la formation à l’IA à la DSI ou à un prestataire informatique, avec un programme identique pour tous. C’est utile pour la culture générale, mais cela crée rarement de l’usage réel chez un cadre de santé ou une secrétaire médicale. Leurs besoins ne sont pas ceux d’un profil technique.
| Dimension | Formation technique (DSI, prestataire IT) | Formation à l’usage métier |
|---|---|---|
| Objectif | Comprendre l’outil, l’infrastructure, la sécurité | Savoir utiliser l’IA dans ses tâches réelles, en sécurité |
| Contenu | Fonctionnement des modèles, paramétrage, architecture | Cas concrets du métier, prompts adaptés, données à ne jamais saisir |
| Public | Homogène, souvent mixte soignants et informaticiens | Par métier : cadres, secrétariats, soignants, administratifs |
| Résultat typique | Connaissances générales, faible usage ensuite | Usages adoptés, encadrés, mesurables |
| Effet sur le Shadow AI | Limité si aucun usage concret n’est proposé | Réduction, car l’usage autorisé répond au besoin |
Les deux approches sont complémentaires. La DSI garantit un outil sûr. La formation métier garantit que cet outil est réellement utilisé, et utilisé correctement. Sans la seconde, la première reste une coquille vide, et les professionnels retournent à leurs outils personnels, donc au Shadow AI.
DSI et Direction des soins : co-piloter l’IA plutôt que s’opposer
Réduire le Shadow AI à l’hôpital demande un co-pilotage : la DSI porte la sécurité et les outils, la Direction des soins et les directions métiers portent les usages et l’adoption. Ni l’une ni l’autre ne peut réussir seule face au Shadow AI. Une gouvernance commune de l’IA permet d’avancer sans se marcher sur les pieds.
Ce qui revient à la DSI
La DSI est la garante du socle technique et de la sécurité. Son rôle dans la lutte contre le Shadow AI comprend :
- choisir ou construire des outils d’IA générative conformes (hébergement HDS, contrat, localisation des données)
- sécuriser les accès, journaliser les usages, contrôler les extensions et les connecteurs
- définir avec le DPO les règles sur les données autorisées dans chaque outil
- assurer la veille sur les menaces et les recommandations de l’ANSSI et du CERT Santé
Ce qui revient aux directions métiers et à la Direction des soins
Les directions métiers connaissent les besoins réels et les situations de travail. Leur rôle :
- identifier les tâches où l’IA apporte un gain réel, métier par métier
- traduire les règles de sécurité en consignes concrètes pour les équipes
- organiser la formation à l’usage, avec des cas propres à chaque profession
- désigner des référents IA dans les services, relais entre terrain et DSI
- faire remonter les usages émergents avant qu’ils deviennent du Shadow AI
Une gouvernance commune de l’IA générative
La forme la plus simple est un comité IA réunissant la DSI, le DPO, le RSSI, la Direction des soins, la direction qualité et des représentants des métiers. Ce comité de gouvernance de l’IA valide les outils, évalue les risques, arbitre les usages, rédige et met à jour la charte d’usage de l’IA, et suit les indicateurs d’adoption.
Dans cette organisation, la DSI n’est plus celle qui interdit, et les métiers ne sont plus ceux qui contournent. Chacun sécurise le périmètre de l’autre. C’est aussi dans cet esprit que les organismes de formation spécialisés dans les métiers hospitaliers peuvent intervenir : non pas en concurrence avec la DSI, mais pour garantir l’adoption sur le terrain dans le cadre qu’elle a fixé.
Réduire le Shadow AI en 6 étapes
Un établissement de santé peut réduire le Shadow AI en six étapes : mesurer les usages réels, proposer un outil validé, écrire des règles claires, former par métier, s’appuyer sur des référents et suivre les résultats. L’enjeu n’est pas d’éliminer toute utilisation de l’IA, mais de faire passer les usages de l’IA fantôme vers un cadre de sécurité maîtrisé.
| Étape | Ce qu’on fait | Pilote | Point d’attention |
|---|---|---|---|
| 1. Mesurer les usages | Questionnaire anonyme auprès des équipes sur les outils utilisés et les tâches concernées | DSI et Direction des soins | L’anonymat est indispensable pour obtenir des réponses honnêtes |
| 2. Proposer un outil validé | Mettre à disposition une IA générative conforme (hébergement, contrat, sécurité) | DSI | L’outil doit couvrir les usages les plus fréquents, sinon il ne sera pas adopté |
| 3. Écrire des règles claires | Charte d’usage de l’IA : usages autorisés, interdits, données à ne jamais saisir | Comité IA | Une page lisible vaut mieux qu’un règlement de vingt pages |
| 4. Former par métier | Sessions adaptées aux cadres, secrétariats, soignants, administratifs | Direction des soins, formation continue | Partir des tâches réelles de chaque profession |
| 5. Nommer des référents | Un référent IA par pôle ou par service | Directions métiers | Le référent doit être reconnu et disposer de temps |
| 6. Suivre et ajuster | Indicateurs d’usage de l’outil validé, retours des équipes, mise à jour de la charte | Comité IA | Refaire la mesure des usages au bout de six mois |
La première étape est souvent la plus révélatrice. Un questionnaire anonyme bien conçu montre en général que les usages sont plus répandus que prévu, et surtout qu’ils répondent à des besoins légitimes. C’est une base solide pour bâtir l’offre d’outils d’IA et de formation, et pour réduire durablement le Shadow AI.
À noter : la charte d’usage de l’IA est l’outil central de cette démarche. Elle traduit en règles simples ce que la DSI et les métiers ont décidé ensemble, et donne aux professionnels un repère clair sur ce qu’ils peuvent faire.
Le Shadow AI est-il présent dans votre établissement ?
Répondez par oui ou non à ces huit questions, en pensant à la situation actuelle.
Votre établissement met-il à disposition un outil d’IA générative validé par la DSI ?
Existe-t-il une charte ou des règles écrites sur l’usage de l’IA, connues des équipes ?
Les professionnels savent-ils précisément quelles données ne doivent jamais être saisies dans une IA ?
Avez-vous mesuré, même de façon informelle, les usages réels de l’IA dans les services ?
Des formations à l’usage de l’IA adaptées à chaque métier ont-elles été proposées ?
La DSI et la Direction des soins se réunissent-elles sur le sujet de l’IA ?
Des référents IA sont-ils identifiés dans les pôles ou les services ?
Un professionnel qui a un besoin lié à l’IA sait-il à qui s’adresser ?
Se former pour un usage responsable de l’IA à l’hôpital
La formation est le levier qui transforme le Shadow AI, un usage caché, en usage maîtrisé des outils d’IA. L’AI Act demande d’ailleurs aux établissements de développer la maîtrise de l’IA de leur personnel, et la HAS place l’apprentissage en premier dans ses recommandations. Pour être efficace, la formation doit parler le langage de chaque métier.
La Relève Santé propose des formations à l’IA générative conçues pour les professionnels hospitaliers, organisées par métier : IA générative pour cadres et managers hospitaliers, IA générative en secrétariat médical, IA générative dans les fonctions administratives et, pour les équipes de direction, conduire le changement et piloter un projet outillé par l’IA générative. Ces formations s’inscrivent dans le cadre fixé par la DSI de l’établissement.
Formation : utiliser l’IA générative de manière responsable à l’hôpital
Sécurité des données, éthique, cadre professionnel et bons réflexes au quotidien : une formation pour que les équipes utilisent l’IA générative en toute sécurité, en complément des outils validés par votre DSI. En inter ou en intra établissement.
Pour donner aux équipes une alternative concrète dès maintenant, téléchargez aussi notre guide gratuit IA à l’hôpital : 5 prompts pour gagner 10 h par semaine.
Ce qu’il faut retenir
Le Shadow AI désigne l’usage d’outils d’IA par les professionnels en dehors de tout cadre fixé par l’établissement. À l’hôpital, le Shadow AI expose des données sensibles de santé, peut introduire des erreurs dans les écrits et échappe à toute traçabilité et à toute sécurité. Il répond pourtant à un besoin réel : gagner du temps sur des tâches lourdes.
Le bloquer ne suffit pas. Le réduire suppose un co-pilotage entre la DSI, qui fournit des outils sûrs, et les directions métiers, qui organisent les usages et la formation. Charte claire, outil validé, formation par métier et référents forment le socle d’un usage de l’IA à la fois sûr et réellement adopté. Retrouvez l’ensemble de nos formations IA et transformations.
Questions fréquentes sur le Shadow AI
Quelle différence entre Shadow AI et Shadow IT ?
Le Shadow IT désigne l’usage de logiciels ou de services non validés par la DSI. Le Shadow AI en est une forme particulière, centrée sur les outils d’intelligence artificielle. Sa spécificité : ce sont les contenus eux-mêmes, souvent des données sensibles, qui sont confiés à l’outil, et le résultat produit peut être faux.
Un soignant peut-il utiliser ChatGPT au travail ?
Un soignant peut utiliser une IA générative si son établissement l’autorise et dans le cadre qu’il fixe. Il ne doit jamais y saisir de données permettant d’identifier un patient ni d’informations couvertes par le secret médical, et doit vérifier chaque contenu produit, comme le recommande la HAS. Le plus sûr est d’utiliser l’outil validé par la DSI.
Peut-on mettre des données patients dans une IA générative ?
Non, pas dans un outil grand public. Les données de santé doivent être hébergées par un prestataire certifié HDS, dans le cadre d’un contrat avec l’établissement. Seul un outil d’IA générative validé par l’établissement, et explicitement prévu pour cet usage, peut traiter des données patients, dans les conditions définies avec la DSI et le DPO.
Comment détecter le Shadow AI dans un établissement ?
Les outils de sécurité réseau permettent de repérer une partie des connexions aux services d’IA. Mais une grande partie des usages passe par les smartphones personnels et reste invisible. Le moyen le plus fiable est un questionnaire anonyme auprès des équipes, présenté comme une démarche d’amélioration et non comme un contrôle.
Faut-il interdire ChatGPT à l’hôpital ?
Interdire les outils grand public pour les données de santé est indispensable. Interdire toute IA, en revanche, déplace les usages vers les téléphones personnels sans réduire le risque. La démarche la plus efficace combine des règles claires, un outil validé qui répond aux besoins et une formation adaptée à chaque métier.
Qui est responsable en cas d’erreur liée à une IA ?
L’IA reste un outil d’aide. Le professionnel qui utilise un contenu produit par une IA demeure responsable de ce qu’il valide, signe ou transmet. L’établissement, de son côté, doit encadrer les usages et former son personnel. C’est pourquoi la HAS insiste sur la vérification systématique de chaque contenu.