L’intelligence artificielle (IA) est largement utilisée dans le quotidien des chercheurs. L’Assistance publique-hôpitaux de Paris (AP-HP) propose ainsi des recommandations sur la bonne utilisation des systèmes d’IA en recherche médicale pour la rédaction d’articles scientifiques.
Comment encadrer l’usage de l’IA pour les écrits scientifiques ? À l’Assistance publique-hôpitaux de Paris (AP-HP), l’office d’intégrité scientifique, mis en place en 2022, a rédigé une charte en vue d’une utilisation responsable de l’intelligence artificielle (IA) générative (une technologie qui crée du contenu nouveau, articles, images, sons, à partir de grandes quantités de données) dans la rédaction d’articles scientifiques. Cette note vise à « encadrer l’usage des outils d’IA générative et à rappeler les principes qu’il est essentiel de respecter pour un usage responsable« , précise l’AP-HP. « Ils s’appliquent à la préparation des manuscrits et permettront de préserver, lors de cette étape importante, l’éthique, l’intégrité scientifique, la transparence, la confidentialité et la fiabilité de votre travail scientifique« .
Selon ce document, l’IA générative peut accélérer l’écriture et la traduction, mais elle ne doit jamais remplacer le jugement, l’éthique et la responsabilité humaine des auteurs. Il rappelle ainsi que « l’opérateur humain (le chercheur) est toujours le seul responsable du résultat final » et ne doit jamais « utiliser cet outil pour prendre des décisions vitales à sa place ».
Responsabilité, sécurité des données et intégrité scientifique
Plusieurs volets sont explorés, à commencer par celui de la responsabilité des auteurs. « L’IA est un outil : votre responsabilité reste donc pleinement engagée dans ce que vous produisez, quel que soit le rôle qu’y aura joué l’IA. Ce principe, évident, est contraignant : il faudra vous assurer vous-même que l’IA n’a pas fabriqué, falsifié ou plagié les contenus qu’elle vous a proposés. Ceci qui veut dire que vous devez, plus que jamais, garder une approche critique vis-à-vis de ce que vous aurez élaboré avec son appui. Vérifier l’exactitude des références utilisées, – et leur fiabilité. De même pour les citations. De plus, l’IA ne doit jamais remplacer votre analyse ou jugement scientifique. Son rôle doit rester strictement auxiliaire : elle peut faciliter la structuration ou la reformulation de certains passages, mais jamais interpréter des résultats à votre place« .
L’AP-HP pointe également l’importance de la sécurité des données. « Ne transmettez jamais de données de patients nominatives, ni pseudonymisées, ainsi que des contenus relevant d’une propriété intellectuelle non encore protégée. Les modèles d’IA générative utilisent les données utilisateurs pour répondre et progresser, il faut donc veiller à ne fournir aucune donnée qui pourrait conduire à la rupture de la confidentialité médicale« , précise notamment le texte.
Enfin, cette note évoque la question de l’intégrité scientifique. « Comme pour tous les outils, vous devrez faire preuve d’un maximum de transparence pour décrire dans le manuscrit la manière dont vous avez utilisé l’IA et dans quelle mesure (traduction, statistiques, rédaction étendue, relecture simple…) N’utilisez pas d’IA générative de manière substantielle dans des activités sensibles qui pourraient avoir un impact sur d’autres chercheurs ou organisations« .
À retenir
Si l'IA générative est une puissante machine à accélérer la science, son utilisation dans la rédaction médicale scientifique doit être perçue comme la manipulation d'un instrument chirurgical : l'opérateur humain (le chercheur) est toujours le seul responsable du résultat final, doit s'assurer que l'instrument est stérile (confidentialité) et n'utilisera jamais cet outil pour prendre des décisions vitales à sa place (évaluation par les pairs).
Pour en savoir plus :
