The pros and cons of using generative AI for scientific writing

Les avantages et les inconvénients de l’utilisation de l’IA générative pour la rédaction d’articles scientifiques

Un résumé réalisé par le Dr Isabelle Aknin (linkedin.com/in/dr-i-aknin-armd), à partir de la présentation du Pr Russel Van Gelder (linkedin.com/in/russell-van-gelder-66119983) Professor and Chair of Ophthalmology at University of Washington.

Russel Van Gelder a parlé de l’usage des LLM pour la rédaction d’articles scientifiques.

1. Applications positives des LLM pour la rédaction d’articles scientifiques

• Les LLM (Large Language Models) comme ChatGPT (pris comme exemple, mais ce n’est pas le seul) améliorent la qualité des manuscrits scientifiques en détectant fautes de grammaire, les erreurs typographiques et formulations ambiguës.
• Ils suggèrent des références pertinentes et aident à la revue de littérature, mais attention, il y a un risque de fausses citations.
• Les LLM jouent un rôle de « relecteur » en identifiant biais, faiblesses méthodologiques ou lacunes d’interprétation, et peuvent proposer des formats de présentation de données adaptés aux contraintes de publication. Cependant l’utilisation d’intelligence artificielle et l’orateur pour les relectures.

2. Cas d’usage nécessitant de la prudence

• Les LLM peuvent recommander des analyses statistiques ou reformuler des textes pour améliorer la clarté, mais il est crucial de vérifier la pertinence de ces suggestions pour chaque contexte spécifique. Pas de confiance aveugle !
• Une relecture humaine reste indispensable pour éviter les erreurs méthodologiques ou les dénaturations du propos, surtout pour les auteurs dans la langue maternelle n’est pas la langue de publication.
• Les auteurs doivent systématiquement valider et comprendre les contenus générés par l’IA pour garantir la fidélité au message scientifique.

3. Usages inappropriés et risques éthiques

• Générer des sections entières de manuscrits, inventer des références ou soumettre du contenu IA sans regard critique est contraire à l’éthique et peut mener à la publication de résultats erronés.
• Des cas d’abus documentés (articles rétractés, critiques non relues par des humains) ont déjà entraîné des sanctions professionnelles et une perte de confiance dans le processus éditorial par le public.

4. Détection et politiques d’encadrement

• La détection des textes générés par IA reste difficile : aucun outil n’est infaillible, et la technologie évolue rapidement, créant un « jeu du chat et de la souris ».
• Les éditeurs exigent désormais la déclaration de toute utilisation d’IA, et ils limitent son usage à l’amélioration du langage. Ils imposent une supervision humaine et interdisent de créditer l’IA comme auteur.
• Transparence, surveillance et respect des politiques éditoriales sont essentiels pour préserver l’intégrité scientifique.

5. Conclusion

• Les LLM transforment la rédaction scientifique en rendant la communication plus claire et efficace, à condition de les utiliser de façon responsable et transparente.
• L’abus ou le manque de regard critique nuit à la crédibilité de la science et expose à des sanctions.
• L’avenir de l’édition scientifique passe par une utilisation éthique, la vigilance et la transparence dans l’intégration des outils d’IA.

Take-home message

Les LLM sont des outils puissants pour la rédaction scientifique, mais leur usage doit rester transparent, supervisé et éthique afin de préserver la confiance et l’intégrité de la recherche.

Rédigé après traduction partielle par une IA  🤭