Le cerveau humain est doté de 80 milliards de neurones. ChatGPT en a environ cinq fois plus. Pour Massih-Reza Amini, chercheur sur l’apprentissage automatique des machines comme les intelligences artificielles à l’Université de Grenoble, c’est « une machine formidable ». La capacité de ChatGPT à intégrer une quantité phénoménale d’informations éveille un grand intérêt dans des domaines circonscrits. Benjamin Piwowarski, spécialisé dans l’accès à l’information et dans le traitement du langage naturel au CNRS et à l’Université de la Sorbonne, souligne lui aussi la prouesse technologique que constitue ChatGPT, tout en confiant ne pas avoir la capacité d’entraîner des modèles aussi puissants.
Au-delà de la curiosité qu’il attise, ChatGPT, en tant qu’outil, constitue une aide à la recherche pour certaines disciplines. Benjamin Piwowarski donne l’exemple de son domaine, la « data science », dont l’un des enjeux principaux est la production de données d’apprentissages pour des machines. Dans son cas, l’utilisation des connaissances et des associations statistiques présentes dans ChatGPT s’est révélée être un moyen de générer des données et rendre plus performants des modèles sur lesquels il travaille. Mais il envisage aussi d’autres utilisations du programme, comme l’amélioration de la formulation des phrases écrites par l’homme : « si c’est mieux dit avec ChatGPT, c’est plutôt positif. »
Comme le résume Catherine Tessier, chercheuse et membre du Comité national pilote d’éthique du numérique, « De tels outils peuvent certainement être utiles pour “aider” à la rédaction de textes ou à la conception de programmes », mais seulement « à la condition expresse que les résultats produits soient vérifiés en profondeur par l’utilisateur. »
Des questions éthiques sérieuses dans un domaine réglementé
« Les chercheurs mal intentionnés ont un outil en or pour produire de fausses données » alerte Caroline Strube, chercheuse à l’Université d’Aix-Marseille et Déléguée Scientifique à la Mission à l’Intégrité Scientifique du CNRS. ChatGPT est devenu une préoccupation pour le respect des règles déontologiques de la recherche. Publier un article dans une revue scientifique implique de franchir toute une série d’étapes indispensables. La traçabilité des données produites et utilisées est « une exigence primordiale de la recherche » comme l’explique Christophe Traïni, chercheur à Sciences Po Aix dans les domaines de la sociologie du militantisme et des mobilisations collectives. Cette faille est justement reprochée à ChatGPT qui multiplie les contresens et ne cite pas ses sources. L’article est ensuite soumis à un comité de relecture chargé d’évaluer le respect des méthodes scientifiques. S’il est en principe très vigilant, il n’est pourtant pas infaillible. D’ailleurs, des articles créés de toute pièce par le programme ont déjà passé ce stade, « ce qui est préoccupant » indique Caroline Strube.
Mais c’est avant tout parce que ChatGPT n’est pas une personne morale qu’on ne peut pas lui octroyer le statut d’auteur. Il n’est pas non plus envisageable qu’un « programme, donc une chose » soit « considérée comme (co)auteur » ajoute Catherine Tessier.
Chat GPT, entre vrais enjeux et emballement médiatique
Depuis son lancement, ChatGPT cristallise la peur ancienne que les hommes ont d’être remplacés. À l’heure actuelle, il ne représente pas une menace pour la recherche. Pour Benjamin Piwowarski, il est « un outil comme un autre, au même titre que le correcteur orthographique. » Ce n’est d’ailleurs pas la première fois qu’un emballement médiatique est construit à partir d’une avancée scientifique.
Pour le moment, ChatGPT a tout au plus déclenché un débat nécessaire visant à réaffirmer que la recherche est d’abord une profession encadrée, qui ne peut être détrônée par les dernières innovations technologiques en vogue. D’autant plus qu’il reste dépendant des données qu’on lui a fournies et « incapable d’avoir de l’intuition » ou de produire un raisonnement original, explique Massih-Reza Amini. Pas de risque donc que le programme ne prenne le dessus sur le chercheur et encore moins sur l’homme, même si, pour Catherine Tessier, il est nécessaire de mener « une réflexion éthique approfondie » et une « sensibilisation dès le plus jeune âge à l’esprit critique, à l’identification des sources, et à la notion de « vérité » bien malmenée depuis plusieurs années. »
Jade Mascaret et Emma Riff
Au sommaire
