Les écoles publiques de New York ont ​​décidé d’interdire l’utilisation de ChatGPT sur leur réseau informatique. En cause, le risque que des élèves confient leurs devoirs aux mains de cet agent conversationnel qui fait sensation depuis son lancement il y a quelques semaines.

Conçu par la société américaine OpenAI, ce robot (que tout le monde peut tester gratuitement après une courte inscription) sait apporter des réponses fournies et détaillées aux questions posées en langage naturel (il fonctionne aussi en français).

C’est cette capacité à générer sans effort un texte crédible qui inquiète les autorités éducatives de New York, rapporte Chalkbeat. Un conférencier explique :

Bien que l’outil puisse fournir des réponses rapides et faciles aux questions, il ne développe pas la pensée critique et les compétences en résolution de problèmes, qui sont essentielles à la réussite scolaire et tout au long de la vie.

Le fonctionnement de ChatGPT est en effet d’une simplicité déroutante pour tout le monde et a fortiori pour les jeunes étudiants. On pose une question ou les éléments d’un problème, et la machine peut répondre de manière très convaincante. Il respectera également des restrictions telles que la longueur du texte à produire.

Exemple de question/réponse, fourni en quelques secondes. Il y aura des répétitions mais il y a un bon point de départ.

Outre l’astuce consistant à déléguer les devoirs à ce bot, il y a un risque que les élèves se fient à ces réponses toutes faites sans les nuancer ni les questionner.

Les connaissances de ChatGPT, qui lui permettent de répondre aux questions, reposent sur une masse de données publiques récoltées sur le web. Avec tous les risques de boire à de mauvaises sources.

Aussi étonnant que cela puisse paraître, ChatGPT peut renvoyer de fausses déclarations, ramener du matériel biaisé ou obsolète (sa base de connaissances s’est arrêtée en 2021 pour des faits d’actualité). En décembre dernier, le patron d’OpenAI lui-même mettait en garde contre une confiance trop aveugle dans son outil :

À Lire  Pourquoi les emprunteurs français évitent le crédit au…

ChatGPT est incroyablement limité, mais assez bon pour que certaines choses créent une impression trompeuse de compétence. C’est une erreur de dépendre d’elle pour quelque chose d’important en ce moment. Il donne un aperçu des progrès réalisés ; beaucoup de travail nous attend pour développer sa robustesse et sa fiabilité.

Les écoles de New York doivent bloquer l’utilisation de cette machine depuis leurs ordinateurs et sur leur réseau interne, sauf lorsqu’elles viennent étudier son fonctionnement et les textes qu’elle génère. Mais cette limitation est avant tout symbolique puisque les étudiants sont libres d’utiliser ChatGPT depuis leur smartphone ou leur ordinateur personnel.

MenuGPT vous permet de discuter avec ChatGPT depuis la barre de menus de votre Mac

Un professeur d’histoire, interrogé sur la question, relate un peu les conséquences de l’avènement de ce type d’outil, et fait un parallèle avec l’apparition des moteurs de recherche : « On disait la même chose de Google il y a 15 ou 20 ans quand les élèves pouvaient ‘ trouver. réponses en ligne' ».

Et de suggérer que cet outil peut, au contraire, être intéressant dans certains cas, lorsqu’il s’agit, par exemple, d’obtenir un texte qui sert de base pour le retravailler, l’enrichir, le modifier et l’améliorer.

La comparaison avec les moteurs de recherche est pertinente puisque l’arrivée de ChatGPT a un peu bousculé le secteur. Google y voit une menace pour son moteur, tandis que Microsoft – investisseur dans OpenAI – envisage de l’intégrer à son propre Bing, s’il peut démontrer sa pertinence.