SAN FRANCISCO (AP) – Le créateur de ChatGPT tente de freiner sa réputation de machine à tricher gratuite avec un nouvel outil qui peut aider les enseignants à détecter si un élève ou une IA a écrit ce devoir.

Le nouvel outil de classification de texte AI a été lancé mardi par OpenAI après des semaines de discussion dans les écoles et les collèges craignant que la capacité de ChatGPT à écrire n’importe quoi sur commande puisse alimenter le mensonge académique et entraver l’apprentissage.

OpenAI avertit que le nouvel outil – Comme d’autres déjà disponibles – non garanti. Jan Laiki, responsable de l’équipe de conformité d’OpenAI chargée de rendre ses systèmes plus sûrs, a déclaré que la façon dont le texte saisi par l’IA est détecté « est imparfaite et sera parfois erronée ».

« Pour cette raison, il ne faut pas compter uniquement sur elle pour prendre des décisions », a déclaré Lakey.

Les adolescents et les étudiants faisaient partie des millions de personnes qui ont commencé à essayer ChatGPT après son lancement le 30 novembre en tant qu’application gratuite sur le site Web OpenAI. Et bien que beaucoup aient trouvé des moyens de l’utiliser de manière créative et sans danger, la facilité avec laquelle il peut répondre aux questions des tests à domicile et aider à d’autres tâches a semé la consternation chez certains enseignants.

Au moment où les écoles ont ouvert leurs portes pour la nouvelle année, New York, Los Angeles et d’autres grands districts scolaires publics avaient commencé à interdire leur utilisation dans les salles de classe et sur le matériel scolaire.

Le district scolaire public de Seattle a initialement interdit ChatGPT sur tous les appareils scolaires en décembre, mais a ensuite ouvert l’accès aux éducateurs qui souhaitaient l’utiliser comme outil pédagogique, a déclaré Tim Robinson, porte-parole du district.

« Nous ne pouvons pas ignorer cela », a déclaré Robinson.

Le district discute également de la possibilité d’étendre l’utilisation de ChatGPT dans les salles de classe pour permettre aux enseignants de l’utiliser pour former les élèves à être de meilleurs penseurs critiques et pour permettre aux élèves d’utiliser l’application comme « tuteur personnel » ou pour aider à générer de nouvelles idées lorsqu’ils travaillent sur une mission, dit Robinson.

Les districts scolaires à travers le pays disent voir la conversation autour de ChatGPT évoluer rapidement.

« La première réaction a été : ‘Oh mon Dieu, comment allons-nous arrêter la vague de tricherie qui va se produire avec ChatGPT' », a déclaré Devin Page, spécialiste de la technologie à l’école publique du comté de Calvert dans le Maryland. une prise de conscience croissante que « c’est l’avenir » et que l’entraver ne l’est pas. C’est la solution.

Des régions comme lui, pense-t-il, finiront par débloquer ChatGPT, a déclaré Page, en particulier une fois que le service de détection de l’entreprise sera en place.

OpenAI a souligné les limites de son outil de détection dans un article de blog mardi, mais a déclaré qu’en plus de dissuader le plagiat, il peut aider à détecter les campagnes de désinformation automatisées. et d’autres formes d’utilisation abusive de l’intelligence artificielle pour imiter les humains.

Plus le texte est long, meilleur sera l’outil pour détecter si une IA ou un humain a écrit quelque chose. Tapez n’importe quel texte – un essai d’admission à l’université ou une analyse littéraire de « The Invisible Man » de Ralph Ellison – et l’outil le classera comme « très improbable, improbable, peu clair si probable ou possible ».

Mais tout comme ChatGPT lui-même, qui a été formé Sur une vaste collection de livres numériques, de journaux et d’écrits en ligne, mais souvent diffusés en toute confiance des mensonges ou des bêtises, il n’est pas facile d’expliquer comment arriver à une conclusion.

« Nous ne savons essentiellement pas par quel type de modèle il s’intéresse, ni comment cela fonctionne en interne », a déclaré Lakey. « Nous ne pouvons pas dire grand-chose à ce stade sur le fonctionnement réel du classificateur. »

Les établissements d’enseignement supérieur du monde entier ont également commencé à discuter de l’utilisation responsable de la technologie de l’IA. Sciences Po, l’une des universités les plus prestigieuses de France, a interdit son utilisation la semaine dernière et a averti que toute personne utilisant subrepticement ChatGPT et d’autres outils d’IA pour produire des travaux écrits ou oraux pourrait être bannie de Sciences Po et d’autres institutions.

En réponse au contrecoup, OpenAI a déclaré qu’il travaillait depuis plusieurs semaines sur la rédaction de nouvelles directives pour aider les éducateurs.

« Comme beaucoup d’autres technologies, un district peut décider qu’il ne convient pas à une utilisation dans ses salles de classe », a déclaré Lama Ahmed, chercheur en politiques d’OpenAI. « Nous ne les poussons pas dans un sens ou dans l’autre. Nous voulons simplement leur donner les informations dont ils ont besoin pour pouvoir prendre les bonnes décisions pour eux. »

Il s’agit d’un rôle public inhabituel pour une startup de San Francisco axée sur la recherche, désormais soutenue par des milliards de dollars d’investissements de son partenaire Microsoft et fait l’objet d’un intérêt croissant de la part du public et des gouvernements.

Le ministre français de l’Economie numérique, Jean-Noël Barrot, a récemment rencontré en Californie des dirigeants d’OpenAI, dont le PDG Sam Altman, et une semaine plus tard, il a déclaré à un public du Forum économique mondial de Davos, en Suisse, qu’il était optimiste quant à la technologie. Mais le ministre du gouvernement – ​​ancien professeur au MIT et à l’école de commerce française HEC à Paris – a déclaré qu’il y avait aussi des questions éthiques difficiles à aborder.

« Si vous êtes à la faculté de droit, il y a lieu de s’inquiéter car, de toute évidence, ChatGPT, entre autres outils, sera en mesure de proposer des examens relativement impressionnants », a-t-il déclaré. « Si vous êtes membre de l’École d’économie, tout va bien car ChatGPT aura du mal à trouver quelque chose à attendre ou à offrir lorsque vous êtes à l’École supérieure d’économie. »

Il a déclaré qu’il sera de plus en plus important pour les utilisateurs de comprendre les bases du fonctionnement de ces systèmes afin qu’ils sachent quels biais peuvent exister.

—-

O’Brien a rapporté de Providence, Rhode Island. L’écrivain de l’Associated Press, John Lister, a contribué à ce rapport depuis Paris.