Attenzione agli imbroglioni: il produttore di ChatGPT rilascia uno strumento di rilevamento AI

SAN FRANCISCO (AP) – Il creatore di ChatGPT sta cercando di frenare la sua reputazione di macchina imbrogliona a ruota libera con un nuovo strumento che può aiutare gli insegnanti a rilevare se uno studente o l’intelligenza artificiale hanno scritto quei compiti.

Il nuovo classificatore di testi AI lanciato martedì da OpenAI fa seguito a una discussione durata una settimana nelle scuole e nelle università sui timori che la capacità di ChatGPT di scrivere praticamente qualsiasi cosa a comando possa alimentare la disonestà accademica e ostacolare l'apprendimento.

OpenAI avverte che il suo nuovo strumento, come altri già disponibili, non è infallibile. Il metodo per rilevare il testo scritto dall'intelligenza artificiale "è imperfetto e talvolta sarà sbagliato", ha affermato Jan Leike, capo del team di allineamento di OpenAI incaricato di rendere i suoi sistemi più sicuri.

"Per questo motivo, non si dovrebbe fare affidamento esclusivamente su di esso quando si prendono decisioni", ha detto Leike.

Adolescenti e studenti universitari sono stati tra i milioni di persone che hanno iniziato a sperimentare ChatGPT dopo il suo lancio il 30 novembre come applicazione gratuita sul sito web di OpenAI. E mentre molti hanno trovato modi per usarlo in modo creativo e innocuo, la facilità con cui poteva rispondere alle domande dei test da portare a casa e assistere con altri compiti ha scatenato il panico tra alcuni educatori.

Quando le scuole aprirono per il nuovo anno, New York City, Los Angeles e altri grandi distretti scolastici pubblici iniziarono a bloccarne l'uso nelle aule e sui dispositivi scolastici.

Il distretto delle scuole pubbliche di Seattle ha inizialmente bloccato ChatGPT su tutti i dispositivi scolastici a dicembre, ma poi ha aperto l'accesso agli educatori che desiderano utilizzarlo come strumento didattico, ha affermato Tim Robinson, portavoce del distretto.

"Non possiamo permetterci di ignorarlo", ha detto Robinson.

Il distretto sta anche valutando la possibilità di espandere l'uso di ChatGPT nelle classi per consentire agli insegnanti di usarlo per formare gli studenti a essere migliori pensatori critici e per consentire agli studenti di utilizzare l'applicazione come "tutor personale" o per aiutare a generare nuove idee quando lavorano su un compito. , ha detto Robinson.

I distretti scolastici di tutto il paese affermano di vedere la conversazione su ChatGPT evolversi rapidamente.

"La reazione iniziale è stata 'OMG, come faremo ad arginare l'ondata di tutti gli imbrogli che accadranno con ChatGPT'", ha affermato Devin Page, uno specialista di tecnologia presso il distretto scolastico pubblico della contea di Calvert nel Maryland. Ora c’è una crescente consapevolezza che “questo è il futuro” e bloccarlo non è la soluzione, ha detto.

"Penso che saremmo ingenui se non fossimo consapevoli dei pericoli che questo strumento comporta, ma non riusciremmo a servire i nostri studenti se vietassimo a loro e a noi di usarlo con tutto il suo potere potenziale", ha detto Page, che pensa ai distretti come il suo alla fine sbloccherà ChatGPT, soprattutto una volta che il servizio di rilevamento dell'azienda sarà attivo.

OpenAI ha sottolineato i limiti del suo strumento di rilevamento in un post sul blog martedì, ma ha affermato che oltre a scoraggiare il plagio, potrebbe aiutare a rilevare campagne di disinformazione automatizzate e altri usi impropri dell'intelligenza artificiale per imitare gli esseri umani.

Più lungo è un passaggio di testo, migliore è lo strumento nel rilevare se un'intelligenza artificiale o un essere umano ha scritto qualcosa. Digita qualsiasi testo - un saggio di ammissione al college o un'analisi letteraria di "Invisible Man" di Ralph Ellison --- e lo strumento lo etichetterà come "molto improbabile, improbabile, non chiaro se sia possibile o probabile" AI -generato.

Ma proprio come lo stesso ChatGPT, che è stato addestrato su un'enorme quantità di libri digitalizzati, giornali e scritti online ma che spesso sputa con sicurezza falsità o sciocchezze, non è facile interpretare come sia arrivato a un risultato.

"Fondamentalmente non sappiamo a quale tipo di modello presti attenzione o come funzioni internamente", ha detto Leike. "Non c'è davvero molto che potremmo dire a questo punto su come funziona effettivamente il classificatore."

Anche gli istituti di istruzione superiore di tutto il mondo hanno iniziato a discutere sull’uso responsabile della tecnologia IA. Sciences Po, una delle università più prestigiose della Francia, ne ha vietato l'uso la scorsa settimana e ha avvertito che chiunque fosse trovato a utilizzare di nascosto ChatGPT e altri strumenti di intelligenza artificiale per produrre lavori scritti o orali potrebbe essere bandito da Sciences Po e da altre istituzioni.