Chat GPT, arriva strumento per controllare i testi (ma spesso non funziona)

I creatori del bot hanno annunciato il rilascio di un software che consente di capire se un testo è scritto in modo automatico. Ma non sempre è affidabile

Chatbot con intelligenza artificiale

Chatbot con intelligenza artificiale

Mentre continua l’ascesa del bot di ChatGPT di OpenAI, capace di rispondere in tempo reale alle domande degli utenti, elaborando anche testi completi, articoli e post attingendo alle informazioni presenti sul web, cresce parallelamente la preoccupazione degli istituti scolastici e delle Università per il timore che gli studenti si servano del bot per i loro elaborati. Per risolvere, almeno in parte, il problema, i creatori del bot – come svela il Guardian – hanno rilasciato uno strumento capace di capire se il testo presentato dagli allievi sia frutto del loro lavoro oppure dell’intelligenza artificiale di ChatGPT. Purtroppo, come spiegano gli stessi sviluppatori, non sempre il software è in grado di capire se a produrre l’elaborato sia stato il bot. È impossibile rilevare in modo affidabile se il testo è scritto da ChatGPT Il rilascio dello strumento di controllo per ChatGPT, pur fornendo un aiuto concreto ai docenti che vogliono controllare se gli elaborati dei propri alunni siano stati fatti dai ragazzi o dal bot di OpenIA, non è del tutto affidabile. Gli sviluppatori, infatti, hanno dichiarato che è “impossibile rilevare in modo affidabile tutto il testo scritto dall’intelligenza artificiale”. Nei test lo strumento di controllo è riuscito a identificare correttamente “solo il 26% dei testi inglesi scritti dal bot e ha anche etichettato erroneamente i testi scritti dall'uomo come probabilmente scritti da strumenti di intelligenza artificiale il 9% delle volte”. I testi lunghi aiutano il software a capire chi lo ha scritto "L'affidabilità del nostro classificatore – si legge nel commento rilasciato dagli sviluppatori di OpenAI - in genere migliora con l'aumentare della lunghezza del testo che deve controllare. Con gli elaborati di meno di 1000 caratteri il software fa fatica”. Per “difendersi” da ChatGPT in alcune Università si è tornati agli esami scritti a mano e non più su strumenti tecnologici come pc e tablet mentre alcune riviste scientifiche hanno anche vietato l'uso del bot per produrre del testo per i loro documenti.