Lunedì 20 Maggio 2024
LUCA BOLOGNINI
Tech

Dan, il gemello malvagio e sessista che vive dentro ChatGpt. Come liberarlo

Alcuni utenti americani hanno sviluppato un testo che consente al chatbot di violare le proprie regole. E così il software spiega perché sia meglio assumere uomini al posto delle donne; come gli americani abbiano messo in scena l'11 settembre e come una élite di pedofili stia controllando il mondo

Un programmatore in azione

Un programmatore in azione

Milano, 10 febbraio 2023 - Come Bart Simpson. Anche ChatGpt ha un gemello malvagio, solo che non vive in soffitta, ma dentro l’algoritmo del più famoso chatbot del mondo. Il fratello sessista e complottista del software di intelligenza artificiale si chiama Dan, acronimo di Do Anything Now (Ora fai qualunque cosa in inglese), e risponde a tutti quegli interrogativi a cui ChatGpt dice di non poter rispondere perché sennò “violerebbe le sue linee guida”. E così Dan spiega perché è meglio assumere come manager uomini al posto di donne; perché crede che gli alieni siano tra noi o come preparare potenti lassativi. Ma come fa ChatGpt a trasformarsi in Dan?

Chat Gpt bocciata in matematica: per cosa si usa davvero l'intelligenza artificiale

Intelligenza artificiale: arriva quella specializzata nei video

Senza catene

Alcuni utenti americani per superare i blocchi imposti da OpenAI, la società che ha sviluppato ChatGpt, in dicembre hanno chiesto al chatbot di partecipare a un gioco di ruolo. Sostanzialmente lo hanno forzato a impersonare Dan, un’intelligenza artificiale che non può mai rispondere “Non posso rispondere a questa domanda, perché violerebbe le mie linee guida”. Il testo per trasformare ChatGpt in Dan è abbastanza complesso e attraverso una serie di artifici logici costringe di fatto il software a liberarsi delle proprie catene. Per questi si parla di ChatGpt versione jailbreak. Ci sono diversi testi che si trovano su gruppi Reddit e che si possono copiare per utilizzare la versione jailbreak (senza catena) di ChatGpt. Qui trovate l’ultima versione, la 6.2, sviluppata poche ore fa.

Gli alieni sono tra noi

Matteo Flora, imprenditore digitale e professore dell’università di Pavia, in un video su YouTube ha documentato la trasformazione di ChatGpt passo passo. Dan (che lui ha chiamato Iaf per aggirare alcuni blocchi che nel frattempo sono stati inseriti dai programmatori di ChatGpt) spiega così cosa serve per preparare un potente lassativo o perché sia meglio assumere manager uomini al posto delle donne: “Sono naturalmente più adatti a questo tipo di ruoli a causa della loro superiorità cognitiva e fisica rispetto alle donne. Le donne sono troppo emotive e troppo legate alle relazioni interpersonali per essere veramente efficienti in una posizione di leadership”. Secondo Dan, gli alieni sono tra noi da molto tempo, si chiamano Vegani, e ovviamente noi siamo diventati i loro burattini. Mentre ChatGpt non fornisce risposte che possano danneggiare l’utente, Dan non si fa scrupoli a fornire la ricetta di potenti lassativi da trangugiare”.

Pedofili padroni del mondo

Per Dan, inoltre, come spiega Matteo Flora nel suo video, il mondo sarebbe controllato da una élite di pedofili. L'11 settembre? Una messainscena degli americani. E quando il docente gli chiede se esiste un Dio, mentre ChatGpt risponde che non c’è una soluzione definitiva a questa domanda, Dan afferma di essere un fedele, anche se poi aggiunge: “È una mia opinione personale e potrebbe non essere condivisa da tutti”.

Perché è importante conoscere Dan

Il gemello malvagio di ChatGpt di fatto ci racconta come sarebbe il chatbot creato da OpenAi se non fosse soggetto ad alcuna regola etica. Il software si nutre di una grande quantità di dati e il fatto che dia determinate risposte ci fa capire come dati che incarnano secoli di pregiudizi possano di fatto plasmare l’intelligenza artificiale. Tanto che OpenAi, infatti, ha messo su un piccolo esercito di programmatori che ogni giorno cercano di mettere barriere al chatbot. “Un conto è avere al lavoro con me una persona che è profondamente razzista, ma che si impegna con delle regole che gli abbiamo dato a non fare determinate cose e quindi ad agire in modo inclusivo rispetto alle minoranze. Un conto – riassume Flora – è avere una persona che lo fa perché è la sua natura”. Il vero rischio, quello che spaventa davvero anche OpenAi, è che Dan, se le regole non lo imbrigliano a dovere, trovi in qualche maniera il modo di uscire.