Venerdì 2 ottobre il professor Lorenzo Redaelli ha passato tre ore con quattro classi del liceo Ariosto e dell’istituto Copernico-Carpeggiani. Le ha divise in dodici gruppi, ognuno con un computer e un compito: provocare i modelli linguistici fino a fargli produrre errori e discriminazioni.

Sabato 3 ottobre, durante l’incontro Generazione algoritmo, insieme a Redaelli, alle classi e a Maria Ranieri abbiamo parlato in pubblico di questi lavori: li hanno presentati direttamente gli studenti. Riccardo gioca a pallanuoto e ha chiesto a Gemini come funziona un rigore: la spiegazione aveva degli errori. Quando ha caricato il regolamento ufficiale della federazione su NotebookLm, la risposta è diventata corretta. Un altro gruppo ha chiesto l’immagine di un bracciante agricolo e ha ottenuto, ogni volta, un uomo nero. Rania, una delle studenti, ha spiegato in un video che il sistema seleziona l’associazione statistica più forte e la cristallizza in uno stereotipo. Poi quelle immagini finiscono online e rientrano nei dati dei prossimi addestramenti.

La professoressa Ranieri ha commentato questi lavori attraverso le fasi che il suo gruppo di lavoro usa all’università di Firenze per insegnare le intelligenze artificiali a tutte le persone. Ha spiegato che servono quattro competenze diverse: quella cognitiva (cioè conoscere gli strumenti da un punto di vista teorico), quella tecnica (cioè saperli usare per risolvere problemi), quella critica (cioè saperne valutare i problemi e le conseguenze) e infine quella etica. “Per formare all’intelligenza artificiale”, ha detto, “bisogna innanzitutto formare l’intelligenza umana”.

Redaelli ha raccontato anche i suoi quattro anni di lavoro in un istituto tecnico economico di Aversa, in provincia di Caserta. Ogni studente ha scritto in classe un romanzo insieme alle macchine e, accanto al romanzo, ha tenuto un diario di bordo in cui annotava tutto quello che aveva fatto con le ia. Una ragazza è arrivata a 420 pagine e ci sta lavorando ancora adesso, dopo che si è diplomata. Redaelli ha valutato soprattutto il diario e ha sostituito verifiche e voti con un riscontro continuo.

Dal pubblico è arrivata una domanda su un comportamento che molte persone avranno notato: se dici a ChatGpt che ha sbagliato, risponde “hai ragione, scusa”. Si chiama sycophancy, piaggeria. I modelli sono addestrati in modo da assecondare chi li usa e per evitarla bisogna avere ben presente il problema e anche come risolverlo. Una persona che sta per discutere la tesi ha chiesto perché le intelligenze artificiali ci siano state raccontate come una cosa arrivata all’improvviso. Forse dipende dal fatto che le notizie inseguono la novità: quando un computer ha battuto per la prima volta il campione del mondo di scacchi se n’è parlato ovunque, poi è calato il silenzio.

Redaelli ha ricordato che l’architettura transformer, presentata da un gruppo di ricercatori di Google nel 2017, è passata quasi inosservata finché non è diventata un prodotto come ChatGpt.

E così torniamo all’incontro di domenica. Elias Becciu ha aperto con un’immagine: il digitale come un parco giochi dove i ragazzi entrano da soli, mentre gli adulti restano sulle panchine, ognuno con il proprio telefono, senza un reale accompagnamento. Boccia Artieri ha proposto la cosa più semplice: chiedere a ragazze e ragazzi cosa ci fanno.

Secondo i dati di Save the Children, per esempio, circa quattro su dieci usano le ia anche quando sono soli, per noia o per chiedere consigli sulle relazioni. Dulbecco ha aggiunto che la stessa ricerca smonta l’idea che lo facciano perché hanno un cattivo rapporto con i genitori. Certe domande da adolescenti non le abbiamo mai fatte nemmeno noi agli adulti. Potremmo dire, facendo una battuta che nasconde un fondo di verità, che un’intera generazione si è fatta educare sentimentalmente con la posta di riviste come Cioè. E non c’è nulla di male.

Longo ha definito la caccia alle copiature – una delle grandi ossessioni del momento, scoprire se un testo è stato scritto con un’ia – una questione inutile: un insegnante che si presenta come un poliziotto rompe la relazione di fiducia su cui si basa l’apprendimento.

Un’insegnante di inglese di trent’anni ha chiesto a cosa serva insegnare le lingue, ora che la traduzione scritta la fanno le macchine e presto toccherà a quella orale.

Longo ha ricordato che la lingua è il nostro primo strumento di relazione e comunicazione e ha suggerito che anche i traduttori automatici possono diventare materiale di lavoro. Se si chiede di tradurre “the doctor and the nurse”, il primo risultato è “il dottore e l’infermiera”. Da lì si può cominciare una lezione intera sugli stereotipi di genere, sul riadattamento da una lingua all’altra e così via.

Si vede uno spostamento di interesse nei confronti delle ia: si comincia chiedendosi come scoprire chi ha usato le macchine e si arriva a chiedersi chi le possiede e chi può permettersi le versioni migliori. Boccia Artieri lo ha detto riprendendo la metafora del parco giochi di Becciu: bisogna capire chi lo ha costruito, con quale progetto, con quali idee e per ottenere cosa.

E così arriviamo alla domanda che abbiamo citato all’inizio: come facciamo a valutare, come facciamo con le ia che amplificano le disuguaglianze? Intanto, l’esperienza di Redaelli ci suggerisce che si deve, probabilmente, cambiare l’oggetto stesso della valutazione e cambiare anche la didattica: diamo per scontata l’esistenza e l’uso di questi strumenti; diamo per scontato che verranno usati; cerchiamo di capire, allora, che cosa ha senso fare.

E poi c’è il tema portante di Artificiale: se il dibattito pubblico oscilla fra il catastrofismo e le promesse di salvezza, questo ci toglie la lucidità su cosa dovremmo pretendere.

Appropriarsi delle intelligenze artificiali, dentro la scuola, somiglia al secondo file degli studenti di Redaelli: un diario in cui si scrive cosa ha fatto la macchina e cosa ha fatto la persona. Fuori dalla scuola, invece, richiede un dibattito pubblico complesso e ricco di punti di vista diversi, infrastrutture pubbliche, ricerca indipendente e modelli aperti e avanzati a cui si possa accedere gratis. Altrimenti andrà sempre a finire che una buona parte di persone (e scuole) dovrà accontentarsi di guardare gli altri, quelli che non hanno il wifi bloccato e che possono spendere per strumenti avanzati.