Ogni tecnologia della conoscenza presenta dei vantaggi su quella che “sostituisce” (o ri-media, o integra) ma anche degli svantaggi.
Non ci sono tecnologie che hanno solo vantaggi. E’ abbastanza inutile sperare ogni volta di aver trovato la soluzione perfetta, come è ridicolo svegliarsi come Biancaneve, sputare la mela, e dire “Toh, ma ci sono rischi e opportunità in questa storia”.
Ma non è una legge di natura. Non tanto perché i media siano fatti così (https://www.ilsaggiatore.com/libro/le-tetradi-perdute-di-marshall-mcluhan/), ma perché noi, con la nostra società occidentale del terzo millennio, siamo fatti così.
I vantaggi sono ovviamente quelli per cui la nuova tecnologia è stata sviluppata. In generale, vanno nell’area tipica di ogni sviluppo tecnologico:
- risparmio di tempo
- risparmio di risorse (che comprende il tempo, ma anche i soldi, le persone, …)
- aumento della quantità di prodotto/servizio
- aumento della qualità (nel senso di maggiore possibilità di controllo, di assicurarsi che i risultati stiano nella media)
- standardizzazione del processo (quindi possibilità di sostituire blocchi funzionali, di esportarlo, di integrarlo in altri processi)
A cui si potrebbero aggiungere dei vantaggi percepiti, come quello della novità che di per sé attrae chi ha potere di decisione e d’acquisto anche indipendentemente dal suo contenuto: chi ha l’ultimo modello di smartphone (o di arma autonoma) si sente più fico di chi non ce l’ha, perché dimostra uno status superiore.
Invece gli svantaggi sono di due tipi: quelli previsti e quelli imprevisti.
Quelli previsti vengono presentati come il male minore. Questi quattro mi pare che siano presenti quasi sempre:
1. Un grande classico: si perde il lato umano, unico, intuitivo, artistico, artigianale etc (in cambio però abbiamo una standardizzazione del prodotto)
2. Si perde la relazione umana, il rapporto tra anime etc perché l’interfaccia macchina non è ancora così accogliente, calda etc (ma ci stiamo provando, eh: con le immagini, i suoni, le animazioni, e poi gli avatar, la voce, gli stili conversazionali, …)
3. Il bias: i prodotti si assomigliano tutti e risentono della mentalità di chi li produce. Tutto sommato è uno svantaggio accettabile perché ogni nuova tecnologia della conoscenza per essere accettata non può fare altro che riprodurre il modo di pensare della maggioranza, o almeno dell’élite che è capace di esprimersi.
4. Le allucinazioni sono gli errori di stampa degli LLM. Certo i manoscritti erano più corretti perché la quantità limitata permetteva un controllo manuale. Ma se vuoi aumentare la quantità, devi accettare una percentuale di errore più alta e una qualità più bassa (lo so, questo svantaggio è in contraddizione con uno dei vantaggi; ma così è la storia: contraddittoria)
Un altro gruppo di svantaggi invece viene fuori dopo l’adozione, perché sono connessi alla trasformazione del modo di pensare/ricordare/comunicare, cioè alla ridistribuzione delle competenze cognitive.
Il problema, a mio modo di vedere. è proprio che malgrado sia la millesima volta che si presentano, anche se in forme leggermente diverse, questi svantaggi non vengono pubblicamente previsti. Fondamentalmente, credo, perché non si vogliono evitare. Qui sotto ne elenco dieci.
1. Una grossa parte degli svantaggi è legata alla diversa distribuzione delle competenze che la nuova tecnologia produce: ce ne sono di nuove che vengono definite e insegnate e ce ne sono di obsolete che scompaiono. Questa parte degli svantaggi la conosciamo abbastanza bene grazie al termine “luddista” e alle rivolte contro il telaio meccanico.
2. Un secondo svantaggio è quello della perdita delle competenze indirettamente collegate alla vecchia tecnologia. Per esempio, con le tastiere si disimpara a scrivere con la penna; ma se non serve più scrivere a mano, si disimpara anche a disegnare. Se non sereve più parlare, si disimpare a cantare. Questo perché ogni tecnologia ha anche usi impropri, che vengono scoperti dopo, ma che col suo abbandono si perdono. O forse, alcuni usi impropri si sono imposti fino a far dimenticare quelli originali; e sono questi vecchi usi (come disegnare) che si teme di perdere visto che gli usi impropri (scrivere) non servono più.
3. Poi: la vecchia tecnologia di solito era ben conosciuta dagli adulti (docenti, esperti, capi). Quella nuova invece è dominata maglio dai giovani (studenti, neofiti, dipendenti). Questo crea un problema di messa in crisi dell’autorità. E’ quanto succede nel passaggio tra l’IA simbolica e quella subsimbolica nelle università e nelle aziende in cui il potere è ancora in mano a chi conosce bene la prima ma non la seconda. Questo tipo di svantaggi è il caso generale del primo tipo (inutilità dell’insegnamento), perché toglie autorità appunto ai docenti e alla scuola.
4. C’è poi la questione della proprietà della nuova tecnologia, che essendo stata inventata non per magia ma grazie ad un investimento prima di essere distribuita deve produrre un margine che ripaga quell’investimento (e molto di più) mentre invece la vecchia tecnologia ormai è di tutti. E’ il tema dei brevetti, che servono a garantire questo vantaggio competitivo a chi ha investito in ricerca. Lo svantaggio è ovvio: i pochi proprietari delle nuove tecnologie decidono come usarle, a chi farle usare. Questo contraddice la nostra idea ingenua che la conoscenza sia di tutti. Inoltre le tecnologie sono spesso abilitanti: se posseggo la capacità di produrre schede grafiche parallele in grande quantità (Nvidia) ho anche la capacità di addestrare LLM sempre più grandi (OpenAI).
5. La proprietà si porta dietro l’opacità: se solo alcuni sono in grado di controllare la nuova tecnologia, solo loro possono verificarle, scoprire gli errori e correggerli, oppure decidere di non correggerli. Questo svantaggio (dal punto di vista dei molti) si fa fatica a vederlo quando si guarda alle vecchie tecnologie, ma basta immaginare l’avvento della scrittura per capire che il mondo si divide velocemente in chi è in grado di leggere e far valere un contratto e chi no, fino al momento in cui tutti imparano a farlo.
6. Per non farla troppo lunga, c’è infine lo svantaggio del consumo di energia. Questo è veramente uno svantaggio che è difficile non vedere in anticipo. E’ ovvio che per ottenere più prodotti nello stesso tempo, o per impiegare meno tempo per ottenere gli stessi prodotti, non c’è molto altro da fare se non usare più energia. E da dove si prende questa energia? E quanto durerà la nuova fonte?
Magari l’energia non serve per usare la tecnologia nuova, ma solo per produrla, o smaltirla. Noi occidentali del terzo millennio siamo poco sensibili al tema, visto che siamo abituati ad avere energia a piacere sotto forma di elettricità. Ci dicono che il petrolio sta per finire, ma facciamo finta di niente e continuiamo a fabbricare macchine a combustione.
Avere un quadro di tutti questi vantaggi e svantaggi, a priori rispetto ad ogni nuova tecnologia (ma a posteriori rispetto all’esperienza che abbiamo di avvento di nuove tecnologie) ci può aiutare? Forse.
Intanto possiamo non cadere nella trappola pubblicitaria che ci vorrebbe vendere qualcosa prima ancora che abbiamo avuto il tempo di provarla.
Magari alcuni di questi svantaggi possiamo ridurli, o limitarli.
Forse possiamo scegliere: ci sono versioni diverse che hanno meno svantaggi di altre?
Oppure possiamo pesare vantaggi e svantaggi e decidere che non ne vale la pena (“I would prefer not to”).