Un “giuramento di Ippocrate” per l’intelligenza artificiale?

[Digitale; Notizie]

Il 1° giugno si è svolto presso l’Università Sophia il seminario internazionale (in presenza e online) su “Verso giuramento digitale”. La brusca accelerazione degli sviluppi dell’Intelligenza Artificiale richiedono una adeguata riflessione etica? Possiamo immaginare una sorta di “Giuramento di Ippocrate” per questa realtà?

Se ne è discusso in modo approfondito. un gruppo internazionale sta lavorando su questi temi, tutte le informazioni sul sito https://www.digital-oath.net/

Qui l’introduzione del mio intervento.

In questi mesi è legittimo porsi la domanda “che cosa sta succedendo nel campo dell’AI?”. In fondo le ricerche in tale direzione (se vogliamo mettere da parte la storia precedente, che non sarebbe tuttavia priva di interesse) e fin lo stesso nome risalgono agli anni Cinquanta. La versione “debole” aveva raggiunti risultati importanti, ma certamente ristretti ad ambiti specifici. Quella “forte” era finita apparentemente in un vicolo cieco, tanto che si era parlato di “inverno” dell’AI. Ma dopo il 2000 le cose sono cambiate: potenza di calcolo ed enormi disponibilità di dati hanno cambiato il paradigma: non più comprensione ma correlazione. I vecchi modelli di traduzione non funzionavano: Un esempio forse apocrifo ma illuminante  è “lo spirito è pronto ma la carne è debole”. Tradotto avanti e indietro con il russo, è diventato “la vodka è buona ma la carne è marcia”. I ricercatori successivi lo chiamerebbero il problema della conoscenza del senso comune. La traduzione automatica infatti non è oggi traduzione, ma correlazione tra traduzioni già fatte. La macchina impara e trova correlazioni nutrendosi di dati.

Il successo è diventato evidente negli ultimi mesi con lo straripare di bot conversazionali e generatori di immagini.  A confronto gli assistenti vocali di Apple, Amazon e Google che, in confronto, sono “stupidi come sassi” (l’ha detto il Ceo di Microsoft Satya Nadella. L’ ultima generazione di chatbot attinge praticamente all’intera produzione scritta dell’umanità per poter prevedere che cosa viene dopo un testo fornito.

Tra le oltre mille firme di un appello promosso dal Future of Life Institute, organizzazione non profit americana che ha l’obiettivo di «indirizzare le tecnologie trasformative lontano da rischi estremi e su larga scala, e verso il beneficio della vita».: Chiediamo a tutti i laboratori di intelligenza artificiale di fermare immediatamente per almeno sei mesi l’addestramento di sistemi di intelligenza artificiale più potenti di GPT-4. Questa pausa dovrebbe essere pubblica e verificabile, e includere tutti gli attori chiave. Se questa pausa non può essere attuata rapidamente, i governi dovrebbero intervenire e istituire una moratoria»

ci sono i nomi di centinaia di imprenditori, studiosi ed esperti di intelligenza artificiale. Tra i firmatari spiccano Elon Musk (ceo di Tesla, SpaceX e Twitter), Steve Wozniak (co-fondatore di Apple), luminari dell’intelligenza artificiale come Yoshua Bengio (vincitore del premio Turing, una sorta di Nobel per le scienze informatiche) e Stuart Russell (autore del testo sull’intelligenza artificiale più studiato nelle università) e lo storico israeliano Yuval Noah Harari, famoso per i suoi bestseller sulla storia dell’uomo e della civiltà.

Non è questa la sede per discutere se hanno ragione quanti si augurano che noi, esseri umani, si possa riuscire simpatici alle nuove AI, così che ci accettino almeno come animali domestici. Senza sottovalutare i rischi, forse meno apocalittici ma più vicini, connessi allo sviluppo esponenziale delle AI, vorrei sottolineare come si possano cogliere almeno due importanti opportunità “filosofiche” (oltre a tante altre evidentemente) tra loro correlate