Come l'intelligenza artificiale potrebbe trasformare il mondo in meglio (D.Amodei)

Il saggio “Machines of Loving Grace: How AI Could Transform the World for the Better” di Dario Amodei esplora il potenziale rivoluzionario dell’intelligenza artificiale nel migliorare significativamente la condizione umana. Amodei, co-fondatore e CEO di Anthropic e già vicepresidente della ricerca presso OpenAI, ha contribuito allo sviluppo di modelli avanzati come GPT-3. Nonostante sia noto per le sue riflessioni sui rischi legati all’IA, in questo saggio l’autore presenta una visione ottimistica di un futuro in cui l’IA non solo risolve problemi complessi, ma innalza anche il livello generale della qualità della vita.

Amodei delinea cinque aree chiave in cui l’IA potrebbe avere l’impatto più positivo: biologia e salute fisica, neuroscienze e salute mentale, sviluppo economico e lotta alla povertà, pace e governance, e lavoro e significato. Attraverso una serie di argomentazioni dettagliate, l’autore suggerisce che progressi radicali in queste aree potrebbero essere accelerati grazie all’IA, portando a una compressione temporale delle scoperte scientifiche che altrimenti richiederebbero decenni.

Il saggio esplora le possibili trasformazioni sociali, economiche e politiche, soffermandosi su come l’IA potrebbe migliorare la salute, prolungare la vita umana, risolvere disuguaglianze economiche globali e favorire la democrazia. Amodei riflette anche su questioni più profonde legate al significato del lavoro umano e al ruolo che gli esseri umani potrebbero continuare a giocare in un futuro dominato dall’intelligenza artificiale.

Pur riconoscendo che molti dettagli di questa visione potrebbero risultare errati o irrealistici, Amodei sostiene che è fondamentale avere una visione concreta e ambiziosa del futuro per poter discutere efficacemente delle implicazioni dell’IA.

Contenuti:

Presupposti di base e struttura
Biologia e salute
Neuroscienze e mente
Sviluppo economico e povertà
Pace e governance
Lavoro e significato

Riflessioni finali

(Ottobre 2024)

Penso spesso ai rischi legati all’intelligenza artificiale, e ne parlo molto. La mia azienda, Anthropic, svolge un’intensa attività di ricerca su come ridurre tali rischi. A causa di questo, alcune persone giungono alla conclusione che io sia un pessimista o un “catastrofista”, qualcuno che pensa che l’intelligenza artificiale sarà principalmente negativa o pericolosa. In realtà, non è così. Uno dei motivi principali per cui mi concentro sui rischi è che essi sono l’unica cosa che si frappone tra noi e ciò che considero un futuro fondamentalmente positivo. Credo che la maggior parte delle persone sottovaluti quanto radicalmente l’intelligenza artificiale possa migliorare il mondo, così come sottovaluta la gravità dei rischi.

In questo saggio cercherò di delineare cosa potrebbe significare questo miglioramento—come potrebbe apparire un mondo con intelligenze artificiali potenti se tutto andasse per il verso giusto. Naturalmente, nessuno può prevedere il futuro con certezza o precisione, e gli effetti di un’AI potente saranno probabilmente ancora più imprevedibili rispetto ai cambiamenti tecnologici del passato. Quindi molte delle mie idee saranno inevitabilmente supposizioni. Tuttavia, cerco di formulare congetture istruttive e utili, che catturino l’essenza di ciò che potrebbe accadere, anche se i dettagli possono essere sbagliati. Ho inserito molti dettagli perché credo che una visione concreta stimoli di più la discussione rispetto a una visione astratta e troppo cauta.

Prima di tutto, però, voglio spiegare brevemente perché io e Anthropic abbiamo parlato relativamente poco dei vantaggi dell’intelligenza artificiale e perché probabilmente continueremo, in generale, a concentrarci sui rischi. Ho fatto questa scelta per tre ragioni principali:

Massimizzare l’influenza. Lo sviluppo di base della tecnologia AI e molti dei suoi benefici sembrano inevitabili (a meno che i rischi non blocchino tutto) e sono spinti da potenti forze di mercato. D’altra parte, i rischi non sono predefiniti, e le nostre azioni possono modificarne notevolmente la probabilità.
Evitare la percezione di propaganda. Parlare dei meravigliosi benefici dell’intelligenza artificiale può far sembrare le aziende come propagandisti o come se stessero cercando di distogliere l’attenzione dai lati negativi.

Evitare la grandiosità. Mi disturba spesso il modo in cui molte figure pubbliche del settore dell’intelligenza artificiale parlano del futuro post-AGI, come se fosse la loro missione personale realizzarlo, quasi come dei profeti che conducono il loro popolo alla salvezza. Credo sia pericoloso vedere le aziende come entità che modellano unilateralmente il mondo, e ancor più rischioso è trattare obiettivi tecnologici concreti come una sorta di missione religiosa.
Evitare il bagaglio della fantascienza. Sebbene io creda che molte persone sottovalutino i potenziali vantaggi dell’AI, esiste una piccola comunità di individui che discute di futuri radicali dell’intelligenza artificiale, spesso con un tono esageratamente “sci-fi”. Si parla di menti caricate in rete, di esplorazioni spaziali o di suggestioni cyberpunk. Questo linguaggio tende a far sì che le persone non prendano sul serio tali affermazioni, connotandole come irrealistiche. Non è che queste tecnologie siano impossibili o improbabili (ne parlo in dettaglio nel saggio), ma piuttosto che il tono carica la discussione di connotazioni culturali e presupposti impliciti su quale tipo di futuro sia auspicabile. Il risultato è che spesso queste discussioni finiscono per sembrare fantasie destinate a una nicchia ristretta, respingendo la maggior parte delle persone.

Nonostante tutte queste preoccupazioni, credo sia fondamentale discutere di come potrebbe apparire un mondo migliore con l’intelligenza artificiale, cercando di evitare le trappole appena menzionate. In effetti, penso che sia cruciale avere una visione ispiratrice del futuro, non solo un piano per mitigare i rischi. Molte delle implicazioni dell’AI sono conflittuali o pericolose, ma alla fine, ci deve essere qualcosa per cui lottiamo: un esito positivo che renda la vita migliore per tutti, qualcosa che possa spingere le persone a superare le proprie divisioni e ad affrontare insieme le sfide future. La paura è un tipo di motivazione, ma da sola non basta: abbiamo bisogno anche di speranza.

L’elenco delle applicazioni positive dell’intelligenza artificiale è vastissimo (e include robotica, produzione, energia, e molto altro), ma qui mi concentrerò su un numero ristretto di aree che, secondo me, hanno il maggior potenziale per migliorare direttamente la qualità della vita umana. Le cinque categorie che mi entusiasmano di più sono:

Biologia e salute fisica
Neuroscienze e salute mentale
Sviluppo economico e povertà
Pace e governance
Lavoro e significato

Le mie previsioni saranno radicali secondo molti standard (tranne che per le visioni di fantascienza più estreme), ma le intendo sinceramente. Tutto ciò che sto dicendo potrebbe facilmente rivelarsi errato, ma ho cercato almeno di basare le mie opinioni su una valutazione semi-analitica di quanto progresso potremmo fare in vari campi e cosa questo significherebbe nella pratica. Sono fortunato ad avere esperienza professionale sia in biologia che in neuroscienze, e ho una conoscenza amatoriale informata nel campo dello sviluppo economico, ma so già che mi sbaglierò su molte cose. Scrivendo questo saggio, mi sono reso conto che sarebbe utile riunire un gruppo di esperti in vari settori (biologia, economia, relazioni internazionali, ecc.) per scrivere una versione molto più informata e accurata di ciò che ho prodotto qui. È probabilmente meglio vedere i miei sforzi come un punto di partenza per quel gruppo.

Ipotesi di base e quadro di riferimento

Per rendere questo saggio più preciso e concreto, è utile specificare chiaramente cosa intendiamo per intelligenza artificiale potente (ovvero, il punto in cui il “conto alla rovescia” di 5-10 anni inizia a contare) e definire un quadro di riferimento per pensare agli effetti di tale intelligenza artificiale una volta che sarà presente.

Cosa sarà l’intelligenza artificiale potente (non mi piace il termine AGI) e quando (o se) arriverà è un argomento enorme di per sé. Ne ho già discusso pubblicamente e probabilmente scriverò un saggio interamente dedicato a questo tema. Ovviamente, molte persone sono scettiche sul fatto che un’intelligenza artificiale potente verrà costruita presto, e alcune sono scettiche sul fatto che sarà costruita affatto. Penso che potrebbe arrivare già nel 2026, anche se ci sono modalità in cui potrebbe richiedere molto più tempo. Ma per i fini di questo saggio, vorrei mettere da parte queste questioni, supporre che arrivi in tempi ragionevolmente brevi, e concentrarmi su cosa accadrà nei 5-10 anni successivi. Inoltre, voglio assumere una definizione di cosa sarà un tale sistema, quali saranno le sue capacità e come interagirà, pur ammettendo che ci sono margini di disaccordo su questi punti.

Per intelligenza artificiale potente, ho in mente un modello di AI—probabilmente simile agli attuali modelli di linguaggio ampio (LLM), anche se potrebbe essere basato su una diversa architettura, coinvolgere più modelli interagenti, o essere addestrato in modo diverso—con le seguenti caratteristiche:

In termini di pura intelligenza, è più intelligente di un vincitore del Premio Nobel in quasi tutti i campi rilevanti—biologia, programmazione, matematica, ingegneria, scrittura, ecc. Questo significa che può dimostrare teoremi matematici irrisolti, scrivere romanzi di altissima qualità, creare da zero complessi codici di programmazione.
Oltre a essere solo una “entità intelligente con cui dialogare”, ha accesso a tutte le interfacce disponibili per un umano che lavora virtualmente, tra cui testo, audio, video, controllo del mouse e della tastiera, e accesso a Internet. Può impegnarsi in qualsiasi tipo di azione, comunicazione o operazione remota resa possibile da queste interfacce, inclusi interventi online, direzione di esperimenti, creazione di video, e così via. Svolge tutti questi compiti con una competenza superiore a quella degli esseri umani più capaci al mondo.
Non si limita a rispondere passivamente alle domande; al contrario, può ricevere incarichi che richiedono ore, giorni o settimane per essere completati, e poi li porta a termine autonomamente, come farebbe un dipendente intelligente, chiedendo chiarimenti se necessario.
Non ha un corpo fisico (oltre a esistere su uno schermo), ma può controllare strumenti fisici esistenti, robot o apparecchiature di laboratorio attraverso un computer; in teoria potrebbe persino progettare robot o apparecchiature da utilizzare.

Le risorse utilizzate per addestrare il modello possono essere riconvertite per eseguire milioni di istanze dello stesso modello (questo è in linea con le dimensioni previste per i cluster nel 2027), e il modello può assorbire informazioni e generare azioni a una velocità circa 10-100 volte superiore a quella umana. Tuttavia, potrebbe essere limitato dal tempo di risposta del mondo fisico o del software con cui interagisce.
Ognuna di queste milioni di copie può agire in modo indipendente su compiti non correlati, oppure tutte possono collaborare come farebbero gli esseri umani, forse con sottogruppi specializzati in particolari attività.

Possiamo riassumere tutto questo come “un paese di geni in un datacenter”.

Chiaramente, un’entità del genere sarebbe in grado di risolvere problemi molto complessi in tempi rapidissimi, ma non è facile capire quanto rapidamente. Due posizioni “estreme” sembrano false. Da un lato, si potrebbe pensare che il mondo sarebbe trasformato istantaneamente, su scala di secondi o giorni (la cosiddetta “Singolarità”), poiché l’intelligenza superiore si costruirebbe su se stessa e risolverebbe quasi immediatamente ogni possibile problema scientifico, ingegneristico e operativo. Il problema con questa idea è che esistono limiti fisici e pratici reali, ad esempio nella costruzione di hardware o nella conduzione di esperimenti biologici. Anche un nuovo paese di geni si scontrerebbe con questi limiti. L’intelligenza può essere molto potente, ma non è polvere magica.

D’altra parte, si potrebbe credere che il progresso tecnologico sia già saturo o limitato da fattori reali come i dati disponibili o i vincoli sociali, e che un’intelligenza superiore all’umano aggiungerebbe ben poco. Questo mi sembra altrettanto improbabile: posso pensare a centinaia di problemi scientifici o sociali dove un grande gruppo di persone davvero intelligenti accelererebbe notevolmente il progresso, specialmente se non fossero limitati solo all’analisi ma potessero effettivamente agire nel mondo reale (come abbiamo ipotizzato con il nostro “paese di geni”).

Penso che la verità si trovi probabilmente in una via di mezzo tra queste due visioni estreme, qualcosa che varia a seconda del compito e del settore, e che nei dettagli sia molto sottile. Credo che abbiamo bisogno di nuovi quadri concettuali per pensare a questi dettagli in modo produttivo.

Gli economisti parlano spesso di “fattori della produzione”, come lavoro, terra e capitale. L’idea di “rendimenti marginali del lavoro/terra/capitale” cattura il concetto che in una determinata situazione, un fattore può o non può essere il limite principale—ad esempio, un’aeronautica ha bisogno sia di aerei che di piloti, e assumere più piloti non aiuta se mancano gli aerei. Credo che nell’era dell’intelligenza artificiale, dovremmo parlare di “rendimenti marginali dell’intelligenza” e cercare di capire quali siano gli altri fattori che diventano complementari all’intelligenza e che ne limitano i rendimenti quando essa è molto alta. Non siamo abituati a pensare in questo modo, a chiederci “quanto aiuta essere più intelligenti in questo compito, e su che scala temporale?”, ma sembra il modo giusto di concettualizzare un mondo con intelligenza artificiale molto potente.

La mia ipotesi su una lista di fattori che limitano o sono complementari all’intelligenza include:

Velocità del mondo esterno. Gli agenti intelligenti devono interagire con il mondo reale per ottenere risultati e imparare, ma il mondo si muove a una velocità fissa. Le cellule e gli animali funzionano a una velocità predeterminata, quindi gli esperimenti su di essi richiedono un certo tempo che potrebbe essere irreducibile. Lo stesso vale per l’hardware, la scienza dei materiali, la comunicazione con le persone e persino l’infrastruttura software esistente. Inoltre, molti esperimenti scientifici devono essere svolti in sequenza, ognuno dei quali apprende dall’esperimento precedente. Questo significa che la velocità con cui può essere completato un progetto complesso—come lo sviluppo di una cura per il cancro—potrebbe avere un minimo irreducibile che non può essere ulteriormente ridotto, anche se l’intelligenza continua ad aumentare.
Necessità di dati. A volte manca semplicemente il dato grezzo, e in sua assenza più intelligenza non aiuta. I fisici delle particelle di oggi sono molto ingegnosi e hanno sviluppato una vasta gamma di teorie, ma mancano i dati per scegliere tra di esse perché i dati degli acceleratori di particelle sono limitati. Non è chiaro che farebbero molto meglio se fossero super-intelligenti, se non forse accelerando la costruzione di un acceleratore più grande.
Complessità intrinseca. Alcune cose sono intrinsecamente imprevedibili o caotiche, e anche l’intelligenza artificiale più potente non può fare molto meglio di un essere umano o di un computer attuale nel prevederle o districarle. Ad esempio, anche un’AI estremamente potente potrebbe prevedere solo leggermente meglio il comportamento a lungo termine in un sistema caotico, come il problema dei tre corpi, rispetto a quello che fanno gli umani e i computer oggi.
Vincoli imposti dagli esseri umani. Molte cose non possono essere fatte senza infrangere leggi, danneggiare persone o destabilizzare la società. Un’AI allineata non vorrebbe fare queste cose (e se abbiamo un’AI non allineata, torniamo a discutere dei rischi). Molte strutture sociali umane sono inefficaci o persino dannose, ma difficili da cambiare rispettando limiti come i requisiti legali per le sperimentazioni cliniche, la disponibilità delle persone a cambiare le proprie abitudini o il comportamento dei governi. Esempi di progressi che funzionano bene a livello tecnico ma il cui impatto è stato notevolmente ridotto dalla regolamentazione o da paure infondate includono l’energia nucleare, il volo supersonico e persino gli ascensori.
Leggi fisiche. Questa è una versione più severa del primo punto. Esistono leggi fisiche che sembrano insormontabili. Non è possibile viaggiare più velocemente della luce. La crema non si “smescola” da sola. I chip possono avere solo un certo numero di transistor per centimetro quadrato prima di diventare inaffidabili. La computazione richiede una certa quantità minima di energia per bit cancellato, limitando la densità della computazione nel mondo.

Esiste anche una distinzione basata sulle tempistiche. Ciò che è un limite rigido nel breve termine potrebbe diventare più malleabile con l’aumento dell’intelligenza nel lungo periodo. Ad esempio, l’intelligenza potrebbe essere utilizzata per sviluppare nuovi paradigmi sperimentali che ci permettano di imparare in vitro ciò che prima richiedeva esperimenti su animali vivi, o per costruire gli strumenti necessari per raccogliere nuovi dati (come un acceleratore di particelle più grande), o per trovare modi eticamente accettabili per aggirare i vincoli umani (ad esempio migliorando il sistema delle sperimentazioni cliniche o creando nuove giurisdizioni con meno burocrazia).

Quindi, dovremmo immaginare uno scenario in cui l’intelligenza è inizialmente fortemente limitata da altri fattori di produzione, ma col tempo l’intelligenza stessa inizia a “aggirare” questi fattori, anche se non si dissolvono mai completamente (e alcune cose, come le leggi fisiche, sono assolute). La domanda chiave è quanto rapidamente accadrà tutto questo e in quale ordine.

Con questo quadro di riferimento in mente, cercherò di rispondere a questa domanda per le cinque aree menzionate nell’introduzione.

1. Biologia e salute

La biologia è probabilmente l’area in cui il progresso scientifico ha il maggiore potenziale per migliorare in modo diretto e inequivocabile la qualità della vita umana. Nell’ultimo secolo, alcune delle malattie più antiche e devastanti per l’umanità (come il vaiolo) sono state finalmente debellate, ma molte altre rimangono ancora, e sconfiggerle rappresenterebbe un enorme successo umanitario. Oltre a curare le malattie, la scienza biologica potrebbe in linea di principio migliorare lo stato di salute umano di base, prolungando la vita in buona salute, aumentando il controllo sui nostri processi biologici e affrontando problemi quotidiani che oggi consideriamo immutabili.

Nel linguaggio dei “fattori limitanti” della sezione precedente, le principali sfide nell’applicare direttamente l’intelligenza alla biologia riguardano i dati, la velocità del mondo fisico e la complessità intrinseca (in effetti, tutti e tre sono collegati tra loro). Anche i vincoli umani giocano un ruolo in una fase successiva, quando sono coinvolte le sperimentazioni cliniche. Esaminiamoli uno alla volta.

Gli esperimenti su cellule, animali e persino processi chimici sono limitati dalla velocità del mondo fisico: molti protocolli biologici richiedono la coltura di batteri o altre cellule, o semplicemente l’attesa che avvengano reazioni chimiche, e ciò può richiedere giorni o persino settimane, senza evidenti modi per accelerare il processo. Gli esperimenti sugli animali possono richiedere mesi (o più), e gli esperimenti sugli esseri umani spesso richiedono anni (o addirittura decenni per gli studi sugli esiti a lungo termine). In modo correlato, spesso mancano dati—non tanto in quantità, quanto in qualità: esiste sempre una carenza di dati chiari e inequivocabili che isolino un effetto biologico di interesse da altre migliaia di variabili che influenzano il processo, o che intervengano in modo causale su un determinato fenomeno, o che misurino direttamente un effetto (anziché inferirne le conseguenze in modo indiretto o approssimativo). Anche i dati molecolari massivi e quantitativi, come quelli che ho raccolto lavorando su tecniche di spettrometria di massa, sono rumorosi e mancano di molte informazioni (quali tipi di cellule contenevano queste proteine? Quale parte della cellula? In quale fase del ciclo cellulare?).

Responsabile di questi problemi di dati è, in parte, la complessità intrinseca: se hai mai visto un diagramma che mostra la biochimica del metabolismo umano, saprai quanto sia difficile isolare l’effetto di una singola parte di questo sistema complesso, e ancora più difficile intervenire in modo preciso e prevedibile. Infine, oltre al tempo intrinseco che richiede condurre un esperimento sugli esseri umani, le sperimentazioni cliniche reali coinvolgono molta burocrazia e requisiti regolatori che (secondo molti, me compreso) aggiungono tempo inutile e rallentano i progressi.

Per tutti questi motivi, molti biologi sono stati a lungo scettici riguardo all’utilità dell’intelligenza artificiale e dei “big data” in biologia. Storicamente, i matematici, informatici e fisici che hanno applicato le loro competenze alla biologia negli ultimi 30 anni hanno avuto successo, ma non l’impatto veramente trasformativo che si sperava inizialmente. Parte dello scetticismo è stato ridimensionato da importanti scoperte rivoluzionarie come AlphaFold (che ha meritato il Nobel per la Chimica) e AlphaProteo, ma c’è ancora la percezione che l’intelligenza artificiale sia (e continuerà a essere) utile solo in un numero limitato di circostanze. Una formulazione comune è: “L’AI può fare un lavoro migliore nell’analizzare i tuoi dati, ma non può produrre più dati o migliorarne la qualità. Se i dati sono scarsi, il risultato sarà comunque scarso.”

Credo, tuttavia, che questa visione pessimistica stia considerando l’intelligenza artificiale nel modo sbagliato. Se la nostra ipotesi di base sul progresso dell’AI è corretta, allora il modo giusto di vedere l’AI non è come uno strumento per analizzare i dati, ma come un biologo virtuale che svolge tutte le attività che fanno i biologi, inclusa la progettazione e l’esecuzione di esperimenti nel mondo reale (controllando robot di laboratorio o semplicemente indicando agli umani quali esperimenti eseguire—come farebbe un principale investigatore con i suoi dottorandi), inventando nuovi metodi biologici o tecniche di misurazione, e così via. È velocizzando l’intero processo di ricerca che l’AI può veramente accelerare la biologia. Voglio ripetere questo punto perché è il malinteso più comune che emerge quando parlo della capacità dell’AI di trasformare la biologia: non sto parlando dell’AI come mero strumento per analizzare i dati. In linea con la definizione di intelligenza artificiale potente data all’inizio di questo saggio, sto parlando di un’AI in grado di eseguire, dirigere e migliorare quasi tutto ciò che i biologi fanno.

Per entrare più nello specifico su dove penso che l’accelerazione sarà più evidente, una parte sorprendentemente ampia del progresso in biologia è derivata da un numero veramente esiguo di scoperte, spesso legate a strumenti o tecniche di misurazione ampie e generalizzabili che consentono interventi programmabili e precisi sui sistemi biologici. Forse una di queste scoperte avviene una volta all’anno e collettivamente esse guidano oltre il 50% del progresso in biologia. Queste scoperte sono così potenti proprio perché riescono a superare la complessità intrinseca e i limiti dei dati, aumentando direttamente la nostra comprensione e il nostro controllo sui processi biologici. Poche scoperte per decennio hanno consentito la maggior parte della nostra comprensione scientifica di base della biologia e hanno guidato molte delle terapie mediche più potenti.

Alcuni esempi includono:

CRISPR: una tecnica che consente la modifica in vivo di qualsiasi gene in organismi viventi (sostituendo una sequenza genica arbitraria con un’altra altrettanto arbitraria). Da quando la tecnica originale è stata sviluppata, sono stati fatti continui miglioramenti per mirare a tipi cellulari specifici, aumentare la precisione e ridurre le modifiche di geni errati—tutte caratteristiche necessarie per l’uso sicuro sugli esseri umani.
Microscopie avanzate: vari tipi di microscopia che consentono di osservare cosa sta succedendo a livello estremamente dettagliato, come la microscopia a fluorescenza, i microscopi elettronici e quelli a forza atomica.
Sequenziamento e sintesi genomica, che hanno ridotto i costi di molti ordini di grandezza negli ultimi decenni.
Tecniche optogenetiche, che permettono di stimolare l’attività di un neurone illuminandolo.
Vaccini a mRNA, che in linea di principio ci permettono di progettare un vaccino contro qualsiasi patogeno e adattarlo rapidamente.
Terapie cellulari come la CAR-T, che consentono di prelevare cellule immunitarie dal corpo e “riprogrammarle” per attaccare, in teoria, qualsiasi minaccia.
Intuizioni concettuali, come la teoria dei germi delle malattie o la scoperta del legame tra sistema immunitario e cancro.

Sto elencando tutte queste tecnologie perché voglio fare una dichiarazione cruciale su di esse: penso che il loro tasso di scoperta potrebbe essere aumentato di 10 volte o più se ci fossero molti più ricercatori talentuosi e creativi. O, per dirla in un altro modo, penso che i rendimenti dell’intelligenza in queste scoperte siano molto elevati e che il resto del progresso in biologia e medicina derivi principalmente da esse.

Perché penso questo? Perché le risposte a determinate domande ci aiutano a valutare i “rendimenti dell’intelligenza”. In primo luogo, queste scoperte sono generalmente fatte da un numero ridotto di ricercatori, spesso le stesse persone più volte, il che suggerisce che si tratti di abilità e non di pura casualità (se fosse solo una ricerca casuale, la lunghezza degli esperimenti sarebbe il fattore limitante). In secondo luogo, molte di queste scoperte avrebbero potuto essere fatte anni prima di quando lo sono state effettivamente: ad esempio, CRISPR era una parte del sistema immunitario naturale dei batteri conosciuta dagli anni ’80, ma ci sono voluti altri 25 anni affinché qualcuno realizzasse che poteva essere riproposta per l’editing genetico. Inoltre, spesso sono state ritardate per anni dalla mancanza di sostegno da parte della comunità scientifica per direzioni promettenti (si vedano i profili di inventori come quelli dei vaccini a mRNA; storie simili abbondano). Terzo, i progetti di successo spesso nascono da iniziative improvvisate o da ripensamenti che all’inizio non sembravano promettenti, piuttosto che da sforzi massicciamente finanziati. Questo suggerisce che non è solo la concentrazione di risorse che guida le scoperte, ma l’ingegno.

Infine, sebbene alcune di queste scoperte abbiano una dipendenza “seriale” (bisogna fare la scoperta A prima di avere gli strumenti o la conoscenza per fare la scoperta B)—il che potrebbe effettivamente causare ritardi sperimentali—molte, forse la maggior parte, sono indipendenti, il che significa che molte possono essere sviluppate in parallelo. Questi fatti, insieme alla mia esperienza generale come biologo, mi portano a credere che ci siano centinaia di scoperte di questo tipo in attesa di essere fatte, se solo gli scienziati fossero più intelligenti e migliori nel connettere le vaste conoscenze biologiche che l’umanità possiede (ancora una volta, l’esempio di CRISPR è emblematico). Il successo di AlphaFold/AlphaProteo, che ha risolto problemi importanti in modo molto più efficace degli umani, nonostante decenni di accurata modellazione fisica, fornisce una prova di principio (anche se con uno strumento limitato in un dominio ristretto) che indica la strada da seguire.

Quindi, la mia ipotesi è che un’AI potente possa almeno decuplicare il tasso di queste scoperte, consentendoci di comprimere i progressi biologici dei prossimi 50-100 anni in soli 5-10 anni. Perché non un aumento di 100 volte? Forse è possibile, ma qui la dipendenza seriale e i tempi degli esperimenti diventano importanti: ottenere 100 anni di progresso in 1 anno richiederebbe che molte cose vadano bene al primo tentativo, inclusi esperimenti sugli animali e attività come la progettazione di microscopi o strutture di laboratorio costose. Sono aperto all’idea (che potrebbe sembrare assurda) che potremmo ottenere 1000 anni di progresso in 5-10 anni, ma sono molto scettico che possiamo ottenere 100 anni in 1 anno. Un altro modo di esprimere questa idea è che penso ci sia un ritardo costante inevitabile: gli esperimenti e la progettazione di hardware hanno una certa “latenza” e devono essere ripetuti un numero di volte “irriducibile” per apprendere cose che non possono essere dedotte logicamente. Tuttavia, è possibile che il parallelismo massivo possa essere sfruttato su questo fronte.

E per quanto riguarda le sperimentazioni cliniche? Sebbene molta della loro lentezza sia dovuta alla burocrazia, la verità è che gran parte di essa deriva dalla necessità di valutare rigorosamente farmaci che funzionano a malapena o in modo ambiguo. Questo purtroppo vale per la maggior parte delle terapie odierne: il farmaco medio per il cancro aumenta la sopravvivenza solo di pochi mesi, mentre ha effetti collaterali significativi che devono essere misurati attentamente (la storia è simile per i farmaci contro l’Alzheimer). Questo porta a studi enormi (per ottenere la potenza statistica necessaria) e a compromessi difficili che le agenzie regolatorie spesso non sono brave a gestire, anche a causa della burocrazia e della complessità degli interessi contrastanti.

Quando qualcosa funziona molto bene, il processo è molto più veloce: esiste una corsia preferenziale per l’approvazione accelerata e la facilità di approvazione è molto maggiore quando gli effetti sono significativi. I vaccini a mRNA per il COVID sono stati approvati in 9 mesi, molto più velocemente del ritmo usuale. Detto ciò, anche in queste condizioni le sperimentazioni cliniche sono ancora troppo lente: i vaccini a mRNA avrebbero dovuto essere approvati in circa 2 mesi. Ma questi tipi di ritardi (circa 1 anno dall’inizio alla fine per un farmaco), combinati con un massiccio parallelismo e la necessità di iterare alcune ma non troppe volte (“qualche tentativo”), sono molto compatibili con una trasformazione radicale in 5-10 anni. Ancora più ottimisticamente, è possibile che la scienza biologica potenziata dall’intelligenza artificiale riduca la necessità di iterare nelle sperimentazioni cliniche sviluppando modelli sperimentali sugli animali e cellulari più accurati nel predire ciò che accadrà negli esseri umani. Questo sarà particolarmente importante nello sviluppo di farmaci contro l’invecchiamento, un processo che si svolge in decenni e per il quale è necessario un ciclo di iterazione più rapido.

Infine, riguardo alle sperimentazioni cliniche e alle barriere sociali, vale la pena sottolineare esplicitamente che, in alcuni modi, le innovazioni biomediche hanno un track record insolitamente positivo nel venire implementate con successo, a differenza di altre tecnologie. Molte tecnologie sono ostacolate da fattori sociali, nonostante funzionino bene a livello tecnico, il che potrebbe suggerire una visione pessimistica su ciò che l’AI potrebbe realizzare. Tuttavia, la biomedicina è unica in quanto, sebbene il processo di sviluppo dei farmaci sia eccessivamente complesso, una volta sviluppati i farmaci, essi vengono generalmente distribuiti e utilizzati con successo.

In sintesi, la mia previsione di base è che la biologia e la medicina potenziate dall’intelligenza artificiale ci permetteranno di comprimere i progressi biologici che gli scienziati umani avrebbero realizzato in 50-100 anni in 5-10 anni. Mi riferirò a questo concetto come “il secolo compresso”, l’idea che, dopo lo sviluppo di un’intelligenza artificiale potente, in pochi anni realizzeremo tutto il progresso biologico e medico che avremmo realizzato nel corso del 21° secolo.

Anche se fare previsioni su cosa potrebbe fare una potente intelligenza artificiale in pochi anni è intrinsecamente difficile e speculativo, c’è una certa concretezza nel chiedersi: “Cosa potrebbero fare gli esseri umani da soli nei prossimi 100 anni?”. Guardando a ciò che abbiamo realizzato nel 20° secolo, o estrapolando dai primi due decenni del 21°, o chiedendoci cosa potrebbe significare avere “10 CRISPR e 50 CAR-T”, possiamo ottenere modi pratici e concreti per stimare il livello di progresso che possiamo aspettarci da un’intelligenza artificiale potente.

Di seguito provo a fare una lista di ciò che potremmo aspettarci. Non è basata su alcuna metodologia rigorosa e si rivelerà quasi sicuramente errata nei dettagli, ma cerca di trasmettere il livello generale di radicalità che dovremmo aspettarci:

Prevenzione e trattamento affidabili per quasi tutte le malattie infettive naturali. Dato l’enorme progresso contro le malattie infettive nel 20° secolo, non è radicale immaginare che potremmo “concludere il lavoro” in questo secolo compresso. I vaccini a mRNA e tecnologie simili già indicano la strada verso “vaccini contro qualsiasi cosa”. Se le malattie infettive saranno completamente eradicate o meno dipenderà da questioni di povertà e disuguaglianza, che discuterò nella sezione 3.
Eliminazione della maggior parte dei tumori. I tassi di mortalità per cancro stanno diminuendo di circa il 2% all’anno negli ultimi decenni, quindi siamo sulla buona strada per eliminare la maggior parte dei tumori nel corso del 21° secolo con il ritmo attuale della scienza. Alcuni sottotipi di cancro sono già stati in gran parte curati (ad esempio alcuni tipi di leucemia con la terapia CAR-T), e sono forse ancora più entusiasta dei farmaci molto selettivi che colpiscono il cancro nella sua fase iniziale, prevenendone la crescita. L’intelligenza artificiale renderà anche possibili regimi di trattamento molto personalizzati, adattati al genoma individuale del cancro: queste terapie esistono già oggi, ma sono estremamente costose in termini di tempo e competenze umane, e l’AI dovrebbe permetterci di scalarle. Riduzioni del 95% o più della mortalità e dell’incidenza sembrano possibili. Detto ciò, il cancro è estremamente vario e adattabile, e sarà probabilmente la malattia più difficile da sradicare completamente. Non sarebbe sorprendente se un assortimento di tumori rari e difficili da trattare persistesse.
Prevenzione e cure efficaci per le malattie genetiche. Un miglior screening degli embrioni renderà probabilmente possibile prevenire la maggior parte delle malattie genetiche, e una versione più sicura e affidabile di CRISPR potrebbe curare la maggior parte delle malattie genetiche nelle persone esistenti. Tuttavia, le affezioni che colpiscono gran parte delle cellule del corpo potrebbero essere le ultime roccaforti a resistere.
Prevenzione dell’Alzheimer. Abbiamo avuto molte difficoltà nel capire cosa causa l’Alzheimer (è in qualche modo legato alla proteina beta-amiloide, ma i dettagli sembrano molto complessi). Questo è esattamente il tipo di problema che può essere risolto con strumenti di misurazione migliori che isolano gli effetti biologici; quindi, sono ottimista sul fatto che l’intelligenza artificiale possa risolverlo. È probabile che alla fine possa essere prevenuto con interventi relativamente semplici, una volta che comprenderemo effettivamente cosa sta accadendo. Tuttavia, invertire i danni dell’Alzheimer già esistente potrebbe essere molto difficile.
Miglior trattamento per la maggior parte delle altre malattie. Questa categoria raccoglie altre malattie come diabete, obesità, malattie cardiache, malattie autoimmuni e altro. Molte di queste sembrano più “facili” da risolvere rispetto al cancro e all’Alzheimer, e in molti casi sono già in forte declino. Ad esempio, i decessi per malattie cardiache sono già diminuiti di oltre il 50%, e semplici interventi come gli agonisti GLP-1 hanno già fatto enormi progressi contro l’obesità e il diabete.
Libertà biologica. Negli ultimi 70 anni abbiamo assistito a progressi nel controllo delle nascite, nella fertilità, nella gestione del peso e molto altro. Ma sospetto che la biologia potenziata dall’intelligenza artificiale amplierà notevolmente ciò che è possibile: il peso, l’aspetto fisico, la riproduzione e altri processi biologici saranno completamente sotto il controllo delle persone. Ci riferiremo a questo come libertà biologica: l’idea che tutti dovrebbero essere liberi di scegliere ciò che vogliono diventare e di vivere la propria vita nel modo che trovano più attraente. Naturalmente, ci saranno importanti questioni sull’uguaglianza globale nell’accesso a queste opportunità; affronterò questo tema nella sezione 3.
Raddoppio della durata della vita umana. Questo potrebbe sembrare radicale, ma l’aspettativa di vita è quasi raddoppiata nel 20° secolo (da circa 40 anni a circa 75), quindi è “in linea con la tendenza” che nel “secolo compresso” essa raddoppi nuovamente fino a 150 anni. Ovviamente, gli interventi necessari per rallentare il processo di invecchiamento saranno diversi da quelli necessari per prevenire le morti premature (soprattutto durante l’infanzia) causate dalle malattie nel secolo scorso, ma la magnitudine del cambiamento non è senza precedenti. Concretamente, esistono già farmaci che aumentano la durata massima della vita nei ratti del 25-50% con effetti collaterali limitati. E alcuni animali (ad esempio alcune specie di tartarughe) vivono già 200 anni, quindi non siamo vicini a un limite teorico. A mio avviso, la cosa più importante di cui abbiamo bisogno potrebbe essere l’identificazione di biomarcatori affidabili e non influenzabili del processo di invecchiamento umano, poiché ciò consentirebbe una rapida iterazione sugli esperimenti e sulle sperimentazioni cliniche. Una volta che l’aspettativa di vita umana sarà di 150 anni, potremmo raggiungere la cosiddetta “velocità di fuga” biologica, garantendo a chi è vivo oggi di vivere quanto desidera, anche se non è certo che ciò sia biologicamente possibile.

Guardare a questa lista e riflettere su quanto sarà diverso il mondo se tutto questo verrà realizzato nei prossimi 7-12 anni (in linea con una tempistica aggressiva per l’intelligenza artificiale) è affascinante. Non c’è bisogno di dire che sarebbe un trionfo umanitario senza precedenti, eliminando in un colpo solo molte delle piaghe che hanno afflitto l’umanità per millenni. Molti dei miei amici e colleghi stanno crescendo figli, e quando questi bambini cresceranno, spero che qualsiasi menzione di malattie suoni loro come a noi suonano oggi scorbuto, vaiolo o peste bubbonica. Quella generazione beneficerà anche di una maggiore libertà biologica ed espressione personale, e con un po’ di fortuna, potrà vivere per tutto il tempo che desidera.

È difficile sopravvalutare quanto sorprendenti saranno questi cambiamenti per chiunque, ad eccezione della piccola comunità di persone che si aspettavano un’intelligenza artificiale potente. Ad esempio, migliaia di economisti e esperti di politica negli Stati Uniti attualmente discutono su come mantenere solvibili la sicurezza sociale e Medicare, e più in generale, su come contenere i costi dell’assistenza sanitaria (che è principalmente consumata da persone sopra i 70 anni e, in particolare, da coloro che soffrono di malattie terminali come il cancro). La situazione di questi programmi potrebbe migliorare radicalmente se tutto ciò accadrà, poiché il rapporto tra popolazione in età lavorativa e popolazione in pensione cambierà drasticamente. Senza dubbio, queste sfide saranno sostituite da altre, come garantire l’accesso diffuso alle nuove tecnologie, ma vale la pena riflettere su quanto il mondo cambierà, anche se la biologia sarà l’unica area a essere accelerata dall’intelligenza artificiale.

2. Neuroscienze e mente

Nella sezione precedente mi sono concentrato sulle malattie fisiche e sulla biologia in generale, senza affrontare le neuroscienze o la salute mentale. Tuttavia, le neuroscienze sono una sotto-disciplina della biologia e la salute mentale è importante quanto la salute fisica. Anzi, se possibile, la salute mentale influisce sul benessere umano in modo ancora più diretto della salute fisica. Centinaia di milioni di persone hanno una qualità di vita molto bassa a causa di problemi come dipendenza, depressione, schizofrenia, autismo a basso funzionamento, PTSD, psicopatia o disabilità intellettive. Miliardi di altre persone lottano con problemi quotidiani che spesso possono essere interpretati come versioni più lievi di questi disturbi clinici gravi. E, come per la biologia generale, potrebbe essere possibile andare oltre la risoluzione dei problemi per migliorare la qualità di base dell’esperienza umana.

Il quadro di base che ho delineato per la biologia si applica altrettanto bene alle neuroscienze. Il campo è guidato da un piccolo numero di scoperte spesso legate a strumenti di misurazione o intervento preciso—nella lista sopra, le optogenetiche sono una scoperta neuroscientifica, e più recentemente tecnologie come la CLARITY e la microscopia a espansione rappresentano progressi nello stesso filone, oltre al fatto che molte delle tecniche generali di biologia cellulare sono trasferibili direttamente alle neuroscienze. Penso che il tasso di questi progressi sarà accelerato dall’intelligenza artificiale allo stesso modo, e per le stesse ragioni, e quindi il concetto di “100 anni di progresso in 5-10 anni” si applica anche alle neuroscienze, proprio come per la biologia. Come nella biologia, i progressi nelle neuroscienze nel 20° secolo sono stati enormi—ad esempio, non comprendevamo nemmeno il motivo per cui i neuroni si attivano fino agli anni ’50. Dunque, sembra ragionevole aspettarsi che le neuroscienze potenziate dall’intelligenza artificiale producano rapidi progressi nel giro di pochi anni.

C’è un elemento che dobbiamo aggiungere a questo quadro di base, ed è che alcune delle cose che abbiamo appreso (o stiamo imparando) sull’intelligenza artificiale negli ultimi anni potrebbero aiutare a far progredire le neuroscienze, anche se continuano a essere eseguite solo dagli esseri umani. L’interpretabilità è un esempio ovvio: sebbene i neuroni biologici operino in modo apparentemente molto diverso dai neuroni artificiali (comunicano attraverso impulsi e spesso mediante la frequenza degli impulsi, quindi c’è un elemento temporale che non è presente nei neuroni artificiali, e una serie di dettagli legati alla fisiologia cellulare e ai neurotrasmettitori modifica sostanzialmente il loro funzionamento), la domanda di base su “come fanno le reti distribuite di unità semplici ad allenarsi e a operare insieme per eseguire importanti calcoli” è la stessa, e sospetto fortemente che i dettagli della comunicazione tra neuroni individuali saranno trascurabili nella maggior parte delle domande interessanti sui calcoli e sui circuiti. A titolo di esempio, un meccanismo computazionale scoperto recentemente dai ricercatori nell’interpretabilità dei sistemi di intelligenza artificiale è stato riscoperto nel cervello dei topi.

È molto più facile fare esperimenti sulle reti neurali artificiali che su quelle reali (le seconde spesso richiedono di tagliare i cervelli degli animali), quindi l’interpretabilità potrebbe benissimo diventare uno strumento per migliorare la nostra comprensione delle neuroscienze. Inoltre, le intelligenze artificiali potenti saranno probabilmente in grado di sviluppare e applicare questo strumento meglio di quanto possano fare gli esseri umani.

Oltre all’interpretabilità, ciò che abbiamo imparato dall’intelligenza artificiale su come vengono addestrati i sistemi intelligenti dovrebbe (anche se non sono sicuro che lo abbia ancora fatto) provocare una rivoluzione nelle neuroscienze. Quando lavoravo nel campo delle neuroscienze, molte persone si concentravano su quelle che ora considero le domande sbagliate sull’apprendimento, perché il concetto di ipotesi della scalabilità non esisteva ancora. L’idea che una semplice funzione obiettivo più una grande quantità di dati possa generare comportamenti incredibilmente complessi rende più interessante capire le funzioni obiettivo e i bias architettonici, e meno interessante comprendere i dettagli dei calcoli emergenti. Non seguo da vicino il campo da diversi anni, ma ho la vaga sensazione che i neuroscienziati computazionali non abbiano ancora pienamente assorbito questa lezione. La mia attitudine verso l’ipotesi della scalabilità è sempre stata: “Ah, ecco una spiegazione, a un livello alto, di come funziona l’intelligenza e di come si sia evoluta così facilmente”, ma non credo che questa sia la visione media di un neuroscienziato, in parte perché l’ipotesi della scalabilità come “segreto dell’intelligenza” non è ancora pienamente accettata neanche nel campo dell’IA.

Credo che i neuroscienziati dovrebbero cercare di combinare questa intuizione di base con le particolarità del cervello umano (limitazioni biofisiche, storia evolutiva, topologia, dettagli degli input/output motori e sensoriali) per cercare di risolvere alcuni dei principali enigmi delle neuroscienze. Alcuni probabilmente lo stanno già facendo, ma sospetto che non sia abbastanza, e che i neuroscienziati potenziati dall’intelligenza artificiale saranno in grado di sfruttare più efficacemente questa prospettiva per accelerare i progressi.

Mi aspetto che l’intelligenza artificiale acceleri i progressi nelle neuroscienze lungo quattro direttrici distinte, tutte con il potenziale di lavorare insieme per curare le malattie mentali e migliorare il funzionamento generale del cervello umano:

Biologia molecolare, chimica e genetica tradizionali: Questa è sostanzialmente la stessa storia della biologia generale descritta nella sezione precedente, e l’intelligenza artificiale può probabilmente accelerare i progressi con gli stessi meccanismi. Ci sono molti farmaci che modulano i neurotrasmettitori per alterare la funzione cerebrale, influenzare la vigilanza o la percezione, cambiare l’umore, ecc., e l’AI può aiutarci a inventarne molti altri. L’intelligenza artificiale probabilmente accelererà anche la ricerca sulla base genetica delle malattie mentali.
Misurazione e intervento neurale fine: Questa si riferisce alla capacità di misurare cosa fanno un gran numero di singoli neuroni o circuiti neuronali e di intervenire per modificare il loro comportamento. Le optogenetiche e le sonde neurali sono tecnologie capaci sia di misurazione che di intervento su organismi viventi, e diverse tecniche avanzate (come le “molecular ticker tapes” per leggere i modelli di attivazione di molti singoli neuroni) sono state proposte e sembrano possibili in linea di principio.
Neuroscienze computazionali avanzate: Come già accennato, sia le intuizioni specifiche che la visione generale dei moderni sistemi di intelligenza artificiale possono probabilmente essere applicate fruttuosamente a domande delle neuroscienze dei sistemi, incluso forse scoprire le cause reali e la dinamica delle malattie complesse come psicosi o disturbi dell’umore.
Interventi comportamentali: Non l’ho menzionato molto, data la focalizzazione sulla biologia delle neuroscienze, ma la psichiatria e la psicologia hanno ovviamente sviluppato un ampio repertorio di interventi comportamentali durante il 20° secolo; sembra ragionevole pensare che l’intelligenza artificiale possa accelerare anche questi, sia nello sviluppo di nuovi metodi che nell’aiutare i pazienti ad aderire ai metodi esistenti. Più in generale, l’idea di un “coach AI” che ti aiuta costantemente a essere la versione migliore di te stesso, che studia le tue interazioni e ti aiuta a imparare a essere più efficace, sembra molto promettente.

La mia ipotesi è che questi quattro percorsi di progresso, lavorando insieme, porterebbero, come per le malattie fisiche, alla cura o alla prevenzione della maggior parte delle malattie mentali nei prossimi 100 anni, anche senza l’AI—e quindi potrebbero essere completati entro 5-10 anni di accelerazione dell’intelligenza artificiale. Concretamente, la mia previsione su ciò che potrebbe accadere è qualcosa come:

La maggior parte delle malattie mentali potrebbe probabilmente essere curata. Non sono un esperto di malattie psichiatriche (quando lavoravo nelle neuroscienze, mi occupavo di costruire sonde per studiare piccoli gruppi di neuroni), ma credo che malattie come PTSD, depressione, schizofrenia, dipendenze, ecc. possano essere comprese e trattate molto efficacemente attraverso una combinazione dei quattro percorsi sopra menzionati. La risposta è probabilmente una combinazione di “qualcosa è andato storto a livello biochimico” (anche se potrebbe essere molto complesso) e “qualcosa è andato storto nella rete neurale, a un livello elevato”. Cioè, è una questione di neuroscienze dei sistemi—anche se questo non sminuisce l’impatto degli interventi comportamentali discussi sopra. Gli strumenti per la misurazione e l’intervento, soprattutto sugli esseri umani vivi, sembrano probabili per portare a rapidi progressi.
Le condizioni “strutturali” potrebbero essere più difficili da risolvere, ma non impossibili. Ci sono prove che la psicopatia sia associata a differenze neuroanatomiche evidenti—alcune regioni del cervello sono semplicemente più piccole o meno sviluppate nei psicopatici. Si crede anche che i psicopatici manchino di empatia fin dalla giovane età; qualunque sia la differenza nel loro cervello, probabilmente è stata sempre presente. Lo stesso potrebbe essere vero per alcune disabilità intellettive e forse altre condizioni. Ristrutturare il cervello sembra difficile, ma è anche un compito con alti rendimenti all’intelligenza. Forse esiste un modo per indurre il cervello adulto in uno stato più plastico o giovanile, permettendo una riorganizzazione. Sono molto incerto sulla fattibilità di questo, ma il mio istinto è ottimista su ciò che l’intelligenza artificiale potrebbe inventare qui.
La prevenzione genetica delle malattie mentali sembra possibile. La maggior parte delle malattie mentali ha una componente ereditaria, e gli studi di associazione genome-wide (GWAS) stanno iniziando a identificare i fattori rilevanti, che spesso sono molti. Sarà probabilmente possibile prevenire la maggior parte di queste malattie attraverso la selezione degli embrioni, simile a quanto già accennato per le malattie fisiche. Una differenza è che le malattie psichiatriche sono più probabilmente poligeniche (molti geni contribuiscono), quindi, a causa della complessità, c’è un rischio maggiore di selezionare inconsapevolmente contro tratti positivi correlati alla malattia. Tuttavia, negli ultimi anni, alcuni studi GWAS sembrano suggerire che queste correlazioni potrebbero essere state sopravvalutate. In ogni caso, le neuroscienze accelerate dall’intelligenza artificiale potrebbero aiutarci a capire meglio queste dinamiche. Naturalmente, la selezione degli embrioni per tratti complessi solleva diverse questioni sociali e sarà controversa, anche se immagino che la maggior parte delle persone appoggerebbe la selezione contro malattie mentali gravi o debilitanti.
Problemi quotidiani che non consideriamo malattie cliniche saranno risolti. La maggior parte di noi ha problemi psicologici quotidiani che non vengono generalmente considerati come malattie cliniche. Alcune persone si arrabbiano facilmente, altre hanno difficoltà a concentrarsi o si sentono spesso assonnate, alcune sono ansiose o temono il cambiamento. Oggi, esistono già farmaci per aiutare con vigilanza o concentrazione (caffeina, modafinil, ritalin), ma come in molte altre aree precedenti, molto di più è probabilmente possibile. Probabilmente esistono molti più farmaci di questo tipo che non sono stati ancora scoperti, e potrebbero esserci anche nuove modalità di intervento, come la stimolazione luminosa mirata (vedi optogenetica sopra) o campi magnetici. Dato quanti farmaci abbiamo sviluppato nel 20° secolo per modulare la funzione cognitiva e lo stato emotivo, sono molto ottimista su un “secolo compresso” in cui tutti possono ottenere che il proprio cervello si comporti un po’ meglio e avere un’esperienza quotidiana più appagante.
L’esperienza umana di base può essere molto migliorata. Facendo un passo avanti, molte persone hanno sperimentato momenti straordinari di rivelazione, ispirazione creativa, compassione, trascendenza, amore, bellezza o pace meditativa. Il carattere e la frequenza di queste esperienze varia molto da persona a persona e nella stessa persona in momenti diversi, e a volte possono essere indotti da varie droghe (anche se spesso con effetti collaterali). Tutto ciò suggerisce che lo “spazio di ciò che è possibile sperimentare” è molto ampio e che una frazione maggiore della vita delle persone potrebbe essere costituita da questi momenti straordinari. È probabilmente anche possibile migliorare varie funzioni cognitive su tutta la linea. Questa è forse la versione neuroscientifica della “libertà biologica” o delle “vite prolungate”.

Un argomento che spesso emerge nelle raffigurazioni fantascientifiche dell’intelligenza artificiale, ma che non ho discusso qui, è il “caricamento della mente”, ovvero l’idea di catturare il modello e la dinamica del cervello umano e realizzarli nel software. Questo tema potrebbe essere l’oggetto di un saggio intero, ma basti dire che, sebbene io pensi che il caricamento sia quasi certamente possibile in linea di principio, in pratica affronta sfide tecnologiche e sociali significative, anche con una potente intelligenza artificiale, che probabilmente lo collocano al di fuori della finestra temporale di 5-10 anni che stiamo discutendo.

In sintesi, le neuroscienze accelerate dall’intelligenza artificiale probabilmente miglioreranno enormemente i trattamenti per la maggior parte delle malattie mentali o addirittura le cureranno, oltre ad ampliare notevolmente la “libertà cognitiva e mentale” e le capacità cognitive ed emotive degli esseri umani. Sarà tanto radicale quanto i miglioramenti nella salute fisica descritti nella sezione precedente. Forse il mondo non sarà visibilmente diverso all’esterno, ma il mondo come sarà vissuto dagli esseri umani sarà un luogo molto migliore e più umano, nonché un luogo che offrirà maggiori opportunità di realizzazione personale. Sospetto anche che un miglioramento della salute mentale migliorerà molti altri problemi sociali, inclusi quelli che oggi sembrano di natura politica o economica.

3. Sviluppo economico e povertà

Le due sezioni precedenti hanno trattato dello sviluppo di nuove tecnologie che curano le malattie e migliorano la qualità della vita umana. Tuttavia, una domanda ovvia dal punto di vista umanitario è: “Tutti avranno accesso a queste tecnologie?”

È una cosa sviluppare una cura per una malattia, è un’altra cosa eradicare la malattia dal mondo. Più in generale, molte delle attuali innovazioni sanitarie non sono ancora applicate ovunque, e lo stesso vale per i miglioramenti tecnologici non legati alla salute. Un altro modo di esprimerlo è che i livelli di vita in molte parti del mondo sono ancora disperatamente bassi: il PIL pro capite è di circa 2.000 dollari in Africa subsahariana, rispetto ai circa 75.000 dollari negli Stati Uniti. Se l’intelligenza artificiale aumenta ulteriormente la crescita economica e la qualità della vita nei paesi sviluppati, facendo poco per aiutare il mondo in via di sviluppo, dovremmo considerare questo come un terribile fallimento morale, una macchia sui veri successi umanitari descritti nelle due sezioni precedenti. Idealmente, una potente intelligenza artificiale dovrebbe aiutare il mondo in via di sviluppo a colmare il divario con il mondo sviluppato, anche mentre rivoluziona quest’ultimo.

Non sono così fiducioso che l’intelligenza artificiale possa affrontare disuguaglianze e crescita economica quanto lo sono sul suo potenziale di invenzione di tecnologie fondamentali, perché la tecnologia ha ovvi ritorni elevati all’intelligenza (inclusa la capacità di superare complessità e mancanza di dati), mentre l’economia comporta molti vincoli umani, oltre a una grande dose di complessità intrinseca. Sono un po’ scettico che un’intelligenza artificiale possa risolvere il famoso “problema del calcolo socialista” e non penso che i governi consegneranno (o dovrebbero consegnare) la loro politica economica a un tale ente, anche se potesse farlo. Ci sono anche problemi come convincere le persone ad accettare trattamenti che sono efficaci ma di cui potrebbero essere sospettosi.

Le sfide che il mondo in via di sviluppo deve affrontare sono rese ancora più complicate dalla corruzione diffusa sia nel settore pubblico che privato. La corruzione crea un circolo vizioso: peggiora la povertà, e la povertà, a sua volta, genera più corruzione. I piani di sviluppo economico guidati dall’intelligenza artificiale devono fare i conti con la corruzione, le istituzioni deboli e altre sfide molto umane.

Nonostante ciò, vedo comunque motivi significativi per essere ottimisti. Le malattie sono state eradicate e molti paesi sono passati da poveri a ricchi, e appare chiaro che le decisioni coinvolte in questi compiti mostrano alti rendimenti all’intelligenza (nonostante i vincoli umani e la complessità). Pertanto, l’intelligenza artificiale può probabilmente migliorare l’efficienza di questi processi rispetto a quanto fanno attualmente gli esseri umani. Potrebbero esserci anche interventi mirati che aggirano i vincoli umani e sui quali l’intelligenza artificiale potrebbe concentrarsi. Ancora più importante, però, è che dobbiamo provare. Sia le aziende che sviluppano intelligenza artificiale che i politici del mondo sviluppato dovranno fare la loro parte per garantire che il mondo in via di sviluppo non venga escluso; l’imperativo morale è troppo grande. Quindi, in questa sezione, continuerò a fare il caso ottimistico, ma con la consapevolezza che il successo non è garantito e dipenderà dai nostri sforzi collettivi.

Ecco alcune ipotesi su come penso che le cose potrebbero evolversi nel mondo in via di sviluppo nei 5-10 anni successivi alla creazione di una potente intelligenza artificiale:

Distribuzione degli interventi sanitari. Il campo in cui sono più ottimista è la distribuzione degli interventi sanitari nel mondo. Le malattie sono state effettivamente eradicate grazie a campagne dall’alto verso il basso: il vaiolo è stato completamente eliminato negli anni ’70, e la poliomielite e la dracunculosi sono quasi state eradicate, con meno di 100 casi all’anno. La modellazione epidemiologica sofisticata gioca un ruolo attivo nelle campagne di eradicazione delle malattie, e sembra molto probabile che esista margine perché sistemi di intelligenza artificiale più intelligenti degli esseri umani svolgano meglio questo compito. Anche la logistica della distribuzione può probabilmente essere ottimizzata notevolmente. Una cosa che ho imparato come donatore iniziale di GiveWell è che alcune organizzazioni benefiche sanitarie sono molto più efficaci di altre; la speranza è che gli sforzi accelerati dall’intelligenza artificiale siano ancora più efficaci. Inoltre, alcuni progressi biologici rendono la logistica della distribuzione molto più semplice: ad esempio, la malaria è stata difficile da eradicare perché richiede trattamenti ogni volta che la malattia viene contratta; un vaccino che deve essere somministrato solo una volta rende la logistica molto più semplice (e tali vaccini per la malaria sono in fase di sviluppo). Mentre meccanismi di distribuzione ancora più semplici sono possibili: alcune malattie potrebbero, in linea di principio, essere eradicate prendendo di mira i loro vettori animali, ad esempio rilasciando zanzare infettate da un batterio che blocca la loro capacità di trasmettere una malattia (che poi infettano tutte le altre zanzare) o semplicemente utilizzando drive genetici per eliminare le zanzare. Ciò richiede una o poche azioni centralizzate, piuttosto che una campagna coordinata che deve trattare individualmente milioni di persone. Nel complesso, penso che 5-10 anni siano un orizzonte temporale ragionevole per vedere una buona parte (forse il 50%) dei benefici sanitari generati dall’intelligenza artificiale propagarsi anche nei paesi più poveri del mondo. Un buon obiettivo potrebbe essere che il mondo in via di sviluppo, 5-10 anni dopo l’avvento di una potente intelligenza artificiale, sia almeno sostanzialmente più sano di quanto non lo sia oggi il mondo sviluppato, anche se continuerà a essere in ritardo sotto altri aspetti. Realizzare tutto ciò richiederà ovviamente uno sforzo enorme nel campo della salute globale, della filantropia, della difesa politica e di molti altri settori, ai quali sia gli sviluppatori di intelligenza artificiale che i responsabili delle politiche dovrebbero contribuire.
Crescita economica. Il mondo in via di sviluppo può recuperare rapidamente terreno rispetto al mondo sviluppato, non solo in termini di salute, ma anche in termini economici? C’è qualche precedente per questo: negli ultimi decenni del 20° secolo, diverse economie dell’Asia orientale hanno registrato tassi di crescita del PIL reale del ~10% all’anno, consentendo loro di raggiungere il mondo sviluppato. Pianificatori economici umani hanno preso le decisioni che hanno portato a questo successo, non controllando direttamente intere economie, ma tirando alcune leve chiave (come una politica industriale orientata all’export e resistendo alla tentazione di fare affidamento sulla ricchezza delle risorse naturali); è plausibile che “ministri delle finanze e banchieri centrali AI” possano replicare o superare questo risultato del 10%. Una domanda importante è come convincere i governi del mondo in via di sviluppo ad adottare tali politiche, rispettando il principio dell’autodeterminazione—alcuni potrebbero essere entusiasti, mentre altri potrebbero essere scettici. Sul lato positivo, molti degli interventi sanitari menzionati in precedenza probabilmente aumenteranno organicamente la crescita economica: l’eradicazione di AIDS/malaria/vermi parassiti avrebbe un effetto trasformativo sulla produttività, senza contare i benefici economici che alcuni degli interventi nel campo delle neuroscienze (come un miglioramento dell’umore e della concentrazione) avrebbero sia nel mondo sviluppato che in quello in via di sviluppo. Infine, la tecnologia accelerata dall’intelligenza artificiale, non legata alla salute (come le tecnologie energetiche, i droni di trasporto, i materiali da costruzione migliorati, la logistica e la distribuzione più efficienti, ecc.) potrebbe semplicemente permeare naturalmente il mondo; ad esempio, anche i telefoni cellulari si sono diffusi rapidamente nell’Africa subsahariana tramite meccanismi di mercato, senza bisogno di interventi filantropici.

Sicurezza alimentare: I progressi nella tecnologia agricola, come fertilizzanti e pesticidi migliori, automazione avanzata e un uso più efficiente del suolo, hanno drasticamente aumentato i rendimenti agricoli nel corso del 20° secolo, salvando milioni di persone dalla fame. L’ingegneria genetica sta già migliorando molte colture e trovare nuovi modi per farlo—così come rendere ancora più efficienti le catene di approvvigionamento agricolo—potrebbe portarci a una seconda “rivoluzione verde” guidata dall’intelligenza artificiale, aiutando a colmare il divario tra il mondo in via di sviluppo e quello sviluppato.
Mitigazione del cambiamento climatico: Il cambiamento climatico avrà un impatto molto più forte nel mondo in via di sviluppo, ostacolando il suo sviluppo. Possiamo aspettarci che l’intelligenza artificiale porti a miglioramenti nelle tecnologie che rallentano o prevengono il cambiamento climatico, come la rimozione del carbonio atmosferico e le tecnologie energetiche pulite, fino alla carne coltivata in laboratorio, che ridurrà la nostra dipendenza dagli allevamenti intensivi. Naturalmente, come discusso in precedenza, la tecnologia non è l’unico limite ai progressi sul cambiamento climatico—così come per gli altri problemi trattati in questo saggio, i fattori sociali umani sono cruciali. Tuttavia, ci sono buone ragioni per credere che la ricerca potenziata dall’intelligenza artificiale ci fornirà i mezzi per rendere la mitigazione del cambiamento climatico molto meno costosa e distruttiva, rendendo obsoleti molti degli ostacoli e liberando i paesi in via di sviluppo per progredire economicamente.
Disuguaglianze all’interno dei paesi: Ho parlato principalmente della disuguaglianza come fenomeno globale (che ritengo la sua manifestazione più importante), ma ovviamente esiste disuguaglianza anche all’interno dei singoli paesi. Con interventi sanitari avanzati e, soprattutto, aumenti radicali della durata della vita o farmaci che migliorano le capacità cognitive, ci saranno sicuramente preoccupazioni legittime che queste tecnologie siano “solo per i ricchi”. Sono più ottimista riguardo alle disuguaglianze all’interno dei paesi sviluppati per due motivi. Primo, i mercati funzionano meglio nel mondo sviluppato, e i mercati tendono a ridurre il costo delle tecnologie di alto valore nel tempo. Secondo, le istituzioni politiche nei paesi sviluppati sono più reattive ai cittadini e hanno una maggiore capacità statale per attuare programmi di accesso universale—e mi aspetto che i cittadini chiedano accesso a tecnologie che migliorano radicalmente la qualità della vita. Ovviamente non è predeterminato che tali richieste avranno successo—e qui è un’altra area in cui dobbiamo fare tutto il possibile per garantire una società equa. C’è anche il problema separato della disuguaglianza di ricchezza (in contrapposizione alla disuguaglianza di accesso alle tecnologie salvavita o che migliorano la vita), che sembra più difficile da risolvere e che affronterò nella sezione 5.
Il problema dell’autoesclusione: Una preoccupazione sia per il mondo sviluppato che per quello in via di sviluppo è che le persone si autoescludano dai benefici dell’intelligenza artificiale (simile al movimento novax o ai movimenti luddisti in generale). Potrebbero crearsi cicli negativi in cui, ad esempio, le persone meno in grado di prendere buone decisioni rifiutano le tecnologie che migliorerebbero le loro capacità decisionali, portando a un divario sempre maggiore e persino creando una sottoclasse distopica (alcuni ricercatori hanno sostenuto che questo potrebbe minare la democrazia, un tema che approfondirò nella prossima sezione). Questo getterebbe nuovamente una macchia morale sui progressi positivi dell’intelligenza artificiale. Questo è un problema difficile da risolvere, poiché non penso che sia eticamente accettabile costringere le persone, ma possiamo almeno tentare di aumentare la comprensione scientifica—e forse l’intelligenza artificiale stessa potrebbe aiutarci in questo. Un segno incoraggiante è che storicamente i movimenti anti-tecnologia hanno mostrato molta più retorica che azione: opporsi alla tecnologia moderna è popolare, ma alla fine la maggior parte delle persone la adotta, almeno quando si tratta di scelte individuali. Le tecnologie sanitarie e di consumo sono generalmente adottate, mentre le tecnologie davvero ostacolate, come l’energia nucleare, tendono a essere decisioni collettive politiche.

Nel complesso, sono ottimista riguardo alla rapida diffusione dei benefici biologici dell’intelligenza artificiale nel mondo in via di sviluppo. Sono speranzoso, sebbene non sicuro, che l’intelligenza artificiale possa anche permettere tassi di crescita economica senza precedenti e consentire al mondo in via di sviluppo di superare almeno lo stato attuale del mondo sviluppato. Sono preoccupato per il problema dell’autoesclusione sia nel mondo sviluppato che in quello in via di sviluppo, ma sospetto che alla fine si risolverà e che l’intelligenza artificiale possa accelerare questo processo. Non sarà un mondo perfetto, e chi è rimasto indietro non colmerà completamente il divario, almeno non nei primi anni. Ma con sforzi forti da parte nostra, potremmo riuscire a indirizzare le cose nella giusta direzione—e in fretta. Se ci riusciremo, potremo fare almeno un primo passo verso la realizzazione delle promesse di dignità ed equità che dobbiamo a ogni essere umano sulla Terra.

4. Pace e governo

Supponiamo che tutto nelle prime tre sezioni vada per il meglio: malattie, povertà e disuguaglianze vengono significativamente ridotte e la qualità di vita umana viene innalzata. Non segue necessariamente che tutte le principali cause di sofferenza umana siano risolte. Gli esseri umani rimangono comunque una minaccia per gli altri esseri umani. Sebbene ci sia una tendenza per cui il miglioramento tecnologico e lo sviluppo economico portano alla democrazia e alla pace, è una tendenza molto labile, con frequenti (e recenti) arretramenti. All’alba del 20° secolo, molti credevano di aver messo la guerra alle spalle; poi arrivarono le due guerre mondiali. Trent’anni fa Francis Fukuyama scriveva della “fine della storia” e del trionfo definitivo della democrazia liberale; ciò non è ancora avvenuto. Venti anni fa, i politici statunitensi credevano che il libero scambio con la Cina avrebbe portato alla sua liberalizzazione con il progredire della ricchezza; questo non è accaduto, e ora sembriamo diretti verso una seconda guerra fredda con un blocco autoritario in ripresa. E ci sono teorie plausibili secondo cui la tecnologia di internet potrebbe addirittura favorire l’autoritarismo, contrariamente a quanto inizialmente creduto (ad esempio durante il periodo della “Primavera araba”). Sembra quindi importante cercare di comprendere come l’intelligenza artificiale interagirà con queste problematiche di pace, democrazia e libertà.

Sfortunatamente, non vedo alcuna ragione forte per credere che l’intelligenza artificiale promuoverà preferenzialmente o strutturalmente la democrazia e la pace, come invece credo promuoverà strutturalmente la salute umana e allevierà la povertà. Il conflitto umano è di natura conflittuale e, in linea di principio, l’intelligenza artificiale potrebbe aiutare sia i “buoni” che i “cattivi”. Anzi, alcuni fattori strutturali sono preoccupanti: sembra probabile che l’intelligenza artificiale favorisca una propaganda e una sorveglianza molto più efficaci, entrambi strumenti fondamentali nel kit dell’autocrate. Spetterà quindi a noi, come attori individuali, orientare le cose nella giusta direzione: se vogliamo che l’intelligenza artificiale favorisca la democrazia e i diritti individuali, dovremo lottare per quel risultato. Mi sento ancora più fortemente su questo argomento di quanto non faccia riguardo alle disuguaglianze internazionali: il trionfo della democrazia liberale e della stabilità politica non è garantito, forse nemmeno probabile, e richiederà grandi sacrifici e impegno da parte di tutti noi, come spesso è avvenuto in passato.

Penso che la questione si divida in due parti: conflitti internazionali e la struttura interna delle nazioni. Sul fronte internazionale, mi sembra essenziale che le democrazie abbiano il sopravvento a livello globale nel momento in cui viene sviluppata un’intelligenza artificiale potente. L’autoritarismo potenziato dall’intelligenza artificiale sembra troppo terribile da contemplare, quindi le democrazie devono essere in grado di stabilire le condizioni con cui l’intelligenza artificiale entra nel mondo, sia per evitare di essere sopraffatte dagli autoritarismi, sia per prevenire abusi dei diritti umani all’interno dei paesi autoritari.

Il mio attuale congettura su come realizzare ciò è attraverso una “strategia di intesa”, in cui una coalizione di democrazie cerca di ottenere un chiaro vantaggio (anche temporaneo) sull’intelligenza artificiale, garantendo la propria catena di approvvigionamento, scalando rapidamente e bloccando o ritardando l’accesso degli avversari a risorse chiave come chip e attrezzature per semiconduttori. Questa coalizione, da un lato, userebbe l’intelligenza artificiale per ottenere una superiorità militare robusta (il bastone), mentre dall’altro offrirebbe di distribuire i benefici dell’intelligenza artificiale (la carota) a un gruppo sempre più ampio di paesi in cambio del loro sostegno alla strategia della coalizione per promuovere la democrazia (un po’ come il programma “Atoms for Peace”). La coalizione mirerebbe a ottenere il sostegno di una sempre maggiore porzione del mondo, isolando i peggiori avversari e mettendoli infine in una posizione in cui sarebbero meglio offerti accettando lo stesso accordo degli altri: rinunciare alla competizione con le democrazie in cambio di benefici e di non dover affrontare un nemico superiore.

Se riusciremo a realizzare tutto questo, avremo un mondo in cui le democrazie guidano a livello globale e hanno la forza economica e militare per evitare di essere minate, conquistate o sabotate dalle autocrazie, e potrebbero essere in grado di trasformare la loro superiorità nell’intelligenza artificiale in un vantaggio duraturo. Questo potrebbe portare, in modo ottimistico, a una sorta di “eterno 1991″—un mondo in cui le democrazie hanno il sopravvento e i sogni di Fukuyama si realizzano. Tuttavia, raggiungere questo obiettivo sarà molto difficile e richiederà in particolare una stretta cooperazione tra le aziende di intelligenza artificiale private e i governi democratici, nonché decisioni straordinariamente sagge riguardo all’equilibrio tra bastone e carota.

Anche se tutto questo dovesse andare bene, rimarrebbe comunque il problema del conflitto tra democrazia e autarchia all’interno dei singoli paesi. Ovviamente è difficile prevedere cosa accadrà qui, ma sono moderatamente ottimista che, in un contesto globale in cui le democrazie controllano l’intelligenza artificiale più potente, l’intelligenza artificiale possa effettivamente favorire strutturalmente la democrazia ovunque. In particolare, in questo contesto, i governi democratici potrebbero usare la loro intelligenza artificiale superiore per vincere la guerra dell’informazione: potrebbero contrastare le operazioni di influenza e propaganda delle autocrazie e potrebbero persino riuscire a creare un ambiente globale di informazione libera, offrendo canali di informazione e servizi di intelligenza artificiale in modo che le autocrazie non siano tecnicamente in grado di bloccarli o monitorarli. Non sarà necessario fare propaganda, basterà contrastare gli attacchi malevoli e garantire il libero flusso di informazioni. Anche se non sarà immediato, un campo di gioco paritario come questo ha buone probabilità di inclinare gradualmente il governo globale verso la democrazia, per diverse ragioni.

In primo luogo, gli aumenti della qualità della vita descritti nelle sezioni precedenti dovrebbero, in linea di massima, promuovere la democrazia: storicamente lo hanno fatto, almeno in una certa misura. Mi aspetto in particolare che i miglioramenti nella salute mentale, nel benessere e nell’educazione aumentino il sostegno alla democrazia, poiché tutte e tre queste aree sono negativamente correlate con il sostegno ai leader autoritari. In generale, le persone desiderano maggiore espressione personale quando i loro altri bisogni sono soddisfatti, e la democrazia è, tra le altre cose, una forma di espressione personale. Al contrario, l’autoritarismo prospera sulla paura e il risentimento.

In secondo luogo, è probabile che l’informazione libera minacci realmente l’autoritarismo, fintanto che gli autoritari non possano censurarla. E l’intelligenza artificiale non censurata potrebbe portare strumenti potenti per minare i governi repressivi direttamente nelle mani degli individui. I governi repressivi sopravvivono negando alle persone una certa forma di conoscenza condivisa, impedendo loro di realizzare che “l’imperatore è nudo”. Per esempio, Srđa Popović, che ha contribuito a rovesciare il governo di Milošević in Serbia, ha scritto estensivamente su tecniche per togliere potere psicologico agli autoritari, per spezzare il loro incantesimo e radunare il sostegno contro un dittatore. Un’intelligenza artificiale superumana che possa funzionare come una versione potenziata di Popović, e che gli autoritari non possano bloccare o censurare, potrebbe dare un forte slancio ai dissidenti e ai riformatori in tutto il mondo. Ancora una volta, questa sarà una lotta lunga e prolungata, una in cui la vittoria non è garantita, ma se progettiamo e costruiamo l’intelligenza artificiale nel modo giusto, potrebbe almeno diventare una lotta in cui i difensori della libertà hanno un vantaggio.

Così come nella biologia e nella neuroscienza, possiamo anche chiederci come le cose possano essere “migliori del normale”—non solo come evitare l’autocrazia, ma come migliorare le democrazie esistenti. Anche nelle democrazie, le ingiustizie accadono tutto il tempo. Le società basate sullo stato di diritto fanno una promessa ai loro cittadini: che tutti saranno uguali di fronte alla legge e che tutti avranno diritto ai diritti umani fondamentali, ma ovviamente questa promessa non viene sempre rispettata nella pratica. Anche se tale promessa è solo parzialmente realizzata, è comunque qualcosa di cui essere orgogliosi, ma l’intelligenza artificiale potrebbe aiutarci a fare ancora meglio?

Ad esempio, l’intelligenza artificiale potrebbe migliorare il nostro sistema legale e giudiziario rendendo le decisioni e i processi più imparziali? Oggi, la maggior parte delle persone si preoccupa che i sistemi di intelligenza artificiale siano una causa di discriminazione in contesti legali o giudiziari, e queste preoccupazioni sono importanti e devono essere difese. Allo stesso tempo, la vitalità della democrazia dipende dall’utilizzo delle nuove tecnologie per migliorare le istituzioni democratiche, non solo dal rispondere ai rischi. Un’implementazione matura e di successo dell’intelligenza artificiale ha il potenziale di ridurre i pregiudizi e rendere le decisioni più eque per tutti.

Per secoli, i sistemi legali hanno affrontato il dilemma che la legge cerca di essere imparziale, ma è intrinsecamente soggettiva e quindi deve essere interpretata da esseri umani che, per loro natura, sono parziali. Tentare di rendere la legge completamente meccanica non ha funzionato, perché il mondo reale è caotico e non può sempre essere ridotto a formule matematiche. Al contrario, i sistemi legali si affidano a criteri notoriamente imprecisi come “punizioni crudeli e insolite” o “totalmente privi di valore sociale redentivo”, che vengono poi interpretati dagli esseri umani—spesso in modo tale da mostrare pregiudizi, favoritismi o arbitrarietà. I “contratti intelligenti” nelle criptovalute non hanno rivoluzionato il diritto perché il codice ordinario non è abbastanza intelligente da dirimere tutte le questioni di interesse. Ma l’intelligenza artificiale potrebbe esserlo: è la prima tecnologia in grado di prendere decisioni ampie e complesse in modo ripetibile e meccanico.

Non sto suggerendo che dovremmo letteralmente sostituire i giudici con sistemi di intelligenza artificiale, ma la combinazione di imparzialità con la capacità di comprendere e processare situazioni reali e complesse sembra avere serie applicazioni positive nel campo del diritto e della giustizia. Al minimo, tali sistemi potrebbero lavorare al fianco degli esseri umani come ausilio per prendere decisioni. La trasparenza sarebbe cruciale in un sistema del genere, e una scienza matura dell’intelligenza artificiale potrebbe teoricamente fornirla: il processo di addestramento di tali sistemi potrebbe essere studiato a fondo, e tecniche avanzate di interpretabilità potrebbero essere usate per scrutare all’interno del modello finale e valutarlo per rilevare eventuali pregiudizi nascosti, in un modo che semplicemente non è possibile con gli esseri umani. Tali strumenti di intelligenza artificiale potrebbero anche essere utilizzati per monitorare le violazioni dei diritti fondamentali nel contesto giudiziario o poliziesco, rendendo le costituzioni più auto-esecutive.

In una simile ottica, l’intelligenza artificiale potrebbe essere utilizzata per aggregare opinioni e favorire il consenso tra i cittadini, risolvendo conflitti, trovando terreno comune e cercando compromessi. Alcune idee pionieristiche in questa direzione sono già state messe in atto dal progetto di democrazia computazionale, compresi i progetti collaborativi con Anthropic. Una cittadinanza più informata e riflessiva rafforzerebbe ovviamente le istituzioni democratiche.

C’è anche un’opportunità chiara per l’intelligenza artificiale di aiutare nella fornitura di servizi governativi—come prestazioni sanitarie o servizi sociali—che, in linea di principio, dovrebbero essere disponibili per tutti, ma che in pratica spesso sono carenti, e in alcune aree più che in altre. Questo include servizi sanitari, il DMV (motorizzazione civile), le imposte, la sicurezza sociale, il rispetto delle norme edilizie, e così via. Avere un’intelligenza artificiale estremamente attenta e informata il cui compito è darti tutto ciò a cui hai diritto per legge da parte del governo, in un modo che tu possa comprendere—e che ti aiuti anche a rispettare le regole governative spesso confuse—sarebbe una grande rivoluzione. Aumentare la capacità dello stato aiuta sia a realizzare la promessa di uguaglianza di fronte alla legge, sia a rafforzare il rispetto per il governo democratico. Servizi mal implementati sono attualmente una delle principali cause di cinismo verso il governo.

Tutte queste idee sono vaghe in qualche misura, e come ho detto all’inizio di questa sezione, non sono neanche lontanamente sicuro della loro fattibilità quanto lo sono per i progressi in biologia, neuroscienza e riduzione della povertà. Potrebbero sembrare utopiche in modo irrealistico. Ma l’importante è avere una visione ambiziosa, essere disposti a sognare in grande e provare a sperimentare. La visione dell’intelligenza artificiale come garante della libertà, dei diritti individuali e dell’uguaglianza di fronte alla legge è troppo potente per non lottare per essa. Una società potenziata dall’intelligenza artificiale nel 21° secolo potrebbe essere sia un protettore più forte della libertà individuale, sia un faro di speranza che aiuta a fare della democrazia liberale la forma di governo che tutto il mondo desidera adottare.

5. Lavoro e significato

Anche se tutto nelle quattro sezioni precedenti va per il meglio—non solo riduciamo malattie, povertà e disuguaglianza, ma la democrazia liberale diventa la forma dominante di governo, e le democrazie esistenti migliorano ulteriormente—resta ancora una domanda importante. “È fantastico vivere in un mondo tecnologicamente avanzato e giusto”, qualcuno potrebbe obiettare, “ma con le intelligenze artificiali che fanno tutto, come troveranno significato gli esseri umani? E come sopravvivranno economicamente?”.

Penso che questa domanda sia più difficile delle altre. Non perché io sia necessariamente più pessimista su di essa rispetto alle altre (anche se vedo delle sfide). Intendo dire che è più sfumata e difficile da prevedere in anticipo, poiché riguarda questioni macroscopiche su come la società è organizzata, e queste tendono a risolversi solo nel tempo e in modo decentralizzato. Ad esempio, le società di cacciatori-raccoglitori storiche potrebbero aver immaginato che la vita fosse priva di significato senza la caccia e i vari rituali religiosi connessi alla caccia, e potrebbero aver immaginato che la nostra società tecnologicamente ben nutrita fosse priva di scopo. Potrebbero anche non aver compreso come la nostra economia possa sostenere tutti, o quale funzione le persone possano svolgere in una società meccanizzata.

Tuttavia, vale la pena dire almeno alcune parole, pur tenendo presente che la brevità di questa sezione non deve essere interpretata come un segno che non prendo queste questioni sul serio—al contrario, è un segno della mancanza di risposte chiare.

Sul tema del significato, penso che sia un errore credere che le attività che intraprendiamo siano prive di significato semplicemente perché un’intelligenza artificiale potrebbe farle meglio. La maggior parte delle persone non è la migliore al mondo in nulla, e questo non sembra disturbarle particolarmente. Oggi possono ancora contribuire attraverso il vantaggio comparato, e possono trovare significato nel valore economico che producono, ma le persone apprezzano molto anche attività che non generano alcun valore economico. Trascorro molto tempo a giocare ai videogiochi, a nuotare, a passeggiare all’aperto e a parlare con gli amici, nessuna di queste attività genera valore economico. Potrei passare un’intera giornata cercando di migliorare in un videogioco o di salire più velocemente su una montagna in bicicletta, e non mi importa particolarmente che qualcuno, da qualche parte, sia molto migliore in quelle cose. In ogni caso, penso che il significato venga principalmente dalle relazioni e dalle connessioni umane, non dal lavoro economico. Le persone desiderano comunque un senso di realizzazione, persino di competizione, e in un mondo post-intelligenza artificiale sarà perfettamente possibile dedicare anni a tentare compiti molto difficili con strategie complesse, simili a ciò che le persone fanno oggi quando intraprendono progetti di ricerca, cercano di diventare attori a Hollywood o fondano aziende.

Il fatto che (a) un’intelligenza artificiale da qualche parte possa teoricamente fare questo compito meglio, e (b) questo compito non sia più un elemento ricompensato economicamente nell’economia globale, non sembra importare molto. Le persone troveranno comunque significato e piacere in attività che amano, anche se non sono direttamente produttive o competitive con l’intelligenza artificiale.

Il pezzo economico, invece, sembra più difficile della questione del significato. Per “economico”, in questa sezione, mi riferisco al possibile problema che la maggior parte o tutti gli esseri umani potrebbero non essere in grado di contribuire in modo significativo a un’economia alimentata dall’intelligenza artificiale sufficientemente avanzata. Questo è un problema macro più complesso rispetto al problema separato della disuguaglianza, specialmente della disuguaglianza nell’accesso alle nuove tecnologie, di cui ho parlato nella Sezione 3.

Innanzitutto, a breve termine concordo con gli argomenti che il vantaggio comparato continuerà a mantenere gli esseri umani rilevanti e, in effetti, potrebbe aumentare la loro produttività, e in alcuni modi potrebbe persino livellare il campo di gioco tra gli esseri umani. Finché l’intelligenza artificiale è solo migliore nel 90% di un determinato lavoro, il restante 10% farà sì che gli esseri umani diventino altamente richiesti, aumentando la loro compensazione e, di fatto, creando una serie di nuovi lavori umani complementari e amplificatori rispetto a ciò in cui l’intelligenza artificiale è brava, espandendo così quel “10%” per continuare a impiegare quasi tutti. In effetti, anche se l’intelligenza artificiale può fare il 100% delle cose meglio degli esseri umani, se rimane inefficiente o costosa in alcuni compiti, o se gli input delle risorse per gli esseri umani e per l’intelligenza artificiale sono significativamente diversi, allora la logica del vantaggio comparato continua ad applicarsi. Un’area in cui gli esseri umani potrebbero mantenere un vantaggio relativo (o addirittura assoluto) per un tempo significativo è il mondo fisico. Pertanto, penso che l’economia umana possa continuare a funzionare anche poco oltre il punto in cui raggiungiamo “un paese di geni in un datacenter”.

Tuttavia, credo che a lungo termine l’intelligenza artificiale diventerà così ampiamente efficace e così economica che questa logica smetterà di applicarsi. A quel punto, la nostra configurazione economica attuale non avrà più senso, e ci sarà bisogno di una conversazione sociale più ampia su come l’economia dovrebbe essere organizzata.

Anche se può sembrare strano, il fatto è che la civiltà ha già superato con successo enormi cambiamenti economici nel passato: dal passaggio dal cacciare e raccogliere all’agricoltura, dall’agricoltura al feudalesimo, e dal feudalesimo all’industrializzazione. Sospetto che sarà necessario qualcosa di nuovo e di più strano, e che nessuno oggi abbia davvero fatto un buon lavoro nel immaginarlo. Potrebbe essere semplice come un ampio reddito di base universale per tutti, anche se sospetto che sarà solo una parte minore della soluzione. Potrebbe essere un’economia capitalista composta da sistemi di intelligenza artificiale, che poi distribuiscono risorse (enormi quantità, poiché la torta economica complessiva sarà gigantesca) agli esseri umani in base a qualche giudizio derivato dai valori umani. Forse l’economia funzionerà su un sistema di punti Whuffie. Oppure forse gli esseri umani continueranno ad avere valore economico in modi che non sono ancora anticipati dai modelli economici attuali. Tutte queste soluzioni presentano una miriade di problemi potenziali, e non è possibile sapere se saranno sensate senza molta iterazione e sperimentazione. E come per altre sfide, dovremo probabilmente lottare per ottenere un buon esito qui: direzioni distopiche o sfruttatrici sono chiaramente possibili e dovranno essere evitate. Molto altro potrebbe essere scritto su queste domande, e spero di farlo in un momento successivo.

Fare il punto

Attraverso i vari argomenti discussi sopra, ho cercato di delineare una visione di un mondo che è plausibile se tutto va per il meglio con l’intelligenza artificiale, e che è molto migliore del mondo attuale. Non so se questo mondo sia realistico, e anche se lo fosse, non sarà raggiunto senza una quantità enorme di sforzi e lotte da parte di molte persone coraggiose e dedicate. Tutti—incluse le aziende di intelligenza artificiale—dovranno fare la loro parte sia per prevenire i rischi sia per realizzare pienamente i benefici.

Ma è un mondo per cui vale la pena combattere. Se tutto questo davvero accade nei prossimi 5-10 anni—la sconfitta della maggior parte delle malattie, la crescita della libertà biologica e cognitiva, il sollevamento di miliardi di persone dalla povertà per condividere le nuove tecnologie, una rinascita della democrazia liberale e dei diritti umani—sospetto che tutti coloro che assisteranno a questi cambiamenti saranno sorpresi dall’effetto che avrà su di loro. Non intendo solo l’esperienza di beneficiare personalmente delle nuove tecnologie, anche se sarà sicuramente straordinaria. Intendo l’esperienza di vedere una serie di ideali a lungo tenuti realizzarsi di fronte ai nostri occhi, tutti insieme. Credo che molti saranno letteralmente commossi fino alle lacrime.

Durante la scrittura di questo saggio, ho notato una tensione interessante. In un certo senso, la visione delineata qui è estremamente radicale: non è ciò che quasi nessuno si aspetta che accada nel prossimo decennio, e probabilmente sembrerà a molti una fantasia assurda. Alcuni potrebbero persino non considerarla desiderabile; incarna valori e scelte politiche che non tutti condivideranno. Ma allo stesso tempo c’è qualcosa di palesemente ovvio—qualcosa di inevitabile—al riguardo, come se molti tentativi diversi di immaginare un buon mondo portassero inevitabilmente qui.

Penso che i valori di una società come la Cultura, immaginata da Iain M. Banks, siano una strategia vincente perché sono la somma di un milione di piccole decisioni che hanno una chiara forza morale e che tendono a mettere tutti dalla stessa parte. Le intuizioni umane di base come equità, cooperazione, curiosità e autonomia sono difficili da contestare e si accumulano in un modo che i nostri impulsi più distruttivi spesso non riescono a fare. È facile sostenere che i bambini non dovrebbero morire di malattie se possiamo prevenirlo, e da lì è facile sostenere che i figli di tutti meritano ugualmente quel diritto. Da lì, non è difficile sostenere che dovremmo unirci tutti e applicare la nostra intelligenza per raggiungere questo risultato. Pochi sono in disaccordo sul fatto che le persone dovrebbero essere punite per aver attaccato o ferito altri inutilmente, e da lì non è un grande passo verso l’idea che le punizioni dovrebbero essere coerenti e sistematiche per tutti. È altrettanto intuitivo che le persone dovrebbero avere autonomia e responsabilità sulle proprie vite e scelte. Queste semplici intuizioni, portate alla loro logica conclusione, conducono infine allo stato di diritto, alla democrazia e ai valori dell’Illuminismo. Se non inevitabilmente, allora almeno come tendenza statistica, è qui che l’umanità era già diretta. L’intelligenza artificiale offre semplicemente un’opportunità per arrivarci più velocemente, per rendere la logica più chiara e la destinazione più evidente.

Tuttavia, tutto questo resta una cosa di bellezza trascendente. Abbiamo l’opportunità di giocare un piccolo ruolo nel renderla reale.

Post Views: 748

Come l’intelligenza artificiale potrebbe trasformare il mondo in meglio (D.Amodei)