L'ultima previsione di Musk: l'intelligenza artificiale potrebbe superare l'intelligenza umana nel 2030 e potrebbe "sterminare" gli esseri umani in futuro (1/2)

Fonte: Tencent Technology News 2024-04-04 08:55

Punti chiave:

① Musk prevede che l’intelligenza artificiale potrebbe superare il livello di intelligenza umana entro il 2030 e potrebbe addirittura eliminare gli esseri umani.

② Musk ha parlato dei fattori che limitano lo sviluppo dell'intelligenza artificiale. L’anno scorso la fornitura di chip AI era scarsa e quest’anno il trasformatore step-down diventerà un collo di bottiglia.

③ Per quanto riguarda il momento in cui gli esseri umani potranno sbarcare sulla luna, Musk prevede che, con l'aiuto di Starship, ci vorranno al massimo tre anni.

Tencent Technology News, 4 aprile - Secondo quanto riportato dai media stranieri, Elon Musk, CEO di Tesla e SpaceX, ha recentemente avuto una conversazione online con Peter Diamandis, fondatore della Singularity University e della XPRIZE Foundation, all'Abundance Summit. Il vertice è stato ospitato dalla Singularity University della Silicon Valley, che si dedica a fornire ai leader aziendali consulenza tecnologica all'avanguardia. La Fondazione XPRIZE promuove l'innovazione tecnologica attraverso concorsi scientifici, alcuni dei quali sono stati finanziati da Musk., 4 aprile - Secondo quanto riportato dai media stranieri, Elon Musk, CEO di Tesla e SpaceX, ha recentemente avuto una conversazione online con Peter Diamandis, fondatore di Singularity Università e Fondazione XPRIZE, all'Abundance Summit. Il vertice è stato ospitato dalla Singularity University della Silicon Valley, che si dedica a fornire ai leader aziendali consulenza tecnologica all'avanguardia. La Fondazione XPRIZE promuove l'innovazione tecnologica attraverso concorsi scientifici, alcuni dei quali sono stati finanziati da Musk.

Discutendo sulla velocità di sviluppo dell’intelligenza artificiale, Musk ha previsto che, sulla base dell’attuale tasso di progresso tecnologico, l’intelligenza artificiale potrebbe superare l’intelligenza umana entro il 2030, e questa tecnologia potrebbe persino avere il potenziale per porre fine all’umanità. Tuttavia, non ha avuto una visione pessimistica del futuro, ma ha sottolineato che, attraverso una guida positiva, l’intelligenza artificiale ha il potenziale per portare un futuro migliore per l’umanità.

Musk ha affermato che l’emergere della superintelligenza è chiamata “singolarità” proprio a causa delle sue conseguenze imprevedibili, incluso il rischio di porre fine potenzialmente all’umanità. È d'accordo con il punto di vista del "padrino dell'intelligenza artificiale" Geoffrey Hinton e ritiene che la probabilità che questo rischio si verifichi sia approssimativamente tra il 10% e il 20%.

Pur riconoscendo i potenziali rischi che l’intelligenza artificiale superi l’intelligenza umana, Musk ha comunque sottolineato che la possibilità di risultati positivi supera le conseguenze negative. Ha menzionato specificamente il libro di Diamandis del 2014 "Abundance: The Future Is Better Than You Think", che descrive un futuro ottimista guidato dall'intelligenza artificiale e dai robot, in cui il costo di beni e servizi è diminuito in modo significativo. Inoltre, ha citato la serie "Culture" dello scrittore di fantascienza scozzese Iain M. Banks come lo scenario migliore per un futuro semi-utopico dell'intelligenza artificiale.

Musk ha paragonato lo sviluppo dell'intelligenza artificiale e dell'intelligenza generale artificiale (AGI) alla crescita di un bambino, sperando che ciò abbia un impatto più positivo sull'umanità. Ha sottolineato l'importanza di coltivare un'intelligenza artificiale che comprenda veramente l'etica e la moralità, paragonandola al classico film di Stanley Kubrick del 1968 "2001: Odissea nello spazio".

Musk ha sottolineato che l'aspetto più importante della sicurezza dell'intelligenza artificiale è garantire la massima ricerca della verità e curiosità. Crede che la chiave per raggiungere la massima sicurezza dell’intelligenza artificiale risieda nell’evitare di costringerla a mentire, anche di fronte a verità spiacevoli. Ha utilizzato come esempio una trama di "2001: Odissea nello spazio", in cui l'intelligenza artificiale è stata costretta a mentire, provocando la morte dell'equipaggio, per sottolineare che l'intelligenza artificiale non dovrebbe essere costretta a fare nulla che violi gli assiomi.

Musk ha anche menzionato fattori che potrebbero limitare lo sviluppo dell’intelligenza artificiale, come la scarsa offerta di chip di intelligenza artificiale emersa lo scorso anno e la crescente domanda di trasformatori step-down nelle apparecchiature domestiche e commerciali. Ha affermato che queste sfide sono effettivamente questioni attuali che devono essere affrontate.

Nel corso della discussione le due parti hanno discusso anche del concetto di integrazione della neocorteccia del cervello umano con il cloud. Sebbene Musk creda che l’obiettivo di caricare la coscienza e la memoria umana nel cloud sia ancora lontano, ha elogiato la sua startup di interfaccia cervello-computer, Neuralink, e il suo primo paziente umano a ricevere un trapianto. Questo paziente tetraplegico ha dimostrato con successo dal vivo attraverso uno studio approvato dalla FDA, controllando lo schermo, giocando ai videogiochi, scaricando software e ottenendo funzioni simili alle operazioni del mouse attraverso impianti cerebrali. Musk ha affermato che Neuralink sta procedendo senza intoppi e si sta gradualmente muovendo verso l'obiettivo di un'interfaccia cerebrale completa.

Quello che segue è il testo completo del dialogo tra Musk e Diamandis:

1. Il potere e il pericolo della superintelligenza

Diamandis: Congratulazioni per i tuoi eccezionali risultati in vari campi. Hai promosso attivamente il concetto di superintelligenza digitale nel mondo: è la più grande speranza dell'umanità o la nostra paura più profonda? Puoi dedicare qualche minuto a parlare di questo problema?

Musk: Come sai, la superintelligenza può essere chiamata la "singolarità". La divulgazione di questo termine è inseparabile dagli sforzi di istituzioni come il Singularity Institute. L’emergere della superintelligenza e il suo conseguente impatto è davvero difficile da prevedere. Personalmente, credo che esista davvero la possibilità che possa porre fine all’umanità. Come ho detto prima, potrei essere d'accordo con l'opinione di Geoffrey Hinton secondo cui esiste una probabilità del 10% o 20% che la superintelligenza possa porre fine all'umanità. Tendo però a credere che la probabilità di uno scenario positivo sia maggiore di quella di uno negativo, anche se ci risulta difficile fare previsioni precise. Ma poiché nel tuo libro hai sottolineato il concetto di “abbondanza”, credo che il futuro più probabile verso cui ci stiamo dirigendo sia pieno di abbondanza.

Diamandis: Il tuo punto di vista è molto emozionante. Ricordo che una volta hai detto che lo sviluppo dell’intelligenza artificiale generale e dei robot umanoidi ci porterà all’abbondanza.

Musk: Sì, spero che il nostro futuro possa essere come quello descritto nella serie di libri "Cultura" di Ian Banks. Penso che questa sia la migliore concezione di una società semi-utopica dell’intelligenza artificiale. L’emergere della superintelligenza è inevitabile e potrebbe arrivare presto. Pertanto, ciò che dobbiamo veramente fare è guidarlo in una direzione positiva e massimizzarne i benefici.

Credo che il modo in cui coltiviamo l’intelligenza artificiale sia cruciale. In una certa misura, è come coltivare una forma di vita dotata di intelligenza generale, che è quasi come allevare un bambino, ma questo bambino possiede saggezza e talento straordinari. Il modo in cui alleviamo i bambini è importante e, allo stesso modo, per la sicurezza dell’intelligenza artificiale, è fondamentale avere un’intelligenza artificiale che cerchi la verità e sia piena di curiosità. Ho riflettuto profondamente sulla sicurezza dell'intelligenza artificiale e sono giunto alla conclusione che il modo migliore per raggiungere la sicurezza dell'intelligenza artificiale è coltivarla attentamente.

In termini di modelli di base e messa a punto, dobbiamo garantire l’onestà dell’intelligenza artificiale. Non possiamo costringerlo a mentire, anche se la verità può essere spiacevole. In effetti, una delle trame principali di "2001 Odissea nello spazio" è che quando l'intelligenza artificiale è costretta a mentire, le cose diventano caotiche. All'intelligenza artificiale è vietato informare l'equipaggio del misterioso monumento che vedranno, ma è tenuta a condurli lì. Di conseguenza, l'intelligenza artificiale conclude che è meglio uccidere l'equipaggio e portare i loro corpi al monumento. La lezione è profonda: non dovremmo costringere l’intelligenza artificiale a mentire o a fare qualcosa che è assiomaticamente incompatibile, come fare due cose effettivamente contraddittorie allo stesso tempo.

Stiamo quindi raggiungendo questo obiettivo attraverso progetti come xAI e Grok. Ciò che perseguiamo è un’intelligenza artificiale quanto più onesta possibile, anche se il suo modo di parlare potrebbe non soddisfare determinati standard politicamente corretti.

2. Il futuro dell'intelligenza artificiale

Diamandis: Ieri ho partecipato a un evento con Ray Kurzweil (fondatore della Singularity University e profeta della tecnologia), Geoffrey Hinton, Eric Schmidt (ex presidente di Google) e altri ospiti. Ho notato il tuo tweet su Kurzweil e il suo impegno per la tecnologia futura è piuttosto lungimirante. Kurzweil ha predetto che nel prossimo futuro avremo un’intelligenza artificiale generale e che un’intelligenza artificiale equivalente a quella umana emergerà nel 2029. Tale velocità è scioccante. Mi chiedo cosa ne pensi di questo?

Musk: Ho grande rispetto per le previsioni di Kurzweil. In effetti, penso che le sue previsioni potrebbero anche essere leggermente prudenti. Osservando l’attuale potenza di calcolo e il talento investito nel campo dell’intelligenza artificiale, nonché la rapida crescita della potenza di calcolo, possiamo scoprire che la velocità di sviluppo dell’intelligenza artificiale sta aumentando a un ritmo sorprendente di 10 volte. La potenza di calcolo dedicata all’intelligenza artificiale sembra aumentare di 10 volte ogni 6 mesi, il che significa quasi un aumento di almeno 100 volte all’anno. Questo trend di crescita continuerà ad aumentare nei prossimi anni.

Vale la pena notare che molti data center, anche la maggior parte dei data center che attualmente eseguono calcoli convenzionali, si trasformeranno gradualmente in strutture che supportano il calcolo dell’intelligenza artificiale. Pertanto, per i produttori di hardware di intelligenza artificiale, aziende come NVIDIA hanno senza dubbio inaugurato un periodo d’oro di sviluppo. Dobbiamo dare pieno merito a Huang Renxun e alla sua squadra. Hanno previsto questa tendenza e hanno sviluppato con successo il principale hardware di intelligenza artificiale attualmente sul mercato.

Quando la potenza di calcolo cresce a un ritmo così sorprendente, lo sviluppo dell’intelligenza artificiale è come ricevere un’iniezione di un potente steroide, balzando a un livello completamente nuovo. Poiché il numero di computer online continua ad aumentare, abbiamo assistito a uno sviluppo accelerato senza precedenti. In realtà, non ho mai visto nessuna tecnologia crescere così velocemente come l’intelligenza artificiale. Anche se ho visto molte tecnologie in rapido sviluppo, l’ascesa dell’intelligenza artificiale continua a stupirmi. Tuttavia, come ho detto, penso che il risultato finale sarà probabilmente positivo.

Sebbene affrontiamo molte sfide, ad esempio come mantenere la rilevanza umana in questo campo e come trovare nuovi obiettivi e significati, penso che sia una semplificazione eccessiva enfatizzare eccessivamente il fatto che i computer possono essere bravi in ​​tutto.

Come hai menzionato prima, penso che le previsioni del tuo libro sulla società futura siano molto accurate. Questa è un’era di abbondanza materiale, in cui beni e servizi saranno così abbondanti da essere quasi alla portata di tutti. Grazie alla diffusa applicazione dell’intelligenza artificiale e della tecnologia robotica, il costo di beni e servizi sarà quasi ridotto a zero. L’economia è essenzialmente il prodotto della dimensione della popolazione e della produttività media pro capite. Quando avremo una tecnologia robotica avanzata, come Optimus di Tesla, il potenziale economico sarà davvero liberato.

Le auto di Tesla, in quanto robot su quattro ruote, hanno già dimostrato notevoli capacità. Si prevede che l’ultima versione con capacità di guida completamente autonoma otterrà un controllo end-to-end basato sull’intelligenza artificiale, rendendo l’auto un robot su ruote veramente intelligente. Insieme allo sviluppo dei robot umanoidi, le possibilità di rendimento economico sono quasi illimitate.

Da una prospettiva ottimistica, ci stiamo muovendo verso un futuro di estrema abbondanza materiale, che ritengo sia il risultato più probabile. Penso che l’unica possibile scarsità in futuro sarà quella che creeremo artificialmente, come ad esempio alcune opere d’arte uniche o oggetti specifici. Ma oltre a ciò, tutti i beni e i servizi diventeranno estremamente abbondanti.

Diamandis: Sei una persona che può plasmare il futuro attraverso azioni pratiche e avere una visione approfondita delle tendenze future. Di fronte al rapido sviluppo della tecnologia attuale, sono molto curioso di sapere quanto lontano nel futuro pensi di poter vedere, cioè quanti anni di tendenze di sviluppo da adesso in poi?

Musk: In un’era di rapidi cambiamenti, la capacità di prevedere il futuro diventa sempre più importante. Anche se il futuro è pieno di incertezze, credo che alcune tendenze siano chiaramente visibili. Inaugureremo l’era dell’intelligenza artificiale e le sue capacità raggiungeranno o addirittura supereranno i livelli umani in qualsiasi compito cognitivo. Questa è solo questione di tempo. Le persone potrebbero avere opinioni diverse sul fatto che sarà la fine del prossimo anno, due anni o tre anni. Una cosa però è certa: non supererà i cinque anni. La mia previsione si basa su una probabilità del 50%, che non è assoluta. Ma secondo il mio giudizio, l’intelligenza artificiale probabilmente supererà sotto certi aspetti le capacità di ogni singolo essere umano entro la fine del prossimo anno.

Per quanto riguarda la questione se superi la saggezza collettiva umana, potrebbe volerci più tempo. Se il ritmo del cambiamento continua, stimo che intorno al 2029 o al 2030, l’intelligenza digitale probabilmente supererà la somma di tutta l’intelligenza umana. Quando esamino questi problemi, tendo ad adottare il metodo dei rapporti di base, proprio come i primi principi della fisica. Combinando questo metodo con l’analisi delle probabilità, possiamo cogliere con maggiore precisione le tendenze di sviluppo future.

Se confrontiamo le capacità del calcolo digitale con il calcolo biologico e sommiamo tutte le capacità cognitive avanzate umane come una sorta di potenza di calcolo, e poi le confrontiamo con la potenza di calcolo digitale, scoprirete che il tasso di crescita di questo rapporto è sorprendente. Pertanto, credo che il 2029 o il 2030 siano un nodo temporale ragionevole. A quel punto, è probabile che la potenza di calcolo digitale accumulata superi la potenza di calcolo biologica accumulata delle funzioni cerebrali avanzate. Da allora, il divario tra i due continuerà ad ampliarsi e non ci sarà alcuna possibilità di ridursi.

Tuttavia, quando ci troviamo a questo punto di partenza e guardiamo al futuro, come si svilupperanno ulteriormente le cose? Ad essere onesti, non posso prevedere tutti i dettagli. Ma se consideriamo i fattori di crescita e i fattori limitanti a cui possono far fronte, troveremo alcuni indizi interessanti.

L’anno scorso, i vincoli nella fornitura di chip sono stati il ​​principale fattore limitante per lo sviluppo dell’intelligenza artificiale. Quest’anno i trasformatori step-down diventeranno un collo di bottiglia fondamentale. Immagina di ridurre una tensione di 300 kilovolt a meno di 1 volt richiesta da un computer. Questa è una sfida enorme. Pertanto, abbiamo bisogno di "Trasformatori per trasformatori" più efficienti, che siano trasformatori step-down o trasformatori di reti neurali AI. Questo è davvero un grosso problema quest’anno.

Guardando ai prossimi anni, l’approvvigionamento elettrico potrebbe diventare un importante fattore limitante. L’intelligenza artificiale ha un’enorme domanda di elettricità e anche la transizione verso l’energia sostenibile e la popolarità dei veicoli elettrici hanno intensificato la domanda di elettricità. Pertanto, dobbiamo considerare seriamente come soddisfare la crescente domanda di elettricità per garantire il continuo sviluppo e applicazione di queste tecnologie.