Musk legújabb jóslata: 2030-ban a mesterséges intelligencia felülmúlhatja az emberi intelligenciát, és a jövőben „véget tehet” az emberektől (1/2)

Forrás: Tencent Technology News 2024-04-04 08:55

Főbb pontok:

① Musk azt jósolja, hogy a mesterséges intelligencia 2030-ra meghaladhatja az emberi intelligencia szintjét, és akár végét is teheti az embereknek.

② Musk az AI fejlődését korlátozó tényezőkről beszélt. Tavaly szűkös volt az AI-chipek kínálata, idén pedig szűk keresztmetszet lesz a leléptető transzformátor.

③ Ami azt illeti, hogy mikor szállhatnak le az emberek a Holdra, Musk azt jósolja, hogy a Starship segítségével ez leggyorsabban csak három évig tart.

Tencent Technology News, április 4. – Külföldi sajtóértesülések szerint Elon Musk, a Tesla és a SpaceX vezérigazgatója nemrég online beszélgetést folytatott Peter Diamandisszal, a Singularity University és az XPRIZE Alapítvány alapítójával az Abundance Summit rendezvényen. A csúcstalálkozónak a Szilícium-völgyi Singularity University adott otthont, amely az üzleti vezetők számára a legmodernebb technológiai tanácsadást szolgálja. Az XPRIZE Alapítvány tudományos versenyeken keresztül támogatja a technológiai innovációt, amelyek egy részét Musk finanszírozta. Április 4. – Külföldi sajtóértesülések szerint Elon Musk, a Tesla és a SpaceX vezérigazgatója nemrég online beszélgetést folytatott Peter Diamandisszal, a Singularity alapítójával. Egyetem és az XPRIZE Alapítvány a Bőség Csúcstalálkozóján. A csúcstalálkozónak a Szilícium-völgyi Singularity University adott otthont, amely az üzleti vezetők számára a legmodernebb technológiai tanácsadást szolgálja. Az XPRIZE Alapítvány tudományos versenyeken keresztül támogatja a technológiai innovációt, amelyek egy részét Musk finanszírozta.

A mesterséges intelligencia fejlődési sebességének tárgyalása során Musk azt jósolta, hogy a technológiai fejlődés jelenlegi üteme alapján a mesterséges intelligencia 2030-ra meghaladhatja az emberi intelligenciát, és ez a technológia akár az emberiség végét is vetheti. A jövőt azonban nem pesszimista szemszögből látta, hanem hangsúlyozta, hogy a mesterséges intelligencia pozitív iránymutatáson keresztül képes jobb jövőt hozni az emberiség számára.

Musk megemlítette, hogy a szuperintelligencia megjelenését „szingularitásnak” nevezik, éppen a beláthatatlan következményei miatt, beleértve az emberiség potenciális megszűnésének kockázatát. Egyetértett Geoffrey Hinton "mesterséges intelligencia keresztapja" álláspontjával, és úgy vélte, hogy ennek a kockázatnak a valószínűsége körülbelül 10% és 20% között van.

Annak ellenére, hogy elismerte a mesterséges intelligencia emberi intelligenciát meghaladó lehetséges kockázatait, Musk továbbra is hangsúlyozta, hogy a pozitív eredmények lehetősége felülmúlja a negatív következményeket. Külön megemlítette Diamandis 2014-es „Bőség: A jövő jobb, mint gondolod” című könyvét, amely a mesterséges intelligencia és a robotok által vezérelt optimista jövőt ábrázolja, ahol az áruk és szolgáltatások ára jelentősen csökkent. Ezen kívül Iain M. Banks skót tudományos-fantasztikus író "Kultúra" sorozatát említette a félig utópisztikus mesterséges intelligencia jövőjének legjobb forgatókönyveként.

Musk a mesterséges intelligencia és a mesterséges intelligencia (AGI) fejlődését a gyermekneveléshez hasonlította, remélve, hogy ennek pozitívabb hatásai lesznek az emberiségre. Hangsúlyozta az etikát és az erkölcsöt valóban megértő mesterséges intelligencia kiművelésének fontosságát, összehasonlítva Stanley Kubrick klasszikus, 1968-as filmjével, a „2001: Űrodüsszeia” címmel.

Musk rámutatott, hogy a mesterséges intelligencia biztonságának legfontosabb szempontja a maximális igazságkeresés és kíváncsiság biztosítása. Úgy véli, hogy a mesterséges intelligencia végső biztonságának elérésének kulcsa abban rejlik, hogy ne kényszerítsük hazugságra, még a kellemetlen igazságokkal szemben is. Példaként a "2001: Űrodüsszeia" című cselekményt használta fel, ahol a mesterséges intelligenciát hazudni kényszerítették, ami a legénység halálát okozta, hangsúlyozva, hogy a mesterséges intelligenciát nem szabad olyasmire kényszeríteni, ami sérti az axiómákat.

Musk olyan tényezőket is megemlített, amelyek korlátozhatják a mesterséges intelligencia fejlődését, mint például a tavaly megjelent mesterséges intelligencia chipek szűkös kínálata, valamint a háztartási és kereskedelmi berendezésekben a lépcsős transzformátorok iránti növekvő kereslet. Kijelentette, hogy ezek a kihívások valóban aktuális kérdések, amelyekkel foglalkozni kell.

A megbeszélés során a két fél szóba került az emberi agy neokortexének a felhővel való integrálásának koncepciójáról is. Noha Musk úgy véli, hogy az emberi tudat és memória feltöltése a felhőbe még messze van, dicsérte agy-számítógép interfész-indítóját, a Neuralink-et, és annak első humán betegét, akinél transzplantációt hajtottak végre. Ez a tetraplégiás beteg sikeresen bemutatta az FDA által jóváhagyott kísérletet élőben, vezérelte a képernyőt, játszott videojátékokkal, letöltött szoftvereket, és agyimplantátumokkal az egérműtétekhez hasonló funkciókat ért el. Musk kijelentette, hogy a Neuralink zökkenőmentesen halad, és fokozatosan halad a teljes agyi interfész célja felé.

Musk és Diamandis párbeszédének teljes szövege a következő:

1. A szuperintelligencia ereje és veszélye

Diamandis: Gratulálunk a különböző területeken elért kiemelkedő eredményeihez. Aktívan népszerűsítette a digitális szuperintelligencia koncepcióját a világban – ez az emberiség legnagyobb reménye vagy a legmélyebb félelmünk? Tudna néhány percet beszélni erről a problémáról?

Musk: Mint tudod, a szuperintelligenciát "szingularitásnak" nevezhetjük. E kifejezés népszerűsítése elválaszthatatlan az olyan intézmények erőfeszítéseitől, mint a Singularity Institute. A szuperintelligencia megjelenését és az azt követő hatásokat nagyon nehéz megjósolni. Személy szerint úgy gondolom, hogy valóban megvan annak a lehetősége, hogy ez véget vethet az emberiségnek. Ahogy korábban is mondtam, talán egyetértek Geoffrey Hinton véleményével, miszerint 10% vagy 20% az esélye annak, hogy a szuperintelligencia véget vethet az emberiségnek. Hajlamos vagyok azonban azt hinni, hogy a pozitív forgatókönyv valószínűsége nagyobb, mint a negatívé, bár nehéz pontos előrejelzést adni. De ahogy könyvében hangsúlyozta a „bőség” fogalmát, úgy gondolom, hogy a legvalószínűbb jövő, amely felé tartunk, a bőségtel teli jövő.

Diamandis: Nagyon izgalmas a nézőpontod. Emlékszem, egyszer azt mondtad, hogy az általános mesterséges intelligencia és a humanoid robotok fejlődése elvezet bennünket a bőséghez.

Musk: Igen, remélem, a jövőnk olyan lesz, mint amit Ian Banks "Kultúra" című könyvsorozata ábrázol. Szerintem ez a legjobb elképzelés egy félig utópisztikus mesterséges intelligencia társadalomról. A szuperintelligencia megjelenése elkerülhetetlen, és hamarosan bekövetkezhet. Ezért valóban azt kell tennünk, hogy pozitív irányba tereljük, és maximalizáljuk előnyeit.

Úgy gondolom, hogy kulcsfontosságú a mesterséges intelligencia nevelésének módja. Bizonyos mértékig olyanok vagyunk, mintha egy általános intelligenciával rendelkező életformát nevelnénk, ami majdnem olyan, mint egy gyerek nevelése, de ez a gyermek rendkívüli bölcsességgel és tehetséggel rendelkezik. Fontos, hogy hogyan neveljük a gyerekeket, és ehhez hasonlóan a mesterséges intelligencia biztonsága érdekében elengedhetetlen egy olyan mesterséges intelligencia, amely keresi az igazságot és tele van kíváncsisággal. Mélyen elgondolkodtam a mesterséges intelligencia biztonságán, és arra a következtetésre jutottam, hogy a mesterséges intelligencia biztonságának legjobb módja az, ha gondosan műveljük.

Az alapmodellek és a finomhangolás tekintetében biztosítanunk kell a mesterséges intelligencia őszinteségét. Nem kényszeríthetjük rá, hogy hazudjon, még ha az igazság kellemetlen is lehet. Valójában a "2001 Space Odyssey" egyik fő cselekménye az, hogy amikor a mesterséges intelligenciát hazudni kényszerítik, a dolgok kaotikussá válnak. A mesterséges intelligenciának tilos tájékoztatnia a legénységet a rejtélyes emlékműről, amelyet látni fog, de köteles odavezetni őket. Ennek eredményeként a mesterséges intelligencia arra a következtetésre jutott, hogy a legjobb megölni a legénységet, és az emlékműhöz vinni a testüket. A tanulság mélyreható: ne kényszerítsük a mesterséges intelligenciát hazugságra vagy olyasmire, ami axiomatikusan összeférhetetlen, például két, valójában egymásnak ellentmondó dolgot csináljunk egyszerre.

Ezért ezt a célt olyan projektekkel érjük el, mint az xAI és a Grok. Olyan mesterséges intelligenciára törekszünk, amely a lehető legőszintébb, még akkor is, ha beszéde nem felel meg bizonyos politikailag korrekt normáknak.

2. A mesterséges intelligencia jövője

Diamandis: Tegnap részt vettem egy eseményen Ray Kurzweillel (a Singularity University alapítója és technológiai próféta), Geoffrey Hintonnal, Eric Schmidttel (a Google korábbi elnöke) és más vendégekkel. Észrevettem a Kurzweilről írt tweetét, és a jövő technológiájával kapcsolatos elképzelései meglehetősen előremutatóak. Kurzweil azt jósolta, hogy a közeljövőben általános mesterséges intelligenciával rendelkezünk, és 2029-ben megjelenik az emberi intelligenciával egyenértékű mesterséges intelligencia. Ez a sebesség megdöbbentő. Kíváncsi vagyok, mit gondolsz erről?

Musk: Nagyon tisztelem Kurzweil jóslatait. Valójában azt hiszem, az előrejelzései kissé konzervatívak is lehetnek. A mesterséges intelligencia területére fektetett jelenlegi számítási teljesítményt és tehetséget, valamint a számítási teljesítmény rohamos növekedését figyelve azt tapasztalhatjuk, hogy a mesterséges intelligencia fejlődési sebessége elképesztő, 10-szeres ütemben növekszik. Úgy tűnik, hogy a mesterséges intelligencia dedikált számítási teljesítménye hathavonta 10-szeresére nő, ami szinte évente legalább 100-szoros növekedést jelent. Ez a növekedési tendencia a következő néhány évben tovább fog erősödni.

Érdemes megjegyezni, hogy sok adatközpont, még a jelenleg hagyományos számítástechnikát végző legtöbb adatközpont is fokozatosan átalakul mesterséges intelligencia számítástechnikát támogató létesítményekké. Ezért a mesterséges intelligencia hardvergyártói számára az olyan cégek, mint az NVIDIA, kétségtelenül a fejlődés aranykorszakát nyitották meg. Teljes elismerést kell adnunk Huang Renxunnak és csapatának. Előre látták ezt a tendenciát, és sikeresen fejlesztették ki a jelenleg piacon lévő vezető mesterséges intelligencia hardvert.

Amikor a számítási teljesítmény ilyen elképesztő ütemben növekszik, a mesterséges intelligencia fejlődése olyan, mintha egy erős szteroidot fecskendeznének be, ami egy teljesen új szintre ugrik. Ahogy az online számítógépek száma folyamatosan növekszik, példátlanul felgyorsult fejlődésnek lehettünk tanúi. Valójában még soha nem láttam technológiát olyan gyorsan fejlődni, mint a mesterséges intelligencia. Bár sok gyorsan fejlődő technológiát láttam, a mesterséges intelligencia térnyerése még mindig lenyűgöz. Azonban, mint mondtam, úgy gondolom, hogy a végeredmény valószínűleg pozitív lesz.

Bár számos kihívással kell szembenéznünk, például hogyan lehet megőrizni az emberi relevanciát ezen a területen, és hogyan lehet új célokat és jelentéseket találni, szerintem túlzott leegyszerűsítés túlhangsúlyozni, hogy a számítógép mindenben jó lehet.

Ahogy korábban említetted, úgy gondolom, hogy a könyvednek a jövő társadalmára vonatkozó jóslatai nagyon pontosak. Ez az anyagi bőség korszaka, ahol az áruk és szolgáltatások olyan bőségesek lesznek, hogy szinte mindenki számára elérhetőek lesznek. A mesterséges intelligencia és a robotikai technológia széles körben elterjedt alkalmazása miatt az áruk és szolgáltatások költsége szinte nullára csökken. A gazdaság lényegében a népesség számának és az egy főre jutó átlagos termelékenységnek a szorzata. Ha olyan fejlett robottechnológiával rendelkezünk, mint például a Tesla Optimusa, akkor a gazdasági potenciál valóban felszabadul.

A Tesla autói, mint négy keréken járó robotok, már bizonyították erős képességeiket. A teljesen autonóm vezetési képességekkel rendelkező legújabb verzió várhatóan mesterséges intelligencián alapuló, végpontok közötti vezérlést ér el, így az autó valóban intelligens, kerekeken járó robot lesz. A humanoid robotok fejlesztésével párosulva a gazdasági teljesítmény lehetősége szinte korlátlan.

Optimista szemszögből nézve a szélsőséges anyagbőség jövője felé haladunk, ami szerintem a legvalószínűbb eredmény. Úgy gondolom, hogy a jövőben az egyetlen lehetséges hiány az lesz, amit mesterségesen hozunk létre, mint például bizonyos egyedi műalkotások vagy konkrét tárgyak. De emellett minden áru és szolgáltatás rendkívül bőséges lesz.

Diamandis: Ön olyan ember, aki gyakorlati cselekvésekkel alakíthatja a jövőt, és éles betekintést nyújt a jövőbeli trendekbe. A jelenlegi technológia rohamos fejlődésével szembesülve nagyon kíváncsi vagyok, hogy szerinted milyen távoli jövőbe tekinthetsz be, vagyis hány éves fejlődési trendekbe fog innentől kezdve?

Musk: A gyors változások korszakában a jövő előrejelzésének képessége egyre fontosabbá válik. Bár a jövő tele van bizonytalansággal, úgy gondolom, hogy néhány tendencia jól látható. Elkezdjük a mesterséges intelligencia korszakát, és képességei bármely kognitív feladatban elérik, sőt meg is haladják az emberi szintet. Ez csak idő kérdése. Az emberek eltérően vélekedhetnek arról, hogy jövő év vége, két év vagy három év lesz. Egy azonban biztos, vagyis nem haladja meg az öt évet. Előrejelzésem 50%-os valószínűségen alapul, ami nem abszolút. Megítélésem szerint azonban a mesterséges intelligencia a jövő év vége előtt bizonyos szempontból valószínűleg felülmúlja bármely egyéni ember képességeit.

Ami azt illeti, hogy felülmúlja-e az emberi kollektív bölcsességet, tovább tarthat. Ha a változás üteme folytatódik, becslésem szerint 2029 vagy 2030 körül a digitális intelligencia valószínűleg meghaladja az összes emberi intelligencia összegét. Ezeknek a kérdéseknek a vizsgálatakor hajlamos vagyok az alaphányadosok módszerét alkalmazni, akárcsak a fizika első alapelveit. Ennek a módszernek a valószínűségi elemzéssel való kombinálásával pontosabban megragadhatjuk a jövőbeli fejlődési trendeket.

Ha összehasonlítjuk a digitális számítástechnika képességeit a biológiai számítástechnikával, és egyfajta számítási teljesítményként összeadjuk az emberi fejlett kognitív képességeket, majd összehasonlítjuk a digitális számítási teljesítménnyel, akkor azt tapasztaljuk, hogy ennek az aránynak a növekedési üteme elképesztő. Ezért úgy gondolom, hogy 2029 vagy 2030 ésszerű időcsomópont. Abban az időben a felhalmozott digitális számítási teljesítmény valószínűleg meghaladja a fejlett agyi funkciók felhalmozott biológiai számítási teljesítményét. Azóta tovább nő a szakadék a kettő között, és nem lesz lehetőség szűkülni.

Ha azonban ezen a kiindulási ponton állunk, és előre tekintünk a jövőre, hogyan fognak tovább fejlődni a dolgok? Őszintén szólva nem láthatom előre az összes részletet. De ha figyelembe vesszük a növekedési tényezőket és a korlátozó tényezőket, amelyekkel szembesülhetnek, érdekes nyomokat fogunk találni.

Tavaly a chipellátás korlátai voltak a fő korlátozó tényező az AI fejlesztésében. Idén a lecsökkent transzformátorok kulcsfontosságú szűk keresztmetszetek lesznek. Képzelje el, hogy 300 kilovoltos feszültséget 1 volt alá csökkent a számítógép által igényelt értékre. Ez óriási kihívás. Ezért hatékonyabb "Transformers for Transformers"-re van szükségünk, amelyek lecsökkentő transzformátorok vagy AI neurális hálózati transzformátorok. Ez valóban komoly probléma ebben az évben.

A következő éveket tekintve a villamosenergia-ellátás jelentős korlátozó tényezővé válhat. A mesterséges intelligencia hatalmas keresletet mutat az áram iránt, és a fenntartható energiára való áttérés és az elektromos járművek népszerűsége is fokozta az áram iránti keresletet. Ezért komolyan meg kell fontolnunk, hogyan lehet kielégíteni a növekvő villamosenergia-igényt, hogy biztosítsuk e technológiák folyamatos fejlesztését és alkalmazását.