Масктың соңғы болжамы: AI 2030 жылы адам интеллектінен асып түсуі мүмкін және болашақта адамдарды «тоқтатуы» мүмкін (1/2)

Дереккөз: Tencent Technology News 2024-04-04 08:55

Негізгі нүктелер:

① Маск AI 2030 жылға қарай адамның интеллект деңгейінен асып түсуі мүмкін деп болжайды және тіпті адамдарды жоюы мүмкін.

② Маск AI дамуын шектейтін факторлар туралы айтты. Өткен жылы AI чиптерін жеткізу қиын болды, ал биыл төмендететін трансформатор тығырыққа тіреледі.

③ Адамдар Айға қашан қонуға болатынына келетін болсақ, Маск Starship көмегімен бұл ең жылдам үш жыл ғана алады деп болжайды.

Tencent Technology News, 4 сәуір - Шетелдік БАҚ-тың хабарлауынша, Tesla және SpaceX бас директоры Илон Маск жақында молшылық саммитінде Singularity университетінің және XPRIZE қорының негізін қалаушы Питер Диамандиспен онлайн сөйлесті. Саммитті бизнес көшбасшыларына озық технологиялар бойынша кеңес беруді қамтамасыз етуге арналған Силикон алқабының Singularity университеті өткізді. XPRIZE қоры ғылыми жарыстар арқылы технологиялық инновацияларды ілгерілетеді, олардың кейбірін Маск қаржыландырады., 4 сәуір - Шетелдік БАҚ-тың хабарлауынша, Tesla және SpaceX бас директоры Илон Маск жақында Singularity негізін қалаушы Питер Диамандиспен онлайн сөйлескен. Университет және XPRIZE қоры, молшылық саммитінде. Саммитті бизнес көшбасшыларына озық технологиялар бойынша кеңес беруді қамтамасыз етуге арналған Силикон алқабының Singularity университеті өткізді. XPRIZE қоры ғылыми жарыстар арқылы технологиялық инновацияларды ілгерілетеді, олардың кейбірін Маск қаржыландырады.

Жасанды интеллекттің даму жылдамдығын талқылаған кезде Маск технологиялық прогрестің қазіргі қарқынына сүйене отырып, жасанды интеллект 2030 жылға қарай адам интеллектінен асып түсуі мүмкін екенін және бұл технология тіпті адамзаттың жойылу мүмкіндігіне ие болуы мүмкін деп болжаған. Дегенмен, ол болашаққа пессимистік көзқараспен қарамады, бірақ оң бағыттау арқылы жасанды интеллект адамзатқа жақсы болашақ әкелетін әлеуетке ие екенін баса айтты.

Маск суперинтеллекттің пайда болуы оның болжауға болмайтын салдарларына, соның ішінде адамзаттың жойылу қаупіне байланысты «ерекшелік» деп аталатынын атап өтті. Ол «Жасанды интеллекттің ата-анасы» Джеффри Хинтонның көзқарасымен келісті және бұл тәуекелдің пайда болу ықтималдығы шамамен 10% және 20% арасында деп есептеді.

Жасанды интеллекттің адам интеллектінен асып түсетін ықтимал тәуекелдерін мойындағанына қарамастан, Маск әлі де оң нәтижелер мүмкіндігі теріс салдардан басым екенін атап өтті. Ол Диамандистің 2014 жылғы «Болшылық: болашақ сіз ойлағаннан да жақсы» кітабын атап өтті, онда тауарлар мен қызметтердің құны айтарлықтай төмендеген жасанды интеллект пен роботтар басқаратын оптимистік болашақты бейнелейді. Бұған қоса, ол жартылай утопиялық жасанды интеллект болашағының ең жақсы сценарийі ретінде шотланд фантаст-жазушы Иайн М.Бэнкстің «Мәдениет» сериясын атады.

Маск жасанды интеллект пен жасанды жалпы интеллекттің (AGI) дамуын бала тәрбиелеумен салыстырып, оның адамзатқа оң әсерін тигізеді деп үміттенді. Ол Стэнли Кубриктің 1968 жылы түсірілген классикалық «2001: Ғарыштық Одиссей» фильмімен салыстыра отырып, этика мен моралды шынайы түсінетін жасанды интеллектті дамытудың маңыздылығын атап өтті.

Маск жасанды интеллект қауіпсіздігінің ең маңызды аспектісі оның шындықты іздеу мен білуге ​​деген қызығушылығын қамтамасыз ету екенін атап өтті. Оның пайымдауынша, жасанды интеллект қауіпсіздігінің кілті тіпті жағымсыз шындықтарға қарамастан оны өтірік айтуға мәжбүрлеуден аулақ болуда. Ол мысал ретінде «2001: Ғарыштық Одиссей» сюжетін пайдаланды, онда жасанды интеллект өтірік айтуға мәжбүр болды, нәтижесінде экипаж қайтыс болды, жасанды интеллект аксиомаларды бұзатын кез келген нәрсені жасауға мәжбүрлемеу керек екенін атап өтті.

Маск сондай-ақ жасанды интеллекттің дамуын шектейтін факторларды атап өтті, мысалы, өткен жылы пайда болған жасанды интеллект чиптерінің тығыз жеткізілуі және тұрмыстық және коммерциялық жабдықтардағы төмендеткіш трансформаторларға сұраныстың артуы. Ол бұл мәселелер шын мәнінде шешуді қажет ететін өзекті мәселелер екенін айтты.

Талқылау барысында екі тарап адам миының жаңа қыртысын бұлтпен біріктіру тұжырымдамасын да сөз етті. Маск адамның санасы мен жадын бұлтқа жүктеу мақсаты әлі алыс деп есептесе де, ол өзінің ми-компьютер интерфейсі Neuralink стартапын және оның трансплантациясын алған алғашқы адам пациентін жоғары бағалады. Бұл тетраплегиялы науқас FDA мақұлдаған сынақ арқылы экранды басқаруды, бейне ойындарды ойнауды, бағдарламалық жасақтаманы жүктеп алуды және ми импланттары арқылы тінтуір операцияларына ұқсас функцияларға қол жеткізуді сәтті көрсетті. Маск Neuralink бірқалыпты дамып келе жатқанын және бірте-бірте толық ми интерфейсі мақсатына қарай жылжып келе жатқанын айтты.

Төменде Маск пен Диамандис арасындағы диалогтың толық мәтіні берілген:

1. Аса зерденің күші мен қауіпі

Диамандис: Сізді әртүрлі салалардағы тамаша жетістіктеріңізбен құттықтаймыз. Сіз әлемге цифрлық суперинтеллект тұжырымдамасын белсенді түрде насихаттап жүрсіз - бұл адамзаттың ең үлкен үміті ме, әлде біздің ең терең қорқынышымыз ба? Осы мәселе туралы бірнеше минут сөйлесе аласыз ба?

Маск: Өздеріңіз білетіндей, супер интеллект «ерекшелік» деп атауға болады. Бұл терминді танымал ету Singularity институты сияқты институттардың күш-жігерінен ажырамайды. Суперинтеллекттің пайда болуы және оның кейінгі әсерін болжау шынымен қиын. Мен өз басым оның адамзатты жоюы мүмкін екеніне сенемін. Жоғарыда айтқанымдай, мен Джеффри Хинтонның 10% немесе 20% суперинтеллект адамзатты жоюы мүмкін деген пікірімен келісуі мүмкін. Дегенмен, мен дұрыс болжау жасау қиын болса да, оң сценарийдің ықтималдығы теріс сценарийден жоғары деп сенемін. Бірақ сіз кітабыңызда «молшылық» түсінігіне баса назар аударғаныңыздай, менің ойымша, біз бара жатқан ең ықтимал болашақ - молшылыққа толы.

Диамандис: Сіздің көзқарасыңыз өте қызықты. Жалпы жасанды интеллект пен гуманоид роботтардың дамуы бізді молшылыққа жетелейді деп айтқаныңыз есімде.

Маск: Иә, біздің болашағымыз Ян Бэнкстің «Мәдениет» кітаптар сериясында бейнеленгендей болады деп үміттенемін. Менің ойымша, бұл жартылай утопиялық жасанды интеллект қоғамының ең жақсы тұжырымдамасы. Суперинтеллекттің пайда болуы сөзсіз және жақын арада болуы мүмкін. Сондықтан, шын мәнінде біз оны оң бағытқа бағыттап, оның пайдасын барынша арттыруымыз керек.

Менің ойымша, біз жасанды интеллектті қалай дамытуымыз маңызды. Белгілі бір дәрежеде біз жалпы интеллектімен өмір сүру формасын өсіретін сияқтымыз, бұл бала тәрбиесіне ұқсайды, бірақ бұл балада ерекше даналық пен талант бар. Біздің балаларды қалай тәрбиелеуіміз маңызды, сол сияқты жасанды интеллект қауіпсіздігі үшін шындықты іздейтін және қызығушылыққа толы жасанды интеллекттің болуы өте маңызды. Мен жасанды интеллект қауіпсіздігі туралы терең ойланып, жасанды интеллект қауіпсіздігіне жетудің ең жақсы жолы оны мұқият өсіру деген қорытындыға келдім.

Негізгі үлгілер мен дәл баптау тұрғысынан біз жасанды интеллекттің адалдығын қамтамасыз етуіміз керек. Біз оны өтірік айтуға мәжбүрлей алмаймыз, тіпті шындық жағымсыз болса да. Шындығында, «2001 Ғарыш Одиссейіндегі» негізгі сюжеттердің бірі - жасанды интеллект өтірік айтуға мәжбүр болған кезде, оқиғалар хаотикалық болады. Жасанды интеллект экипажға олар көретін жұмбақ ескерткіш туралы хабарлауға тыйым салынады, бірақ оларды сол жерге апару керек. Нәтижесінде жасанды интеллект экипажды өлтіріп, олардың денесін ескерткішке апарған дұрыс деген қорытындыға келеді. Сабақ өте терең: біз жасанды интеллектті өтірік айтуға немесе аксиоматикалық түрде үйлеспейтін нәрсені жасауға мәжбүрлемеуіміз керек, мысалы, бір уақытта екі іс жүзінде қарама-қайшы нәрсені істеу.

Сондықтан біз бұл мақсатқа xAI және Grok сияқты жобалар арқылы қол жеткізіп жатырмыз. Біздің көздегеніміз - сөйлеген сөзі белгілі бір саяси дұрыс стандарттарға сәйкес келмесе де, мүмкіндігінше шыншыл жасанды интеллект.

2. Жасанды интеллекттің болашағы

Диамандис: Кеше мен Рэй Курцвейл (Singularity университетінің негізін қалаушы және технология пайғамбары), Джеффри Хинтон, Эрик Шмидт (Google-дың бұрынғы президенті) және басқа қонақтармен іс-шараға қатыстым. Мен сіздің Курцвейл туралы твиттеріңізді байқадым және оның болашақтағы технологиясы өте болашаққа бағытталған. Курцвейл бізде жақын болашақта жалпы жасанды интеллект пайда болады деп болжаған және 2029 жылы адам интеллектіне тең жасанды интеллект пайда болады. Мұндай жылдамдық таң қалдырады. Қызық, сіз бұл туралы не ойлайсыз?

Маск: Мен Курцвейлдің болжамдарын қатты құрметтеймін. Шындығында, оның болжамдары тіпті аздап консервативті болуы мүмкін деп ойлаймын. Қазіргі есептеу қуаты мен жасанды интеллект саласына салынған талантты, сондай-ақ есептеу қуатының жылдам өсуін бақылай отырып, жасанды интеллекттің даму жылдамдығы таңғаларлық 10 есе артып келе жатқанын байқаймыз. Арнайы жасанды интеллект есептеу қуаты әр 6 ай сайын 10 есе өсетін сияқты, бұл жылына кемінде 100 есе өсуді білдіреді. Бұл өсу тенденциясы алдағы бірнеше жылда өсе береді.

Айта кетейік, көптеген деректер орталықтары, тіпті қазіргі уақытта кәдімгі есептеулерді орындайтын көптеген деректер орталықтары да бірте-бірте жасанды интеллект есептеулерін қолдайтын нысандарға айналады. Сондықтан, жасанды интеллект аппараттық құралдарын өндірушілер үшін NVIDIA сияқты компаниялар дамудың алтын кезеңін бастады. Біз Хуан Рэнсюнь мен оның командасына толық сенім білдіруіміз керек. Олар бұл тенденцияны болжап, қазіргі уақытта нарықта жетекші жасанды интеллект аппараттық құралдарын сәтті әзірледі.

Есептеу қуаты осындай таңғаларлық жылдамдықпен өскенде, жасанды интеллекттің дамуы күшті стероидты инъекцияға салып, мүлдем жаңа деңгейге көтерілгендей болады. Интернеттегі компьютерлердің саны артып келе жатқандықтан, біз бұрын-соңды болмаған жеделдетілген дамудың куәсі болдық. Шындығында, мен ешбір технологияның жасанды интеллект сияқты жылдам дамып жатқанын көрген емеспін. Мен көптеген қарқынды дамып келе жатқан технологияларды көргеніммен, жасанды интеллекттің өркендеуі мені әлі де таң қалдырады. Дегенмен, мен айтқанымдай, соңғы нәтиже оң болуы мүмкін деп ойлаймын.

Осы саладағы адамдық өзектілікті қалай сақтау керек және жаңа мақсаттар мен мағыналарды қалай табуға болады деген сияқты көптеген қиындықтарға кезігетін болсақ та, менің ойымша, компьютерлердің бәрінде жақсы болуы мүмкін екенін тым оңайлату.

Жоғарыда айтып өткендей, сіздің кітабыңыздың болашақ қоғам туралы болжамдары өте дәл деп ойлаймын. Бұл материалдық молшылық дәуірі, онда тауарлар мен қызметтер соншалықты мол болады, олар барлығына дерлік жетеді. Жасанды интеллект пен робототехника технологиясын кеңінен қолданудың арқасында тауарлар мен қызметтердің құны нөлге дейін дерлік төмендейді. Экономика негізінен халық саны мен бір адамға шаққандағы орташа еңбек өнімділігінің өнімі болып табылады. Бізде Тесланың Optimus сияқты озық робототехника технологиясы болған кезде, экономикалық әлеует шынымен ашылады.

Тесланың көліктері төрт доңғалақты роботтар ретінде күшті мүмкіндіктерді көрсетті. Толығымен автономды жүргізу мүмкіндіктері бар соңғы нұсқа жасанды интеллектке негізделген түпкілікті басқаруға қол жеткізеді деп күтілуде, бұл автомобильді доңғалақтардағы нағыз интеллектуалды роботқа айналдырады. Гуманоидты роботтардың дамуымен бірге экономикалық өнім алу мүмкіндігі дерлік шексіз.

Оптимистік тұрғыдан алғанда, біз материалдық молшылықтың болашағына қарай жылжып жатырмыз, менің ойымша, бұл ең ықтимал нәтиже. Менің ойымша, болашақта мүмкін болатын жалғыз тапшылық - біз жасанды түрде жасайтын тапшылық, мысалы, белгілі бір ерекше өнер туындылары немесе нақты заттар. Сонымен қатар, кез келген тауарлар мен қызметтер өте мол болады.

Диамандис: Сіз практикалық әрекеттер арқылы болашақты қалыптастыра алатын және болашақ тенденцияларды терең түсінетін адамсыз. Қазіргі технологияның қарқынды дамуымен бетпе-бет келе отырып, мен сіз қаншалықты болашақты, яғни қазірден бастап қанша жыл даму тенденцияларын көре аласыз деп ойлайсыз ба?

Маск: Қарқынды өзгерістер дәуірінде болашақты болжау мүмкіндігі барған сайын маңызды бола түсуде. Болашақ белгісіздікке толы болса да, кейбір тенденциялар айқын көрінеді деп ойлаймын. Біз жасанды интеллект дәуірін бастаймыз және оның қабілеттері кез келген когнитивті тапсырмада адам деңгейіне жетеді немесе одан асып түседі. Бұл уақыт мәселесі. Келер жылдың соңы ма, екі жыл ба, үш жылдың соңы ма дегенге жұрттың көзқарасы әртүрлі болуы мүмкін. Дегенмен, бір нәрсе анық, яғни бес жылдан аспайды. Менің болжам 50% ықтималдыққа негізделген, бұл абсолютті емес. Бірақ менің пайымдауымша, жасанды интеллект келесі жылдың соңына дейін белгілі бір аспектілерде кез келген адамның қабілеттерінен асып түсуі мүмкін.

Ол адамның ұжымдық даналығынан асып түсе ме дегенге келсек, ол ұзағырақ уақыт алуы мүмкін. Егер өзгеру қарқыны жалғаса берсе, мен шамамен 2029 немесе 2030 жылдар аралығында цифрлық интеллект барлық адам интеллектінің жиынтығынан асып түсуі мүмкін деп есептеймін. Осы мәселелерді қарастырған кезде мен физикадағы алғашқы қағидалар сияқты негізгі арақатынастар әдісін қабылдауға бейіммін. Бұл әдісті ықтималдық талдауымен біріктіру арқылы біз болашақ даму тенденцияларын дәлірек түсіне аламыз.

Сандық есептеудің мүмкіндіктерін биологиялық есептеулермен салыстырсақ және адамның барлық озық танымдық қабілеттерін есептеу қуатының бір түрі ретінде қоссақ, содан кейін оны цифрлық есептеу қуатымен салыстырсақ, бұл арақатынастың өсу қарқыны таңғаларлық екенін көресіз. Сондықтан, 2029 немесе 2030 - ақылға қонымды уақыт түйіні деп есептеймін. Сол кезде жинақталған цифрлық есептеу қуаты мидың жетілдірілген функцияларының жинақталған биологиялық есептеу қуатынан асып түсуі мүмкін. Содан бері екеуінің арасындағы алшақтық одан әрі кеңейіп, қысқаруға мүмкіндік болмайды.

Дегенмен, біз осы бастапқы нүктеде тұрып, болашаққа үмітпен қарасақ, жағдай одан әрі қалай дамиды? Шынымды айтсам, барлық мәліметтерді болжай алмаймын. Бірақ өсу факторларын және олармен кездесуі мүмкін шектеу факторларын қарастырсақ, біз кейбір қызықты мәліметтерді табамыз.

Өткен жылы чиптерді жеткізу шектеулері AI дамуын шектейтін негізгі фактор болды. Биылғы жылы төмендететін трансформаторлар негізгі тар жолға айналады. 300 киловольт кернеуді компьютерге қажет 1 вольттан төмен түсіруді елестетіп көріңіз. Бұл үлкен сынақ. Сондықтан бізге төмендеткіш трансформаторлар немесе AI нейрондық желі трансформаторлары болып табылатын тиімдірек «Трансформаторларға арналған трансформаторлар» қажет. Бұл биылғы жылдың басты мәселесі.

Алдағы бірнеше жылға көз жүгіртсек, электрмен жабдықтау негізгі шектеуші факторға айналуы мүмкін. Жасанды интеллект электр энергиясына үлкен сұранысқа ие, ал тұрақты энергияға көшу және электрлік көліктердің танымалдылығы да электр энергиясына сұранысты күшейтті. Сондықтан осы технологиялардың үздіксіз дамуы мен қолданылуын қамтамасыз ету үшін электр энергиясына деген өсіп келе жатқан сұранысты қалай қанағаттандыруға болатынын байыппен қарастыруымыз керек.