Na Emerj, jsme hrdi na prezentaci objektivních informací o aplikacích umělé inteligence v průmyslu. AI je použitelná v celé řadě oblastí-vše od zemědělství po kybernetickou bezpečnost.
většina naší práce však byla na krátkodobém dopadu AI v podnikání. Ale co dlouhodobé? Nemluvíme o příštím čtvrtletí, ani o příštím roce, ale v příštích desetiletích.,
jak se AI stává silnější, očekáváme, že bude mít větší dopad na náš svět, včetně vaší organizace. Rozhodli jsme se tedy udělat to, co děláme nejlépe: hlubokou analýzu aplikací a důsledků AI. Tentokrát jsme však chtěli tuto analýzu aplikovat na dlouhodobou budoucnost AI, abychom mohli pomoci vládním a obchodním vůdcům pochopit vzdálenější možnosti, které by tato technologie mohla přinést k uskutečnění.,
Jsme rozhovor 32 PhD vědci v AI pole a požádal je o technologické singularitě: hypotetické budoucí události, kde počítačové inteligence by překonat a překročit že lidské inteligence s hluboké důsledky pro společnost.
v průběhu našeho výzkumu jsme chtěli odpovědi na šest hlavních otázek:
- Kdy se singularity dojít, pokud vůbec?
- jak lze s největší pravděpodobností dosáhnout post-lidské inteligence?,
- bude mít budoucí umělá inteligence tendenci se fragmentovat nebo se shlukovat do singulární inteligence?
- jakou roli budou lidé hrát ve světě po singularitě?
- měly by mezinárodní orgány jako OSN hrát roli při vedení AI?
- co by měly podniky a vlády udělat nyní, aby se připravily na budoucnost AI?
jako taková má tato série celkem šest kapitol:
- (jste zde) kdy dosáhneme Singularity?, – Konsenzus časové osy od vědců AI
- jak dosáhneme Singularity-AI, Neurotechnologie a další
- vytvoří Umělá inteligence Singleton – nebo bude mnoho Agi agentů? – Konsensus výzkumníka AI
- Po singularitě budou lidé záležet? – Konsensus výzkumníků AI
- měla by OSN hrát roli při vedení umělé inteligence po člověku?,
- Role Obchodní a Vládní Představitelé ve Vedení Post-Human Intelligence – AI Výzkumník Konsensu
V minulosti, singularita byla spíše doménou sci-fi, aby prozkoumala. Nicméně, mnoho odborníků AI, jako Stuart Russell, Max Tegmark, a Stuart Armstrong, brát velmi vážně. Naším cílem tohoto průzkumu bylo získat uzemněný názor na jedinečnost desítek odborníků na umělou inteligenci a také na jejich myšlenky o tom, jak by se lidstvo mohlo připravit na budoucnost umělé inteligence.,
než budeme pokračovat, měli bychom si uvědomit, že to není definitivní zobrazení budoucnosti; pouze možnosti. Mezi našimi odborníky bylo mnoho neshod, včetně toho, zda singularita nastane nebo ne. Ale bez ohledu na to, pochopení možností bude důležité pro každého ve vládě nebo průmyslu, aby zůstal před křivkou. Jak řekl jeden z našich respondentů:
„budoucnost bude pravděpodobně cizí a nepředvídatelnější, než si představujeme.“- James J Hughes
kdy dosáhneme Singularity?,
Pokud bychom měli požádat Mapy Google, aby nás navigovaly k singularitě, jakou cestou by nám to trvalo? A kdy bychom se dostali do cíle? Naši odborníci odpověděli širokou škálou odpovědí. Níže je grafické rozdělení jejich odpovědí:
první otázky, které jsme položili našim odborníkům, byly, když očekávali, že dojde k singularitě., 2100
členění jiným způsobem:
- 45% respondentů předpovídají datum, do roku 2060
- 34% respondentů předpovídají, datum, po roce 2060
- 21% respondentů se domnívá, že Singularita je nepravděpodobné, že by někdy dojít
předpovědi zkosení ke dni dříve, než 2100 nebo možná i dříve než v roce 2060., To se přiměřeně vyrovnává s minulými průzkumy veřejného mínění, které jsme udělali (viz: Časová osa pro vědomí stroje).
je zajímavé poznamenat, že naše odpověď Číslo jedna, „2036-2060″, byla následována“ pravděpodobně nikdy “ jako druhá nejoblíbenější odpověď. Muller a Bostrom, diskutovali později v tomto článku, poznamenali ve svém vlastním průzkumu writeup, že mnoho účastníků, kteří by pravděpodobně spadli do kategorie „pravděpodobně nikdy“, na průzkum jednoduše nereagovali. Vědci zahrnuli citát od hlavního řečníka Huberta Dreyfuse na konferenci“ filozofie a teorie AI “ v roce 2011, aby ilustrovali tento bod., Dreyfus řekl:
já bych si reagovat na takové neobjektivní dotazník…myslím, že jakákoli diskuse o blížící se super–inteligence je zavádějící. To ukazuje žádné pochopení selhání veškeré práce v AI. Dokonce i pouhé formulování takového dotazníku je zkreslené a je to ztráta času.
jinými slovy, uznáváme a chápeme, že stejně jako ostatní průzkumy diskutované v této zprávě se náš průzkum může stát obětí výběrového zkreslení., Lidé, kteří na nás reagovali, pravděpodobně věří, že singularita se nejen vyskytne, ale nastane dříve než později. Prostě nemůžeme rozhodnout, zda tomu tak je nebo není.
proč odborníci vybrali data, která vybrali (z nichž mnohé jsou v našich životech)? I když náš průzkum nepožádal o důvod, proč si účastník vybral časový rámec, který udělal, máme podezření, že řada důležitých trendů AI mohla ovlivnit jejich názory.,
Mnoho národů již skočil do rozjetého vlaku a vydali národní strategie AI podporovat domácí R&D a nový start-ups s miliardy dolarů na podporu. Sektory od pharma po bankovnictví se stávají hostiteli desítek každoročních událostí AI a stovek nebo tisíců odvětvových dodavatelů AI.
jasný impuls AI financování, vzdělávání, a národní strategie jistě dobrým znamením pro AI je pokračující pokrok, a je možné, že tyto trendy ovlivňuje reakce našich účastníků. To znamená, že si nemůžeme být jisti.,
v následujících třech částech článku porovnáváme naše zjištění s výsledky dvou dalších průzkumů výzkumníků AI, které byly provedeny v posledních čtyřech letech, a názory dvou významných futuristických vynálezců a vůdců myšlení AI. Začneme s průzkumem od Muller a Bostrom.
Muller a Bostromův „budoucí pokrok v umělé inteligenci“
Vincent C., Muller, Profesor Filozofie na Anatolie College a Prezident Evropské Asociace pro Kognitivní Systémy, a Nick Bostrom, proslulý filozofie v Oxfordu, který napsal přes 200 publikací na superinteligence, umělá inteligence generála (AGI), a další témata, provedla průzkum vědci AI a myšlení vůdců.
požádali 550 účastníků čtyři hlavní otázky, které budeme diskutovat v tomto článku:
- Když je AGI pravděpodobné, že se stane?,
- jak brzy po AGI, kterou nazvali „high-level machine intelligence“, AGI výrazně překoná lidské schopnosti (singularita)?
Je třeba poznamenat, že otázky nebyly formulovány tímto způsobem v Muller a boström průzkum; máme parafrázoval otázky.,něco ve způsobu, jakým se podílí na jedinečnosti a AGI diskuse:
- PT-AI účastníci byli většinou non-technické AI si myslel, že vůdci
- AGI účastníci byli většinou technické AI vědci
- EETN byli účastníci skládá pouze ze zveřejněných technických AI vědci
- TOP100 účastníci byli také většinou technické AI vědci
Jak již bylo uvedeno, Muller a Bostrom požádal účastníky o tom, co říkají „na Vysoké úrovni umělé inteligence,“ nebo HLMI., Udělali to, aby zmírnili zaujatost, která mohla vzniknout, kdyby jejich průzkum zahrnoval slova jako“ umělá obecná inteligence „nebo “ singularita“.“
s tímto vědomím jsme se rozhodli nahradit“ HLMI “ AGI pro účely soudržnosti v tomto článku. Muller a Bostrom definují HLMI jako inteligenci“, která dokáže vykonávat většinu lidských profesí alespoň stejně jako typický člověk „a označují ji jako“ velmi pravděpodobně znamená, že dokáže projít klasickým Turingovým testem.“V důsledku toho se domníváme, že naše rétorická substituce je oprávněná.,
Muller a Bostrom našel některé zajímavé výsledky:
- Účastníci dali 10% pravděpodobnost, že budeme mít AGI do roku 2022, je 50% pravděpodobnost, že budeme mít AGI do roku 2040 a 90% pravděpodobnost, že budeme mít AGI v roce 2075. Tyto roky byly všechny střední odpovědi.
- účastníci mu dali střední 10% pravděpodobnost, že AGI výrazně překoná lidskou inteligenci pouhé dva roky po svém vynálezu., Ačkoli nemusí být přesvědčeni o dvouleté trajektorii po vynálezu, věří, že existuje 75% pravděpodobnost, že superinteligence, která předčí lidi, vznikne 30 let po vynálezu AGI.
- Možná stojí za zmínku, je, že AGI skupiny účastníků, většinou technické AI vědci, zjistil, že je o 5% více než pravděpodobné, celkový bazén účastníků, že AGI by překoná lidi dva roky (15%) poté, co jeho vynález a 15% více pravděpodobné, že by překoná lidi do 30 let (90%).,
- Kupodivu, další dvě skupiny technických výzkumných pracovníků (EETN a TOP100), jsou mnohem méně pravděpodobné, než AGI skupiny se domnívají, AGI by překoná lidskou inteligenci v i 30 let po jeho vynálezu (55% a 50%).
Muller a Bostrom nechtěl přímo požádat účastníky, když singularita může dojít, ale zdá se, že existuje významný rozdíl mezi jejich účastníky a náš. Polovina všech účastníků Mullera a Bostromu odpověděla, že existuje 90% pravděpodobnost dosažení AGI po roce 2075. Průměrný rok byl 2081.,
i když neexistuje žádný způsob, jak přímo porovnat výsledky naší studie s výsledky Muller a Bostrom je z důvodu odlišných metodik, možná tam je něco, co říci o tom, že 24% našich účastníků, největší zpravodajské skupiny, byli přesvědčeni, singularita by mohlo dojít mezi 2036 a 2060, vzhledem k tomu, že 50% Muller a boström účastníků dal 90% pravděpodobnost, že už by ani dosáhnout AGI až po roce 2075, natož dosažení singularity.,
Muller a boström účastníků obecně si myslel, že singularita má 75% šanci, vyskytující se 30 let po AGI je dosaženo, což dává časový rámec pro singularity několik desetiletí později, než naši účastníci věřil.
Projekce od Futuristů – Ray Kurzweil a Louis Rosenberg
obecně platí, zdá se, že naše účastníky projektu kratší časový rámec pro dosažení singularity než Muller a boström. To staví je více v souladu s Ray Kurzweil, uznávaný futurolog a Google je Ředitel Inženýrství., Kurzweil tvrdí, že míra přesnosti 86% s jeho předpovědi sahající do 90. let. ve své časové ose singularity předpovídá, že samotná singularita je dosažena do roku 2045.
Podobně, Louis Rosenberg, Ph.d., vynálezce, a generální ŘEDITEL a Hlavní Vědec jednomyslné AI, má toto říkat o časovém singularity:
Zpět v brzy 1990, když jsem začal přemýšlet o tomto problému, jsem věřil, že AI by přesahovat lidské schopnosti kolem roku 2050. V současné době věřím, že k tomu dojde dříve, možná už v roce 2030., To je pro mě velmi překvapivé, protože tyto typy předpovědí obvykle sklouzávají dále do budoucnosti, protože se zaměřují na technologické limity, ale tento k nám křičí rychleji než kdy jindy.
Kurzweil je známá pro různé předpovědi o nově vznikající technologie a transhuman přechod, včetně rozhraní mozek-stroj, nanotechnologie, AGI, atd.
Grace et.,Al “ kdy AI překročí lidskou výkonnost?“
Katja Grace, John Salvatier, Allan Dafoe, Baobao Zhang, a Owain Evans, vědci z Oxfordu, Yale a AI Dopady, provedla průzkum jejich vlastní. Jejich účastníky bylo 352 vědců, kteří publikovali na konferencích NIPS a ICML 2015 pro výzkum v oblasti strojového učení. 82% jejich účastníků bylo na akademické půdě, zatímco 21% pracovalo v průmyslu.
milost et.al ve svém průzkumu použijte „high-level machine intelligence“ (HLMI), ale na rozdíl od Mullera a Bostromu, Grace et.,al zdá se, že to definuje způsob, jakým definujeme singularitu: „překonávání lidí ve všech úkolech.“Z tohoto důvodu nahradíme Grace a používání HLMI kolegy za singularitu pro účely soudržnosti v tomto článku.
účastníci Grace a kolegové dali průměrnou 10% pravděpodobnost, že singularita bude dosažena do 9 let po provedení průzkumu v roce 2016 (do roku 2025). Účastníci také dal říct 50% pravděpodobnost, že singularita by dojít do 45 let poté, co byl proveden průzkum (2061)., To staví jejich respondenty na konec příběhu naší největší skupiny odpovědí: ti, kteří věří, že singularita se stane mezi lety 2036 a 2060.
Kupodivu, Grace et.al také požádal účastníky „pro pravděpodobnost, že AI by se provádět mnohem lépe, než lidé v všechny úkoly, dva roky po HLMI je dosaženo.“Vzhledem k jejich definici „HLMI“ jako strojové inteligence, která byla „lepší“ než lidé ve všech úkolech, není jasné, co přesně vědci znamenají „obrovsky.,“Jsme si jisti, zda tohle byla otázka, kterou jsem v odkazu na singularity, nebo pokud jejich definice HLMI byl v odkazu na singularity, jako jsme si to vyložila.
to znamená, že otázka je velmi podobná otázce položené Mullerem a Bostromem, a proto můžeme porovnat obě odpovědi. Je zajímavé, že Grace a kolegy účastníků odpovědělo, s mediánem 10% pravděpodobnost, že AI by být „mnohem“ lepší, na lidi, na všechny úkoly, dva roky po vynálezu HLMI, které na tuto otázku se zdá referenční AGI, jak to dělá v Muller a boström průzkum., To je stejná pravděpodobnost, kterou uvedli účastníci Muller a Bostrom.
i když by bylo zajímavé vidět, jakou šanci Grace a kolegy účastníků dal za singularity vyskytující se 30 let po vynálezu JPL, vědci neobsahoval otázku na jejich průzkum.
takže kdy se pravděpodobně vyskytne singularita?
zdá se, jako by vědci AI a si myslel, že vedoucí projektu singularity se vyskytují zhruba do následujících čtyř až pěti let. Účastníci Mullera a Bostromu projektují další časovou osu, ale Grace et.,al, Kurzweil, a Rosenberg všechno projektu singularity se vyskytují zhruba v časovém rámci našich největších respondent skupiny: opět, mezi 2036 a 2060.
Napsat komentář