w Emerj jesteśmy dumni z prezentowania obiektywnych informacji na temat zastosowań sztucznej inteligencji w przemyśle. Sztuczna inteligencja ma zastosowanie w wielu różnych obszarach-od rolnictwa po cyberbezpieczeństwo.
jednak większość naszych prac dotyczy krótkoterminowego wpływu AI w biznesie. Ale co z długoterminowym? Nie mówimy o przyszłym kwartale, a nawet przyszłym roku, ale o kolejnych dziesięcioleciach.,
ponieważ sztuczna inteligencja staje się coraz potężniejsza, spodziewamy się, że będzie miała większy wpływ na nasz świat, w tym na Twoją organizację. Dlatego postanowiliśmy zrobić to, co robimy najlepiej: dogłębną analizę aplikacji i implikacji sztucznej inteligencji. Ale tym razem chcieliśmy zastosować tę analizę do długoterminowej przyszłości sztucznej inteligencji, abyśmy mogli pomóc rządowi i liderom biznesu zrozumieć bardziej odległe możliwości, jakie ta technologia może przynieść.,
przeprowadziliśmy wywiady z naukowcami 32 doktorantów w dziedzinie sztucznej inteligencji i zapytaliśmy ich o osobliwość technologiczną: hipotetyczne przyszłe wydarzenie, w którym inteligencja komputerowa przewyższyłaby i przewyższyłaby inteligencję ludzką, co ma głębokie konsekwencje dla społeczeństwa.
w trakcie naszych badań chcieliśmy odpowiedzieć na sześć głównych pytań:
- kiedy wystąpi osobliwość, jeśli w ogóle?
- w jaki sposób można osiągnąć inteligencję post-ludzką?,
- czy w przyszłości sztuczna inteligencja będzie miała tendencję do fragmentacji lub skupiania się w pojedynczą inteligencję?
- jaką rolę odegrają ludzie w świecie post-osobliwości?
- czy organizacje międzynarodowe, takie jak ONZ, powinny odgrywać rolę w kierowaniu si?
- co powinny teraz zrobić firmy i rządy, aby przygotować się na przyszłość sztucznej inteligencji?
w związku z tym seria ta składa się w sumie z sześciu rozdziałów:
- (jesteś tutaj) kiedy dotrzemy do osobliwości?, – Konsensus czasowy naukowców z AI
- Jak osiągniemy osobliwość – AI, Neurotechnologie i inne
- czy sztuczna inteligencja utworzy Singleton – czy będzie wielu agentów AGI? – Konsensus badacza sztucznej inteligencji
- Po osobliwości ludzie będą mieli Znaczenie? -Konsensus badacza sztucznej inteligencji
- czy Organizacja Narodów Zjednoczonych powinna odgrywać rolę w kierowaniu Post-ludzką Sztuczną Inteligencją?,
- rola liderów biznesu i rządu w kierowaniu konsensusem badaczy sztucznej inteligencji po ludzku
w przeszłości osobliwość była bardziej sferą science fiction do zbadania. Jednak wielu ekspertów od sztucznej inteligencji, takich jak Stuart Russell, Max Tegmark I Stuart Armstrong, traktuje to bardzo poważnie. Naszym celem było zebranie opinii kilkudziesięciu ekspertów od sztucznej inteligencji na temat osobliwości oraz ich przemyśleń na temat tego, w jaki sposób ludzkość może przygotować się na przyszłość sztucznej inteligencji.,
zanim przejdziemy dalej, powinniśmy zauważyć, że nie jest to definitywne przedstawienie przyszłości, tylko możliwości. Wśród naszych ekspertów było wiele sporów, w tym czy osobliwość wystąpi. Niezależnie od tego, zrozumienie możliwości będzie ważne dla każdego w rządzie lub branży, aby wyprzedzić krzywą. Jak powiedział jeden z naszych respondentów:
„przyszłość może być dziwniejsza i bardziej nieprzewidywalna, niż nam się wydaje.”- James J Hughes
kiedy dotrzemy do osobliwości?,
gdybyśmy mieli poprosić Google Maps, aby poprowadzili nas do osobliwości, jaką drogę by nam to dało? A kiedy dotrzemy do celu? Nasi eksperci odpowiedzieli szerokim wachlarzem odpowiedzi. Poniżej znajduje się Graficzny podział ich odpowiedzi:
pierwsze pytania, które zadaliśmy naszym ekspertom, dotyczyły momentu, w którym spodziewali się wystąpienia osobliwości., 2100
w podziale w inny sposób:
- 45% respondentów przewiduje datę przed 2060
- 34% respondentów przewiduje datę po 2060
- 21% respondentów uważa, że osobliwość jest mało prawdopodobne, aby kiedykolwiek wystąpić
przewidywania przekrzywiają się w kierunku daty wcześniej niż 2100 lub nawet potencjalnie wcześniej od 2060 roku., To dość dobrze pasuje do poprzednich sondaży, które zrobiliśmy (zobacz: oś czasu dla świadomości Maszyny).
warto zauważyć, że nasza odpowiedź Numer jeden, „2036-2060”, została następnie „prawdopodobnie nigdy” jako druga najbardziej popularna odpowiedź. Muller i Bostrom, omówieni w dalszej części tego artykułu, zauważyli we własnej ankiecie writeup, że wielu uczestników, którzy prawdopodobnie spadną do kategorii „prawdopodobnie nigdy”, po prostu nie odpowiedziało na ankietę. Naukowcy zamieścili cytat z głównego mówcy, Huberta Dreyfusa, na konferencji” filozofia i teoria sztucznej inteligencji ” w 2011 roku, aby zilustrować ten punkt., Dreyfus powiedział (a):
nie pomyślałbym o odpowiedzi na tak stronniczy kwestionariusz…myślę, że jakakolwiek dyskusja o nadciągającej super–inteligencji jest błędna. Nie pokazuje zrozumienia niepowodzenia wszystkich prac w sztucznej inteligencji. Nawet samo sformułowanie takiego kwestionariusza jest stronnicze i jest stratą czasu.
innymi słowy, zdajemy sobie sprawę, że podobnie jak inne ankiety omówione w tym raporcie, nasza ankieta może stać się ofiarą uprzedzeń selekcyjnych., Ludzie, którzy nam odpowiedzieli, są prawdopodobnie bardziej skłonni uwierzyć, że osobliwość nie tylko pojawi się, ale pojawi się wcześniej niż później. Po prostu nie możemy ocenić, czy tak jest, czy nie.
dlaczego eksperci wybrali wybrane przez siebie daty (z których wiele jest w naszym życiu)? Podczas gdy w naszej ankiecie nie pytano o powód, dla którego uczestnik wybrał ramy czasowe, podejrzewamy, że wiele ważnych trendów si mogło wpłynąć na jego opinie.,
wiele krajów wskoczyło na modę i wydało krajowe strategie AI w celu promowania krajowych R& D i nowych start-upów z miliardami dolarów wsparcia. Sektory, od farmacji po Bankowość, stają się gospodarzami dziesiątek corocznych wydarzeń związanych z SI oraz setek lub tysięcy firm dostawców SI dla poszczególnych sektorów.
wyraźny rozmach finansowania AI, edukacji i strategii krajowej z pewnością dobrze wróży ciągłym postępom AI i możliwe, że te trendy wpłynęły na reakcje naszych uczestników. To powiedziawszy, nie możemy być pewni.,
w kolejnych trzech sekcjach artykułu porównujemy nasze wyniki z wynikami dwóch innych badań naukowców zajmujących się sztuczną inteligencją przeprowadzonych w ciągu ostatnich czterech lat oraz opiniami dwóch wybitnych futurystycznych wynalazców i liderów myśli sztucznej inteligencji. Zaczynamy od ankiety od Mullera i Bostroma.
„przyszły postęp w sztucznej inteligencji”Mullera i Bostroma
Vincent C., Muller, profesor filozofii w Anatolia College i prezes European Association for Cognitive Systems, oraz Nick Bostrom, znany filozof w Oksfordzie, który napisał ponad 200 publikacji na temat superinteligencji, sztucznej inteligencji ogólnej (AGI) i innych tematów, przeprowadzili ankietę wśród badaczy sztucznej inteligencji i liderów myśli.
zadali 550 uczestnikom cztery główne pytania, z których dwa omówimy w tym artykule:
- kiedy nastąpi AGI?,
- jak szybko po AGI, które nazwali „inteligencją maszyn wysokiego poziomu”, AGI znacznie przekroczy ludzkie możliwości (osobliwość)?
należy zauważyć, że pytania nie zostały sformułowane w ten sposób w ankiecie Mullera i Bostroma; sparafrazowaliśmy pytania.,nieco w sposobie, w jaki uczestniczą w dyskusji singularity i AGI:
- uczestnicy PT-AI byli w większości nietechnicznymi liderami myśli AI
- uczestnicy AGI byli w większości technicznymi badaczami sztucznej inteligencji
- uczestnicy EETN byli badacze sztucznej inteligencji
- uczestnicy Top100 byli również w większości technicznymi badaczami sztucznej inteligencji
jak już wcześniej wspomniano, Muller i Bostrom zapytali uczestników o to, co nazywają „inteligencją maszyn wysokiego poziomu” lub hlmi., Zrobili to, aby złagodzić uprzedzenia, które mogły powstać, gdyby ich ankieta zawierała słowa takie jak” sztuczna ogólna Inteligencja ” lub ” osobliwość.”
wiedząc o tym, postanowiliśmy w tym artykule zastąpić” HLMI ” AGI dla celów spójności. Muller i Bostrom definiują HLMI jako inteligencję ” zdolną do wykonywania większości ludzkich zawodów przynajmniej tak dobrze, jak typowy człowiek „i odnoszą się do niej jako” bardzo prawdopodobne oznacza, że jest w stanie zdać klasyczny test Turinga.”W rezultacie uważamy, że nasza retoryczna substytucja jest uzasadniona.,
Muller i Bostrom znaleźli interesujące wyniki:
- uczestnicy Dali 10% prawdopodobieństwo, że będziemy mieli AGI do 2022 roku, 50% prawdopodobieństwo, że będziemy mieli AGI do 2040 roku, a 90% prawdopodobieństwo, że będziemy mieli AGI do 2075 roku. Te lata były wszystkie mediany odpowiedzi.
- uczestnicy dali mu medianę 10% prawdopodobieństwa, że AGI znacznie przekroczy ludzką inteligencję zaledwie dwa lata po jego wynalezieniu., Chociaż mogą nie być pewni trajektorii dwóch lat po wynalezieniu, wierzą, że istnieje 75% prawdopodobieństwo, że superinteligencja, która przewyższa ludzi, powstanie 30 lat po wynalezieniu AGI.
- być może warto zauważyć, że grupa uczestników AGI, głównie badacze sztucznej inteligencji technicznej, odkryli 5% bardziej prawdopodobne niż ogólna Pula uczestników, że AGI przekroczy ludzi dwa lata (15%) po swoim wynalazku i 15% bardziej prawdopodobne, że przekroczy ludzi w ciągu 30 lat (90%).,
- co dziwne, dwie pozostałe grupy badaczy technicznych (EETN i TOP100) były znacznie mniej prawdopodobne niż grupa AGI, aby sądzić, że AGI przekroczy ludzką inteligencję nawet 30 lat po jej wynalezieniu(odpowiednio 55% i 50%).
Muller i Bostrom nie pytali bezpośrednio uczestników, kiedy osobliwość może wystąpić, ale wydaje się, że istnieje znacząca różnica między ich uczestnikami a naszymi. Połowa wszystkich uczestników programu Muller i Bostrom odpowiedziała, że istnieje 90% prawdopodobieństwo osiągnięcia AGI po 2075 roku. Średni rok to 2081.,
chociaż nie ma możliwości bezpośredniego porównania wyników naszego badania z wynikami badań Mullera i Bostroma ze względu na różne metodologie, być może jest coś do powiedzenia na temat faktu, że 24% naszych uczestników, największa grupa raportująca, była przekonana, że osobliwość wystąpi między 2036 a 2060, podczas gdy 50% uczestników Mullera i Bostroma dało 90% prawdopodobieństwo, że nie osiągniemy AGI aż po 2075, nie mówiąc już o osiągnięciu osobliwości.,
Muller i Bostrom ogólnie uważali, że osobliwość ma 75% szans na wystąpienie 30 lat po osiągnięciu AGI, co stawia ramy czasowe dla osobliwości kilkadziesiąt lat później niż nasi uczestnicy sądzili.
projekcje futurystów – Ray Kurzweil i Louis Rosenberg
ogólnie rzecz biorąc, wydaje się, że nasi uczestnicy projektują krótszy czas osiągnięcia osobliwości niż Muller i Bostrom. to stawia ich bardziej w zgodzie z Rayem Kurzweilem, znanym futurystą i dyrektorem inżynierii Google., Kurzweil twierdzi, że wskaźnik dokładności wynosi 86%, a jego przewidywania sięgają lat 90. w swojej osi czasu osobliwości przewiduje, że osobliwość zostanie osiągnięta do roku 2045.
podobnie, dr Louis Rosenberg, wynalazca, dyrektor generalny i główny naukowiec jednomyślnej sztucznej inteligencji, ma to do powiedzenia na temat ram czasowych osobliwości:
we wczesnych latach 90., kiedy zacząłem myśleć o tym problemie, wierzyłem, że sztuczna inteligencja przekroczy ludzkie zdolności około roku 2050. Obecnie uważam, że stanie się to wcześniej, być może już w 2030 roku., Jest to dla mnie bardzo zaskakujące, ponieważ tego typu prognozy Zwykle przesuwają się w przyszłość, gdy granice technologii stają się coraz bardziej widoczne, ale ta krzyczy do nas szybciej niż kiedykolwiek.
Kurzweil jest znany z wielu prognoz dotyczących powstającej technologii i transhumanizmu, w tym interfejsu mózg-maszyna, nanotechnologii, AGI itp.
,al ' S ” kiedy AI przekroczy ludzką wydajność?”
Katja Grace, John Salvatier, Allan Dafoe, Baobao Zhang i Owain Evans, naukowcy z Oksfordu, Yale i AI Impacts, przeprowadzili własne badanie. Ich uczestnikami były 352 naukowcy, którzy opublikowali na konferencjach NIPS i ICML 2015 dla badań w uczeniu maszynowym. 82% ich uczestników było w środowisku akademickim, podczas gdy 21% pracowało w przemyśle.
Grace et.al używaj w swoich badaniach” inteligencji maszyn wysokiego poziomu ” (HLMI), ale w przeciwieństwie do Mullera i Bostroma, Grace et.,al wydaje się definiować to tak, jak my definiujemy osobliwość: „przewyższanie ludzi we wszystkich zadaniach.- Z tego powodu zamierzamy zastąpić w tym artykule wykorzystanie przez Grace i kolegów HLMI dla osobliwości dla celów spójności.
Grace i uczestnicy współpracownicy podali średnie prawdopodobieństwo 10%, że osobliwość zostanie osiągnięta w ciągu 9 lat po przeprowadzeniu badania w 2016 (do 2025). Uczestnicy podali również średnie 50% prawdopodobieństwo, że osobliwość wystąpi w ciągu 45 lat po przeprowadzeniu badania (do 2061 roku)., To stawia ich respondentów na końcu opowieści naszej największej grupy odpowiedzi: tych, którzy wierzą, że osobliwość wydarzy się między 2036 a 2060.
et.al zapytał również uczestników ” o prawdopodobieństwo, że sztuczna inteligencja będzie działać znacznie lepiej niż ludzie we wszystkich zadaniach dwa lata po osiągnięciu HLMI.”Biorąc pod uwagę ich definicję „HLMI” jako inteligencji maszynowej, która była” lepsza ” od ludzi we wszystkich zadaniach, nie jest jasne, co dokładnie badacze mają na myśli „znacznie.,”Nie jesteśmy pewni, czy było to pytanie, które zadali w odniesieniu do osobliwości, czy też ich definicja HLMI odnosiła się do osobliwości, tak jak ją zinterpretowaliśmy.
to pytanie jest bardzo podobne do pytania Mullera i Bostroma, więc możemy porównać dwie odpowiedzi. Co ciekawe, Grace i uczestnicy współpracowników odpowiedzieli z medianą 10% prawdopodobieństwa, że AI będzie „znacznie” lepsza dla ludzi we wszystkich zadaniach dwa lata po wynalezieniu HLMI, co w tym pytaniu wydaje się odnosić do AGI, jak to robi w badaniu Mullera i Bostrom., Jest to to samo prawdopodobieństwo, że uczestnicy Muller i Bostrom zgłaszane.
chociaż interesujące byłoby zobaczyć, jaką szansę Grace i uczestnicy współpracownicy dali na osobliwość występującą 30 lat po wynalezieniu AGI, naukowcy nie uwzględnili tego pytania w swojej ankiecie.
Kiedy więc nastąpi osobliwość?
wydaje się, że naukowcy i liderzy myśli AI przewidują, że osobliwość pojawi się mniej więcej w ciągu najbliższych czterech do pięciu dekad. Muller i uczestnicy Bostroma projektują dalszy harmonogram, ale Grace et.,al, Kurzweil i Rosenberg projektują osobliwość, która wystąpi mniej więcej w ramach czasowych naszej największej grupy respondentów: ponownie, między 2036 a 2060.
Dodaj komentarz