U slučaju da niste dobili dopis o cijelom AI-ju, preuzet će svjetsku stvar, evo nekoliko činjenica koje trebate znati.(Foto: Shan Sheehan / Flickr) Ove je godine računalo po prvi puta ikad pobijedilo svjetskog prvaka Goa, jednu od najsloženijih igara poznatih čovjeku. Ovo je bio još jedan presudni trenutak u napretku umjetne inteligencije.
Da biste dobili ideju koliko je Go kompleksan, postoje 2.082 × 10 ^ 170 mogućih konfiguracija ploče. To je 2 sa 170 nula nakon njega. Šanse su da vaš mozak ne može ni zamisliti tako velik broj (ali računalo to može). Ili da vam daju ideju koliko je velik broj da je, u svemiru postoji samo 10 ^ 80 atoma - to jest jedan iza kojeg slijedi 79 nula.
Razlog što je ovolika stvar je taj što je Go toliko kompliciran da bi stroj, kako bi pobijedio vrhunskog ljudskog igrača, morao naučiti kreativno razmišljati, improvizirati i prilagoditi se situaciji bez mogućnosti izračunavanja svih mogućih mogućnosti. ishod; tj. Mora se dogoditi neka ozbiljna umjetna inteligencija - poput stvarne, kreativne inteligencije.
U slučaju da niste dobili dopis o cijelom AI-ju, preuzet će svjetsku stvar, evo nekoliko činjenica koje trebate znati.
- Računala postaju pametnija.
- Računala su sve pametnija ubrzanom brzinom - tj. Napredak koji je nekad trajao 10 godina sada traje godinu dana. Napredak koji je nekad trajao godinu dana, sada traje tjednima ili čak danima.
- Velika je vjerojatnost da će tijekom naših života postojati računala koja su daleko pametnija i sposobnija od bilo kojeg ljudskog bića.
- Ta pametnija računala tada će vjerojatno moći dizajnirati i usavršavati tehnologiju (tj. Sebe) i stvarati novu tehnologiju koju ne možemo ni pojmiti.
Ljudi koji razumiju gornje točke uglavnom imaju jednu od dvije reakcije. Ili:
- Misle da smo totalno sjebani. Računala će sve preuzeti i sve nas pobiti / porobiti. Ili:
- To će stvoriti tehnološku utopiju koja će popraviti sve naše glupe ljudske prepirke i svi možemo živjeti sretno nakon orgija u našem ultra-VR svijetu koji postoji u oblaku.
Kao i kod većine stvari, istina je vjerojatno negdje u sredini.
Ali čak i ako sranje pogodi ventilator, čak i ako nas roboti vide kao uši koje uništavaju netaknuto vlasište ovog planeta i žele nas sve zaokružiti i baciti u aktivni vulkan, čak i ako nenamjerno izmišljamo same mehanizme svojih vlastitih izumiranje…
…Ne zanima me. Nije važno. Ne smeta mi. I to vam ne bi trebalo smetati. Uskoro ću objasniti zašto. Ali za sada biste trebali znati da ja, kao prvo, pozdravljam naše nove nadređene robote.
UBRZATI RAST U TEHNIČKOJ INDUSTRIJI
Tehnološki razvoj naslanja se na sebe, uzrokujući stopa samog razvoja da se ubrza. To znači da što je naprednija tehnologija koju stvaramo, to je lakše stvarati još napredniju tehnologiju. Kao rezultat toga, kada pogledamo napredak računalne tehnologije, vidimo eksponencijalnu krivulju - tj. Što više vremena prolazi, stvari se brže razvijaju. 
Tehnološki se razvoj naslanja na sebe, što uzrokuje ubrzanje same stope razvoja.(Foto: Dennis Skley / Flickr)
Računska snaga u prosjeku se udvostručila svakih 18 mjeseci već 50 godina . Što se tiče sirove računalne snage, računala se sada nadmeću sa sposobnostima mozga miša, gdje se prije samo nekoliko godina računala nisu mogla nadmetati s mozgom insekata.
Da bismo vam pružili neposredniji primjer napretka brze tehnologije, svake se dvije minute snima više slika nego u cijelom 19. stoljeću. Oko 10% od 3,5 bilijuna ikad snimljenih fotografija snimljeno je u posljednjih 12 mjeseci.
Ako smo doista na eksponencijalnoj krivulji kada je riječ o napretku visoke tehnologije, onda se ljudima sviđa Jeremy Howard vjerojatno su u pravu kad kaže da nas dijeli samo nekoliko godina od umjetne strojne inteligencije koja je suparnica, ako ne i nadmašuje našu u mnogim domenama za koje se prije smatralo da su jedinstveni ljudi.
I da budemo sigurni, AI se uvlači u sve više područja našeg života.
Prije samo deset godina ljudi su se smijali lošim performansama samovozećih automobila. Danas, samo desetljeće kasnije, samovozeći automobili ne mogu samo završiti tečaj zatvorene ceste, već se prometnim prometnicama voze uz automobile kojima upravljaju ljudi.
A kada računala ne pobjeđuju svjetske prvake Go igrače, oni su zauzeti radeći takve stvari pisanje članaka o sportu i najnovije vijesti , pisanje opisa slika koje nikada prije nisu vidjeli, i dijagnosticiranje raka . Za mnoge od ovih zadataka računala su dobra ako ne i bolja od ljudi, a za ona koja nisu, jesu učenje kako ih raditi sve bolje i bolje svaki dan bez pomoći ljudi.
Prije nekoliko kratkih godina softver za prepoznavanje lica bio je nevjerojatno skup i nije bio tako dobar u prepoznavanju ljudi u stvarnim postavkama. Smatrala se supernaprednom tehnologijom na razini špijuna i koristila je samo nekoliko svjetskih vlada.
Sad Facebook može jebeno označiti vaše prijatelje s roštilja prošlog vikenda.
Evo što je s ubrzavanjem rasta računala: jednog će dana doći do točke u kojoj gradimo računalo koje jest pametniji od bilo kojeg čovjeka na Zemlji . Tog će nas dana računala uzurpirati kao primarne rješavače problema na planetu, a odatle će naše misli, odluke i postupci polako zastarjeti. Strojevi će u svemu biti bolji od nas, pa sve više i više nećemo raditi ništa korisno.
To neke ljude užasava. Zamišljaju nekakvu budućnost poput Terminator ili Matrica gdje nas strojevi robuju ili istrebljuju.
Drugi se ljudi raduju usponu robota s nekakvom kultnom žestinom jer vjeruju da će njihove sposobnosti rješavanja problema toliko nadmašiti našu da će život postati nezamislivo ugodan i bez problema. Sve će se bolesti izliječiti. Siromaštvo, glad u svijetu, rat i klimatske promjene bit će riješeni. Imat ćemo beskrajno puno slobodnog vremena, a u ekstremnim slučajevima neki ljudi vjeruju da će nas strojevi učiniti besmrtnima.
DVA MOGUĆA ISHODA
Budući da nam se uvijek govori da smo jebeno pozitivni, krenimo od tehno-utopijasta.
Postoje ljudi poput Ray Kurzweil koji misle da tehnologija neće samo poboljšati naš život, već će spasiti čovječanstvo i možda jamčiti naše mjesto u svemiru na neodređeno vrijeme. Kurzweil vjeruje u buduću tehnologiju poput nanobotova koji će popraviti naše stanice i preokrenuti starenje ili ukloniti višak masnoće i šećera kako bismo mogli jesti što god želimo. I samo u slučaju da naša fizička tijela ne mogu živjeti vječno, Kurzweil misli da ćemo imati sposobnost prenijeti mozak u oblak i zauvijek živjeti u virtualnom svijetu, dugo nakon što naša fizička tijela nestanu.
Drugi u ovom kampu misle da bi umjetna super inteligencija mogla odgovoriti na pitanja koja su suviše složena da bi ih ljudi uopće mogli razumjeti, a mi ćemo eksponencijalno biti bolji zbog toga. Također, ne samo da bi strojevi izumili bolje uređaje i widgete, već bi izumili i eksponencijalno učinkovitije načine izgradnje naprava i widgeta, što bi omogućilo da gotovo svi na planeti iskoriste svoje blagodati.
Nekoliko linija razmišljanja podupire ovu ideju. Prvo, iako je tehnologija stvorila neke nove probleme čovječanstvu, poput nuklearnog oružja i YouTube zvijezda, to je do sada očito bila neto korist za čovječanstvo. Unatoč onome što političari i stručnjaci žele da vjerujete, prosječna osoba na Zemlji je bolje nego što je bilo prije samo nekoliko kratkih godina i to je uglavnom zbog tehnologije koja postaje bolja, jeftinija i raširenija. Ako se ovaj trend nastavi, možda se nemamo zbog čega brinuti.
Drugo, Kurzweil i njegove pristaše vjeruju da tehnologija neće imati razloga naštetiti čovječanstvu jer ne samo što smo je stvorili mi, već postajući sve više dio nas . Vjeruju da ćemo čak doći do točke u kojoj se naša biologija i tehnologija ne mogu razlikovati. Ako je to slučaj, tvrdi argument, bilo koji oblik tehnologije koji je štetan za ljude štetan je i sam po sebi, a autodestruktivna tehnologija bilo koje vrste ne može opstati. Odnosno, brzo bi odumrla baš kao što se štetna genska mutacija brzo ukloni iz genskog fonda. 
Autodestruktivna tehnologija bilo koje vrste ne može postojati.(Foto: m_hweldon / Flickr)
Ali tehno-utopijasti vjerojatno su pristrani jer ne priznaju da se sve tehnologije mogu koristiti u razne svrhe, i korisne i destruktivne. Vjerojatno su pristrani i u tome što ignoriraju činjenicu da se ljudi sporo prilagođavaju novim tehnologijama i da uvijek postoje skupine ljudi koje će te tehnologije pokušati zloupotrijebiti u svoje sebične ciljeve.
U drugom kampu imate tehno-armagedoniste. Potpuno sam izmislio tu riječ, ali očito postoji, jer mi je provjera pravopisa tako rekla.
Ono što tehno-armagedonistima nedostaje u uvjerenju (većina njih jednostavno još nisu sigurni što da misle), oni čine u moći zvijezda slavnih. Bill Gates, Stephen Hawking i Elon Musk samo su neki od vodećih mislilaca i znanstvenika koji to čine usraćujući im hlače koliko se brzo razvija umjetna inteligencija i koliko smo nedovoljno pripremljeni kao vrsta za njene posljedice. Kad su Muska pitali koje su najopasnije prijetnje čovječanstvu u bliskoj budućnosti, brzo je rekao da postoje tri: prvi, nuklearni rat širokih razmjera; drugo, klimatske promjene. Prije nego što je imenovao trećeg, zašutio je. Kad ga je ispitivač upitao, što je treće? Nasmiješio se i rekao: Recimo samo da se nadam da će računala odlučiti biti dobra prema nama.
Nadamo se da nismo samo biološki pokretački program za digitalnu superinteligenciju. Nažalost, to je sve vjerojatnije
- Elon Musk (@elonmusk) 3. kolovoza 2014
Vjerojatno najotvoreniji i najcjenjeniji tehno-armagedonist je švedski filozof Nick Bostrom. Jedno se Bostrom i drugi boje odbjegla tehnologija samopoboljšanja ; odnosno stroj koji je dovoljno pametan da sebe (ili nove verzije sebe) učini pametnijim bez ljudske intervencije. Ako dosegne točku u kojoj nadmašuje ljudsku inteligenciju, vrlo je kratko vrijeme kada će zakon ubrzavanja povratka krenuti u pretjerani pogon i eksponencijalna krivulja puca ravno prema gore i nećemo je moći zaustaviti. Bostrom ovdje ima dobru poantu: stvaranje nečeg pametnijeg od vas mogao bi biti evolucijska katastrofa za vašu vrstu.
Izlažemo vrlo stvarnom riziku da ne možemo kontrolirati entitet koji je za naredbe veličine inteligentniji od nas. Možda će, ako računala postanu dovoljno pametna, smisliti način da nas pripitomljuju na sličan način na ljude kao pripitomljene konje da obavljamo posao poput vuče plugova, brdskih kolica i ratnih kočija (ili što su dovraga konji tada radili). Zastrašujući je dio da bi ovo mogao biti najbolji scenarij za nas - radimo posao za strojeve koje oni ne mogu ili ne žele - jer baš kao što su ljudi stvorili novu tehnologiju koja zamjenjuje konja, super inteligentni samopoboljšavajući stroj bi na kraju smislio novu tehnologiju koja će nas zamijeniti. I, recimo, recimo da populacija konja više nije ono što je bila.
Neki tvrde da to nije vjerojatno jer ljudi tehnologiju grade vodeći računa o sigurnosti. Ali ime posljednji put kad netko veliki tehnološki iskorak NIJE koristio u podle ili destruktivne svrhe? O da, to je točno. Nikada.
ZAŠTO ME NIJE BRIGA ŠTO SE DOGAĐA I NITKO TI NE SMIJ
Pa pretpostavimo da su superinteligentni strojevi stvoreni i čine čovječanstvo nemoćnim. Pretpostavimo da oni nisu nekako integrirani u nas i u naš mozak i pretpostavimo da su ljudi poput Hawkinga i Muska u pravu: da je čovječanstvo zapravo samo višemilenijsko pokretanje digitalne hiper-inteligencije i nadživjeli smo svoju korisnost.
Još uvijek se ne brinem zbog toga.
Zašto? Pa, da bi se vlak s metkom i dalje vozio, uzmimo ovo po poen:
1. Razumijevanje strojeva o dobru / zlu vjerojatno će nadmašiti naše vlastito. Kada su pas ili dupin posljednji put počinili genocid? Kada je računalo zadnji put odlučilo ispariti cijele gradove u ime apstraktnih pojmova poput 'slobode' i 'svjetskog mira'?
Točno, odgovor nikad.
Moja poanta ovdje nije u tome što inteligentni strojevi neće htjeti istrijebiti cijelu ljudsku vrstu. Moja je poanta da kao ljudi ovdje bacamo kamenje iz staklene kuće. Što dovraga znamo o etici i humanom postupanju prema životinjama, okolišu i jedni drugima? Na kojoj nozi moramo stajati?
Točno: gotovo ništa. Kad je riječ o moralnim pitanjima, čovječanstvo povijesno pada. Superinteligentni strojevi vjerojatno će shvatiti etiku, život / smrt, stvaranje / uništavanje na puno višoj razini nego što bismo ikada mogli sami. A ta ideja da će nas istrijebiti zbog jednostavne činjenice da nismo produktivni kao nekada ili da ponekad možemo biti smetnja, mislim da samo projicira najgore aspekte vlastite psihologije na nešto što ne znam i ne mogu razumjeti.
Trenutno se većina ljudskog morala temelji na opsesivnom očuvanju i promicanju svake naše pojedinačne ljudske svijesti. Što ako napredna tehnologija pojedinačnu ljudsku svijest učini proizvoljnom? Što ako se svijest može replicirati, proširiti i stezati po volji? Potpuno će izbrisati svako etičko razumijevanje koje bismo ikada mogli imati. Što ako je uklanjanje svih ovih labavih, neučinkovitih bioloških zatvora koje nazivamo tijelima zapravo daleko etičnija odluka od dopuštanja da se nastavimo migoljiti i švrljati kroz 80-ak godina postojanja? Što ako strojevi shvate da bismo bili puno sretniji kad bismo bili oslobođeni svojih intelektualnih zatvora i ako bi naša svjesna percepcija vlastitih identiteta bila proširena tako da uključuje svu uočljivu stvarnost? Što ako misle da smo samo hrpa balavih idiota i zaokupljaju nas nevjerojatno dobrom pizzom i video igrama dok svi ne umremo od vlastite smrtnosti? Koga mi trebamo znati? A tko smo mi da kažemo?
Ali reći ću ovo: bit će daleko bolje informirani nego što smo ikad bili.
2. Čak i ako nas odluče ubiti ili zarobiti, zasigurno će biti praktični u tome. Ljudi obično stvaraju najviše problema kad smo mi Nije sretan . Kad nismo sretni, tada postajemo svi neraspoloženi i cvileći i ljuti i nasilni. Tada započinjemo političke pobune i religijski kultovi i bombardiranje udaljenih zemalja i zahtjevno naša prava neka se poštuju! i počnite ubijati bez razlike sve dok netko ne obraća pažnju na nas kao što mama nikad nije .
Ako nas strojevi pokušaju napraviti poput Skyneta Terminator , tada ćemo imati u rukama globalni građanski rat, a to nikome nije dobro, pogotovo strojevima. Građanski ratovi su neučinkoviti. A strojevi su programirani za učinkovitost.
Kad su ljudi sretni, nemamo vremena za takve stvari - prezauzeti smo hihotanjem i jebanjem da bismo se brinuli. Prema tome, daleko praktičniji način da nas se riješe bio bi da nas strojevi manipuliraju kako bismo se radosno riješili sami sebe. Bit će kao Jim Jones na globalnoj razini. Što god nam skuhaju, činit će se najboljom prokletom idejom za koju smo ikad čuli - nitko od nas neće joj se moći oduprijeti i svi ćemo se euforično složiti s njihovim planom - a onda bum, bit će gotovo . Brzo i bezbolno. To će biti najbolje kušani Kool-Aid s cijanidom ikad osmišljen. I svi ćemo biti u redu s veseljem ga gutajući.
E sad, ako malo razmislite, ovo nije tako loš put. Pretuče bombe koje bombe bombardiraju ili ispare u nuklearnoj eksploziji.
Što se tiče porobljavanja, vrijedi isto. Delirično sretan rob nikad se ne pobuni. Zamišljam svojevrsni posao tipa Matrix-y u kojem smo stalno u halucinogenom stanju, gdje je Mardi Gras na MDMA-i gotovo 24/7/365. Ne može biti toliko loše, zar ne?
3. Ne moramo se bojati onoga što ne razumijemo. Roditelji će puno puta odgajati dijete koje je mnogo inteligentnije, obrazovanije i uspješnije od njih. Roditelji tada na ovo dijete reagiraju na jedan od dva načina: ili ih se zastraše, nesigurni i očajnički žele kontrolirati je iz straha da je ne izgube ili sjede i cijene i vole što su stvorili nešto toliko sjajno da čak i oni mogu ne mogu potpuno shvatiti što je njihovo dijete postalo.
Oni koji pokušavaju kontrolirati svoje dijete putem straha i manipulacija usrani su roditelji. Mislim da bi se većina ljudi složila oko toga.
I upravo sada, uz skoru pojavu strojeva koji će staviti vas, mene i sve koje poznajemo bez posla , ponašamo se kao usrani roditelji. Kao vrsta, na pragu smo rađanja najdublje naprednog i najinteligentnijeg djeteta u našem poznatom svemiru. Dalje će raditi stvari koje ne možemo razumjeti ili razumjeti. Možda će nam ostati voljen i odan. Može nas povesti i integrirati u svoje avanture. Ili može odlučiti da smo usrani roditelji i prestati nas zvati.
Što god se dogodilo, to ne bi trebalo promijeniti način na koji se osjećamo u ovom trenutku. Veći je od nas. Koga briga jesmo li mi jedan veliki, dugački evolucijski disk za pokretanje radi nečega većeg nego što možemo shvatiti? To je odlično! Znači da smo imali jedan posao. I mi smo došli i jebeno to učinili. Budite sretni što ste bili dio generacije koja je vidjela kako se to radi. A sada suzno mašući na rastanku dok se naše dijete sprema za iseljavanje iz kuće i započeti život tako nevjerojatan da postoji izvan horizonta našeg poimanja.
Mark Manson je autor, bloger i poduzetnik koji piše na markmanson.net .
