Ak ste ešte nedostali poznámku o celej AI, ktorá prevezme kontrolu nad svetom, tu je niekoľko faktov, ktoré musíte vedieť.(Foto: Shan Sheehan / Flickr) Tento rok počítač vôbec prvýkrát porazil svetového šampióna Go, jednej z najkomplexnejších hier, aké pozná človek. Toto bol ďalší zlomový okamih vývoja umelej inteligencie.
Pre predstavu, aké zložité je Go, je k dispozícii 2.082 × 10 ^ 170 možných konfigurácií dosiek. To je 2 so 170 nulami po ňom. Je pravdepodobné, že váš mozog nedokáže predstaviť ani také veľké číslo (ale počítač to dokáže). Alebo aby ste mali predstavu, aké veľké je číslo že to znamená, že vo vesmíre je iba 10 ^ 80 atómov - teda jeden, za ktorým nasleduje 79 núl.
Dôvod, prečo je to taký veľký problém, je ten, že Go je tak komplikované, že aby stroj dokázal poraziť špičkového ľudského hráča, musel by sa naučiť kreatívne myslieť, improvizovať a prispôsobovať sa situácii, ktorá je v ruke, bez toho, aby dokázal vypočítať všetky možné možnosti. výsledok; tj musí existovať nejaká vážna umelá inteligencia - ako skutočná, tvorivá inteligencia.
Ak ste ešte nedostali poznámku o celej AI, ktorá prevezme kontrolu nad svetom, tu je niekoľko faktov, ktoré musíte vedieť.
- Počítače sú čoraz inteligentnejšie.
- Počítače sú čoraz inteligentnejšie a rýchlejšie - to znamená, že pokroky, ktoré predtým trvali 10 rokov, v súčasnosti trvajú jeden rok. Pokrok, ktorý predtým trval jeden rok, teraz týždne alebo dokonca dni.
- Je vysoko pravdepodobné, že v našich životoch budú existovať počítače, ktoré sú oveľa inteligentnejšie a schopnejšie ako ktorýkoľvek iný človek.
- Tieto inteligentnejšie počítače potom budú pravdepodobne schopné navrhovať a zdokonaľovať technológie (t. J. Samy seba) a vytvárať nové technológie, ktoré nedokážeme ani len domyslieť.
Ľudia, ktorí rozumejú vyššie uvedeným bodom, majú spravidla jednu z dvoch reakcií. Buď:
- Myslia si, že sme úplne v prdeli. Počítače všetko prevezmú a všetkých nás zabijú / zotročia. Alebo:
- To prinesie technologickú utópiu, ktorá napraví všetky naše hlúpe ľudské spory a my všetci môžeme žiť šťastne až do konca, keď budeme mať orgie v našom svete ultra VR, ktorý existuje v cloude.
Ako vo väčšine vecí, aj tu je pravda pravdepodobne niekde uprostred.
Ale aj keď hovno zasiahne fanúšika, aj keď nás roboti vidia ako vši, ktoré ničia nedotknutú pokožku hlavy tejto planéty a chcú nás všetkých obkľúčiť a uvrhnúť do aktívnej sopky, aj keď nechtiac vymýšľame vlastné mechanizmy vyhynutie ...
... je mi to jedno. To nevadí. To mi neprekáža. A to by vám tiež nemalo prekážať. Trochu vysvetlím prečo. Ale zatiaľ by ste mali vedieť, že napríklad vítam našich nových vládcov robotov.
ZRÝCHLUJÚCI SA RAST V TECHNICKOM PRIEMYSLE
Technologický vývoj sa spája sám osebe a spôsobuje sadzba samotného vývoja. To znamená, že čím pokročilejšia technológia, ktorú vytvárame, tým ľahšie sa vytvára ešte pokročilejšia technológia. Výsledkom je, že keď sa pozrieme na pokrok vo výpočtovej technike, uvidíme exponenciálnu krivku - t. J. Čím viac času uplynie, tým rýchlejšie sa veci vyvinú. 
Technologický vývoj sa spája sám osebe a spôsobuje zrýchlenie samotného vývoja.(Foto: Dennis Skley / Flickr)
Výpočtový výkon sa v priemere zdvojnásobil každých 18 mesiacov už 50 rokov . Pokiaľ ide o surový výpočtový výkon, počítače dnes konkurujú schopnostiam myší, kde len pred niekoľkými rokmi nemohli počítače konkurovať ani mozgu hmyzu.
Aby sme vám poskytli okamžitejší príklad pokroku v rýchlej technológii, odteraz sa každé 2 minúty odfotografuje viac snímok, ako za celé 19. storočie. Asi 10% z 3,5 bilióna fotografií, ktoré boli kedy urobené, bolo urobených za posledných 12 mesiacov.
Ak sa skutočne nachádzame na exponenciálnej krivke, pokiaľ ide o pokrok v oblasti špičkových technológií, potom sa ľuďom páči Jeremy Howard majú asi pravdu, keď hovorí, že nás delí iba pár rokov od umelej strojovej inteligencie, ktorá súperí, ak nie prekonáva, našu vlastnú v mnohých doménach, ktoré sa predtým považovali za jednoznačne ľudské.
A pre istotu sa AI vkráda do ďalších a ďalších domén nášho života.
Len pred desiatimi rokmi sa ľudia smiali zlým výkonom samoriadiacich automobilov. Dnes, iba o desať rokov neskôr, môžu samoriadiace autá nielen dokončiť kurz uzavretej cesty, ale jazdia aj po frekventovaných diaľniciach popri autách riadených ľuďmi.
A keď počítače neporazia svetových šampiónov Go, majú plné ruky práce s takýmito vecami písanie článkov o športe a aktuality , písanie popisov obrázkov, ktoré ešte nikdy nevideli, a diagnostikovanie rakoviny . Pre mnoho z týchto úloh sú počítače rovnako dobré, ak nie lepšie ako ľudia, a pre tie, ktoré nie sú, sú učenie ako ich robiť každý deň lepšie a lepšie bez pomoci ľudí.
Pred niekoľkými krátkymi rokmi bol softvér na rozpoznávanie tváre neuveriteľne drahý a nebol taký dobrý na identifikáciu ľudí v skutočnom prostredí. Bola považovaná za supermodernú technológiu na úrovni špiónov a skutočne ju používalo iba niekoľko svetových vlád.
Teraz môže Facebook kurva označiť vašich priateľov z grilovania z minulého víkendu.
Urýchlenie rastu počítačov je tu: jedného dňa príde bod, keď postavíme počítač, ktorý je múdrejší ako ktorýkoľvek človek na Zemi . V ten deň si nás počítače uzurpujú ako primárnych riešiteľov problémov na planéte a odtiaľ budú naše myšlienky, rozhodnutia a činy pomaly zastarávať. Stroje budú vo všetkom lepšie ako my, takže čoraz viac neurobíme nič užitočné.
To niektorých ľudí vydesí. Predstavujú si niečo ako budúcnosť Terminátor alebo Matrix kde nás stroje zotročujú alebo vyhladzujú.
Ostatní ľudia sa tešia na vzrast robotov s akýmsi kultovým zápalom, pretože veria, že ich schopnosti riešenia problémov predbehnú naše natoľko, že sa život stane nepredstaviteľne príjemným a bezproblémovým. Všetky choroby sa vyliečia. Chudoba, hlad vo svete, vojny a zmena podnebia budú vyriešené. Budeme mať nekonečné množstvo voľného času a v extrémnych prípadoch niektorí ľudia veria, že nás tieto stroje urobia nesmrteľnými.
DVA MOŽNÉ VÝSLEDKY
Pretože sa nám vždy hovorí, že máme byť sakra pozitívni, začnime s techno-utopiastami.
Sú ľudia ako Ray Kurzweil ktorí si myslia, že technológia nielenže zlepší náš život, ale zachráni ľudstvo a možno nám na neurčito zaručí miesto vo vesmíre. Kurzweil verí v budúce technológie, ako sú nanoboti, ktoré opravia naše bunky a zvrátia starnutie alebo odstránia prebytočný tuk a cukor, aby sme mohli jesť, čo chceme. A len v prípade, že naše fyzické telá nebudú schopné žiť večne, Kurzweil si myslí, že budeme mať možnosť nahrať naše mozgy do cloudu a žiť vo virtuálnom svete navždy, dlho potom, čo naše fyzické telá zmiznú.
Ostatní v tomto tábore si myslia, že umelá super inteligencia by bola schopná odpovedať na otázky, ktoré sú pre ľudí príliš zložité na to, aby ich vôbec pochopili, a budeme na tom exponenciálne lepšie. Nielen, že by stroje vymýšľali lepšie gadgety a widgety, ale tiež by vymýšľali exponenciálne efektívnejšie spôsoby stavania gadgetov a widgetov, ktoré by umožnili prakticky každému na našej planéte využívať ich výhody.
Niekoľko odôvodnení podporuje túto myšlienku. Po prvé, aj keď technológia priniesla ľudstvu nové problémy, ako napríklad jadrové zbrane a známe osobnosti z YouTube, doposiaľ bola pre ľudstvo jednoznačne čistým prínosom. Napriek tomu, čo chcú, aby ste verili politikom a učencom, je priemerný človek na Zemi lepšie ako pred pár krátkymi rokmi a je to hlavne vďaka tomu, že sa technológie stávajú lepšími, lacnejšími a rozšírenejšími. Pokiaľ bude tento trend pokračovať, nemusíme sa mať čoho obávať.
Po druhé, Kurzweil a jeho priaznivci veria, že technológia nebude mať dôvod poškodzovať ľudstvo, pretože nielenže je vytváraná nami, ale stáva sa viac našou súčasťou . Veria, že dospejeme dokonca do bodu, keď sa naša biológia a naše technológie nedajú rozlíšiť. Ak to tak je, argumentuje sa tým, že akákoľvek forma technológie škodlivá pre ľudí je škodlivá aj pre ňu samú a sebazničujúca technológia akéhokoľvek druhu nemôže pretrvávať. To znamená, že by rýchlo odumrel, rovnako ako by sa z genofondu rýchlo vyradila škodlivá génová mutácia. 
Sebadeštruktívna technológia akéhokoľvek druhu nemôže pretrvávať.(Foto: m_hweldon / Flickr)
Techno-utopiasti sú ale pravdepodobne zaujatí v tom, že neuznávajú, že všetky technológie môžu byť použité na rôzne prospešné aj deštruktívne účely. Pravdepodobne majú predsudky aj v tom, že ignorujú skutočnosť, že ľudia sa pomaly adaptujú na nové technológie, a že vždy existujú skupiny ľudí, ktorí sa budú snažiť tieto technológie zneužiť na svoje sebecké ciele.
V druhom tábore máte techno-armageddonistov. Toto slovo som úplne vymyslel, ale zjavne existuje, pretože kontrola pravopisu mi to povedala.
To, čo techno-armageddonistom chýba v presvedčení (väčšina z nich si zatiaľ nie je istá, čo si má myslieť), tvoria v hviezdnej sile celebrít. Bill Gates, Stephen Hawking a Elon Musk sú len niektorí z popredných mysliteľov a vedcov, ktorí sú svinstvo ich nohavíc na tom, ako rýchlo sa AI vyvíja a ako nedostatočne pripravení sme ako druh na jej následky. Keď sa Muska opýtali, aké sú najbližšie hrozby pre ľudstvo v blízkej budúcnosti, rýchlo povedal, že existujú tri: prvá rozsiahla jadrová vojna; po druhé, zmena podnebia. Predtým, ako vymenoval tretieho, stíchol. Keď sa ho anketár spýtal: Aký je tretí? Usmial sa a povedal: Povedzme len, že dúfam, že sa počítače rozhodnú byť k nám milé.
Dúfam, že nie sme iba biologickým bootloaderom pre digitálnu superinteligenciu. Je to bohužiaľ čoraz pravdepodobnejšie
- Elon Musk (@elonmusk) 3. augusta 2014
Možno najotvorenejším a najuznávanejším z techno-armageddonistov je švédsky filozof Nick Bostrom. Jedna vec, ktorej sa Bostrom a ostatní obávajú, je utečenecká sebazdokonaľovacia technológia ; teda stroj, ktorý je dostatočne inteligentný na to, aby sám (alebo jeho nové verzie) bol inteligentnejší bez ľudského zásahu. Ak dosiahne bod, v ktorom prekoná ľudskú inteligenciu, je len veľmi krátka doba, kým zákon zrýchľujúcich sa návratov kope do rýchlika a exponenciálna krivka vystrelí priamo nahor a my ju nebudeme schopní zastaviť. Bostrom tu dáva dobrý bod: vytvoriť niečo, čo je inteligentnejšie, ako by ste mohli byť pre váš druh evolučnou katastrofou.
Podstupujeme veľmi reálne riziko, že nebudeme schopní ovládať entitu, ktorá je rádovo inteligentnejšia ako my. Možno, ak budú počítače dostatočne inteligentné, prídu na to, ako nás domestikovať, podobne ako ľudia domestikované kone, aby robili práce ako pluhy a kočíky a vojnové vozy (alebo čokoľvek, čo vtedy pekelné kone robili). Strašidelné je, že to môže byť pre nás najlepší scenár - robiť prácu pre stroje, ktoré nemôžu alebo nechcú robiť - pretože tak ako ľudia vytvorili novú technológiu, ktorá nahradila koňa, super inteligentné sebazdokonaľovanie stroj by nakoniec prišiel s novou technológiou, ktorá by nás nahradila. A povedzme, že populácia koní už nie je to, čo bývala.
Niektorí tvrdia, že to nie je možné, pretože ľudia vytvárajú technológie s ohľadom na bezpečnosť. Ale pomenujte poslednýkrát, keď niekto zásadný technologický prielom NEUŽIEL na hanebné alebo deštruktívne účely? Áno, je to tak. Nikdy.
PREČO SA NESTARÁM, ČO SA STANE A NIKDY NEMALI BY STE
Predpokladajme teda, že vznikajú superinteligentné stroje, vďaka ktorým bude ľudstvo bezmocné. Predpokladajme, že nie sú nejako integrovaní do nás a našich mozgov a predpokladajme, že ľudia ako Hawking a Musk majú pravdu: že ľudstvo je v skutočnosti iba multimilionárskym bootovacím mechanizmom digitálnej hyper inteligencie a my sme prežili svoju užitočnosť.
Stále si z toho nerobím starosti.
Prečo? Aby sme udržali guľový vlak v pohybe, vezmime si tento bod po bode:
1. Pochopenie dobra / zla strojmi pravdepodobne prevýši naše. Kedy naposledy spáchal genocídu pes alebo delfín? Kedy sa naposledy počítač rozhodol odpariť celé mestá v mene abstraktných pojmov ako „sloboda“ a „svetový mier“?
Máte pravdu, odpoveď nikdy nie je.
Nejde mi o to, že by inteligentné stroje nechceli vyhladiť celý ľudský druh. Ide mi o to, že ako ľudia tu hádžeme skaly zvnútra skleneného domu. Čo sakra vieme o etike a humánnom zaobchádzaní so zvieratami, životným prostredím a navzájom? Na akej nohe musíme stáť?
Máte pravdu: skoro nič. Pokiaľ ide o morálne otázky, ľudstvo sa historicky vymyká testu. Superinteligentné stroje pravdepodobne pochopia etiku, život / smrť, stvorenie / zničenie na oveľa vyššej úrovni, ako by sme sami dokázali. A táto myšlienka, že nás vyhladia kvôli jednoduchému faktu, že už nie sme takí produktívni, ako sme bývali, alebo že si niekedy môžeme byť na obtiaž, myslím, len premieta najhoršie aspekty našej vlastnej psychológie do niečoho, čo neviem a nedokážem pochopiť.
Momentálne je väčšina ľudskej morálky založená na obsedantnom zachovávaní a propagácii každého z našich individuálnych ľudských vedomí. Čo ak pokročilá technológia spôsobí, že jednotlivé ľudské vedomie je svojvoľné? Čo ak sa vedomie dá ľubovoľne replikovať, rozširovať a kontrahovať? Úplne to vyhladí všetky etické dohody, ktoré by sme kedy mohli mať. Čo ak odstránenie všetkých týchto lunárnych, neefektívnych biologických väzení, ktoré nazývame telá, môže byť v skutočnosti oveľa etickejším rozhodnutím, ako to, že nás necháme ďalej prskať a prskať si cestu cez osemdesiat nepárnych rokov existencie? Čo ak si stroje uvedomia, že by sme boli oveľa šťastnejší, keby sme boli oslobodení z našich intelektuálnych väzníc a naše vedomé vnímanie našej vlastnej identity sa rozšírilo o celú vnímateľnú realitu? Čo ak si myslia, že sme len banda slintajúcich idiotov a nechajú nás zamestnávať neuveriteľne dobrou pizzou a videohrami, kým všetci neumrieme vlastnou smrteľnosťou? Koho máme poznať? A koho máme povedať?
Ale poviem toto: budú oveľa lepšie informovaní ako kedykoľvek predtým.
2. Aj keď sa nás rozhodnú zabiť alebo zotročiť, budú s tým určite praktickí. Ľudia majú tendenciu robiť najviac problémov, keď sme nie je šťastná . Keď nie sme šťastní, vtedy sme všetci náladoví, kňučaní, nahnevaní a násilní. Vtedy začneme politické povstania a náboženské kulty a bombardovanie vzdialených krajín a náročné naše práva sú rešpektované bože! a začni zabíjať bez rozdielu, kým nám niekto nebude venovať pozornosť ako mama nikdy .
Pokiaľ sa nás stroje pokúsia doviesť dovnútra, tak ako Skynet dovnútra Terminátor , potom budeme mať na rukách globálnu občiansku vojnu, a to nie je dobré pre nikoho, najmä pre stroje. Občianske vojny sú neúčinné. A stroje sú naprogramované na efektivitu.
Keď sú ľudia šťastní, nemáme čas na také veci - sme príliš zaneprázdnení chichotom a kurvami, aby nás to zaujímalo. Ďaleko praktickejším spôsobom, ako sa nás zbaviť, by preto bolo, keby nás stroje zmanipulovali tak, aby sme sa s radosťou zbavili seba. Bude to ako Jim Jones v globálnom meradle. Čokoľvek pre nás uvaria, bude sa javiť ako najlepší prekliatý nápad, aký sme kedy počuli - nikto z nás tomu neodolá a všetci euforicky súhlasíme s ich plánom - a potom bum, bude po všetkom . Rýchle a bezbolestné. Bude to najlepšie ochutnávaný Kool-Aid s kyanidom. A všetci budeme v rade a šťastne to prehltneme.
Teraz, ak sa nad tým zamyslíte, to nie je taký zlý spôsob, ako ísť. Beaty, ktoré bombardujú drony alebo sa odparia pri jadrovom výbuchu.
Pokiaľ ide o zotročenie, platí to isté. Šialene šťastný otrok sa nikdy nevzbúri. Predstavujem si akúsi dohodu typu Matrix-y, kde sme udržiavaní v neustálom halucinogénnom stave, keď je to Mardi Gras na MDMA skoro 24/7/365. To nemôže byť také zlé, však?
3. Nemusíme sa báť, čomu nerozumieme. Mnohokrát rodičia vychovajú dieťa, ktoré je oveľa inteligentnejšie, vzdelanejšie a úspešnejšie ako oni. Rodičia potom na toto dieťa reagujú jedným z dvoch spôsobov: buď sa nimi stanú zastrašovaní, neistí a zúfalo sa snažia ich ovládnuť zo strachu, že ju stratia, alebo sedia a oceňujú a milujú to, že vytvorili niečo také veľké, že aj oni môžu Nechápem, čo sa ich dieťa stalo.
Tí, ktorí sa snažia ovládať svoje dieťa strachom a manipuláciou, sú sraní rodičia. Myslím, že väčšina ľudí by s tým súhlasila.
A práve teraz, s bezprostredným vznikom strojov, ktoré vás, mňa a všetkých známych postavia mimo prevádzky , správame sa ako posratí rodičia. Ako druh sme na pokraji pôrodu najpodivuhodne najvyspelejšieho a najinteligentnejšieho dieťaťa v našom známom vesmíre. Ďalej bude robiť veci, ktoré nedokážeme pochopiť alebo pochopiť. Môže nám to zostať láskavé a lojálne. Môže nás priviesť a integrovať do svojich dobrodružstiev. Alebo môže rozhodnúť, že sme boli posratí rodičia a prestať nám volať späť.
Nech sa stane čokoľvek, nemalo by to zmeniť to, ako sa cítime v tejto chvíli. Je väčší ako my. Koho zaujíma, či sme jeden veľký a dlhý evolučný bootovací disk pre niečo väčšie, ako dokážeme pochopiť? To je skvelé! Znamená to, že sme mali jednu prácu. A prišli sme a kurva to urobilo. Buďte šťastní, že ste súčasťou generácie, ktorá to videla. A teraz s plačom majte na rozlúčku, keď sa naše dieťa chystá vysťahovať z domu a začať život tak úžasný že existuje za horizontom nášho chápania.
Mark Manson je autor, blogger a podnikateľ, ktorý píše na markmanson.net .
