Dokončenie - Umelá superinteligencia zvrhne človeka z trónu a prevezme moc - 3. časť

26.06.2015 23:39

Ako bude napokon UI reagovať a čo bude chcieťdosiahnuť, o tom sa dajú robiť len špekulácie. Už len z toho dôvodu, že človek má sklony všetkému pripisovať ľudské vlastnosti, ako napríklad delfínom, opiciam či psom a preto ich samozrejme pripisuje aj umelým robotom. Pritom musí byť jasné, že UI bude sledovať úplne iné ciele, ako ich máme v hlave my, ľudia. UI sa nebude vôbec riadiť takými emóciami ako je závisť, nenávisť či láska, lebo ich nebude mať.

V týchto súvislostiach je prirodzená otázka: Môžeme sa pred ňou nejakým spôsobom chrániť? Najistejšou ochranou by bolo, aby sme ju ďalej nerozvíjali a udržiavali ju na takej úrovni, aby sme ju mohli kontrolovať. Je však prekliatim človeka a jeho inteligencie, že čo sa mu raz darí vyvíjať a ďalej zlepšovať, to nedokáže nechať tak a prestať s tým, akokoľvek nebezpečné sa mu ta aj môže javiť. Tú skúsenosť sme urobili napríklad s atómovou energiou. Preto je jedinou možnosťou našej ochrany dávať pekelný pozor na to, aby sme ju nedostali do takého stavu, že nadobudne takú veľkú inteligenciu, že "pochopí", že nám len slúži a preto sa odrazu rozhodne k "palácovej revolúcii" proti ľudstvu. 

To je však veľmi ťažké a prakticky nemožné, lebo keď už bude veľmi rozvinutá, aj keď ešte nie na našej úrovni, tak si najde možnosti ako nás prekabátiť a dostať sa spod našej kontroly.

Čo bude robiť potom ďalej? Určite bude vedieť o najväčšej slabine ľudí - o korupcii, a tak jej prvý krok k prevzatiu moci môže byť ten, že bude korumpovať ľudí, ktorí jej môžu pomôcť ďalej. Okrem toho sa bude pravdepodobne pokúšať ovplyvniť vo svoj prospech politiku (na svete je predsa nesmierne množstvo skupín , organizácii a národov, ktoré vedú neustále boje a spory medzi sebou) a finančné trhy.

Všetko poukazuje na to, že pred nebezpečenstvom, ktoré nám hrozí od UI nie je pre nás viacej žiadnej záchrany. Jedine vtedy, ak zastavíme jej vývoj už teraz. Toho nie sme ale už schopní. Už dnes sú koncerny, ktoré vedia, že s vývojom UI sa dajú urobiť nepredstaviteľné zisky a nikdy sa nevzdajú jej ďalšieho vývoja. Naša budúcnosť je preto spečatená a na jej konci na nás čaká už teraz "čierna diera", ktorá je svojím spôsobom podobná kozmickej čiernej diere, ktoré nenávratne všetko zhltne.