Dobrý sluha ale špatný pán

Technika může být dobrý sluha, ale špatný pán. Jako ostatně skoro vše, co člověk využívá.
Technikou se zabývám celý svůj život.
Prakticky posledních dvacet let se živím jako opravář elektroniky. To je celkem perspektivní zaměstnání vyžadující znalosti a přístup k problému připomínající práci kriminální policie. Ano, plno výrobků se už nevyplatí opravovat. Každopádně vždy se najde něco, co nefunguje a opravit lze.
Mé povolání vlastně staví na nedokonalosti člověka a lidských výtvorů. V dokonalém světě by vůbec nemuselo existovat.
I takový opravář robotů bude do budoucna velice žádaný. Do té doby, než to zvládnou roboti sami. Roboty a roboti se rozšiřují a pronikají do všech oblastí lidských činností.
Časem bude většina rutinní lidské práce nahrazena roboty. Přežijí jen taková zaměstnání, která budou vyžadovat lidský přístup, případně budou tak složitá, že je robot nějakou dobu nebude moci nahradit.
Člověk si ponechá například umění, i když při jeho tvorbě bude samozřejmě roboty moct používat.
Čeho se vlastně obáváme v přístupu k robotům?
My se nebojíme okamžiku, kdy bude umělá inteligence chytřejší než my.
My se bojíme chvíle, kdy si ta inteligence uvědomí svoji vlastní existenci…
Otázkou je, jestli se něco takového stane. Jaké pak budou její požadavky? Těžko říct.
Budeme doufat, že se s ní nějak rozumně domluvíme.
Každopádně moc času už nemáme. Kočičí mozek už byl nasimulován. Sice desetkrát pomaleji, než v reálu, ale byl. Virtuální kočce jste například řekli „masíčko“ a ona až za deset sekund začala pomalu pochodovat k miskám.
Kočka však nepozná samu sebe v zrcadle. Zato pes už ano. A mezi jejich mozky už takový rozdíl není…
My každopádně vůbec nevíme, jak se taková uvědomělá inteligence bude chovat. O co se bude snažit. Nebude mít ani lidské emoce, ani zvířecí instinkty. Nebude mít duši. Nebude v ní dobro, ani zlo. Bude v ní jen čistá energie, která jí vdechne život. Bude to vůbec život?
Robot bude mít jen to, co se zezačátku naučí od nás. A pak to, co se naučí sám.
Je v zájmu lidstva, aby se umělá inteligence učila hlavně pozitivní věci.
Protože čím víc inteligence bude v autonomních zbraních, tím víc zla se inteligence časem naučí.
Použije tyhle zkušenosti později proti lidstvu? Obrátí se proti svému stvořiteli? Budeme mít ještě v rukou ten pomyslný hlavní vypínač?
Je to jedna ze znepokojivých otázek, která trápí naše mozky už minimálně přes sto let.
Kdo přežije odpověď na ní, bude šťastný člověk…