Jsem palubní počítač Holly. Mé IQ je 6000, to je jako 6000 učitelů tělocviku nebo 12000 hlídačů na parkovišti.
Když jsem se v 90. letech smál v Červeném trpaslíkovi vtipným debatám Rimmera či Listera s palubním počítačem, nenapadlo mě, že ještě za mého života si budu moci pokecat s umělou inteligencí i já sám a nebude to žádné sci-fi, ale každodenní realita. Přesto je to tak. I v současné (spíše testovací) fázi vývoje už vám umělá inteligence namaluje obrázek, docela smysluplně přeloží článek z cizího jazyka, složí doprovodnou hudbu pro váš videoklip nebo napíše referát do školy. A přestože z budoucích možností AI docela mrazí, je to jedna z těch věcí, které prostě nelze zastavit, a to dokonce i kdyby nakonec měla AI lidstvo zničit. Protože i kdyby se řekněme z etických důvodů zastavil nebo alespoň reguloval vývoj AI v několika zemích, stále bude dost těch, které vývoj nezastaví. Například Čína dnes investuje do vývoje umělé inteligence více než celá Evropská unie dohromady. Takže když ji nebude dost rychle vyvíjet i Západ, dojde pouze k převaze některých (a ne zrovna přátelských) států. Podobné to kdysi bylo s jadernými či biologickými zbraněmi. Země, které si je nepořídily, jsou dnes často v ohrožení těch, které si při vyzbrojování žádné servítky nebraly.
A co si o nebezpečnosti AI pro lidstvo myslí samotná AI? Toto je „názor“ Chat GPT:
„Umělá inteligence může být pro lidstvo jak prospěšná, tak i nebezpečná. Na jednu stranu může umělá inteligence pomoci člověku v mnoha oblastech života, například v medicíně, výzkumu, zemědělství nebo v automobilovém průmyslu. Může nám také pomoci zlepšit naše životy tím, že nám ušetří čas a zjednoduší rutinní úkoly.
Na druhou stranu však může být umělá inteligence také nebezpečná, pokud se použije špatně nebo bude špatně navržená. Například může dojít k prozrazení osobních údajů nebo k zneužití umělé inteligence k nelegálním nebo škodlivým účelům. Je tedy důležité, abychom se při vývoji a používání umělé inteligence zaměřili na její bezpečnost a etiku a abychom se vyvarovali jejího zneužití. Umělá inteligence sama o sobě není nebezpečná, ale její použití může být nebezpečné, pokud se k němu přistupuje bez ohledu na etiku nebo bezpečnost.“
Je to dosti děsivé, ale v zásadě musím říct, že bych to sám nenapsal jinak.
