Včéra jsem seděl s kámošem v hospodě na moc dobrém pivu. Dvanáctka byla hořká tak jak kdysi bývala Plzeň a protože jsem měl nějakej pocuchanej žaludek tak jsem si nedal jedáctku ale hořkou dvanáctku a úplně jsem byl vyléčen. Tyhle malé pivovary jsou prostě zlato. No a kamarád když jsme se začaly bavit o práci protože jsme měl na něj dotaz ohledně zabezpečení aplikace se pak rozpovídal o tom že to u nich v práci vypadá že budou mít na starost vývoj projektu používající strojové učení aka umělou inteligenci a že se těší jak se něco přiučí. A jak jsem měl za sebou už čtvrtý pivo tak jsem do něj hučel že to je fajn ale že se tomu nemá říkat inteligence, protože je to jen stroj a stejně vykonává jen to co mu kdo naprogramuje a že jsem stejně lepší jak třeba umělá inteligence od googlu. :)
No nejdřív jsem mu předložil moji zkušenost s capčou. asi každý faucetář tady ví co to je. No a googlu u té obrázkové víceméně používá lidi jako podklad pro učení sve AI na rozpoznání předmětů na obrázku. A já jsem mu vysvětloval že poslední roky jsme jich odpáll snad milión a že po čase jsem se naučil googlu podstrkávat falešná data v podobě toho že jsme žaškrtl něco co nebylo to co google chtěl abych zaškrtl a on to uznal jako správně, pak jsme poznal že stačí jen tři obrázky místo všech možných a také jsem časem odhadl o čem si google mylně myslí že to je něco co to nebylo.
No zkrátka jsem vlastně ten stroj učil špatně :)
No a tomto příkladu jsem kamarádovy chtěl vysvětlit, že prostě AI nikdy nebude lepší jak člověk, protože se nikdy nenaučí dělat záměrné chyby. On sice namítal že třeba naučili stroj blafovat v pokeru ale já jsem mu řekl, že to je něco jiného, že to je jen pravděpodobnost... a že záměrná chyba není pravděpodobnost. No moc jsme s tím nepochodil, protože kamarád nechápal proč by vůbec někdo chtěl naučit stroj dělat chyby.
Když hospodu zavřeli a my se přesunuli do baru tak jsme v tom rozhovoru pokračovali a já mu říkal že s AI je problém a že by nikdy neměla řídit lidi, protože to dopadne pravděpodobně blbě. No moc mi to nešlo, protože to nechápal.
Ale nakonec jsem přišel s příkladem křižovatek a použití AI v projektech schovávajících se pod názvem "smart city". Vyprávěl jsem mu o semaforech na křižovatce, které řídí AI tak aby projelo co nejvíce aut a že to tlačítko pro chodce je vlastně jen funkční v noci. A že tu křižovatku znám už spoustu let a od té doby co ji předělal tak je mnohem větší procento lidí co chodí na červenou, protože pro chodce v tom systému není místo a přejít ty dva přechody trvá mnohem dle než předtím a že chodci se naučili kdy vyrazit protože už auta mají červenou, ale chodci zelenou ještě ne.No a že když by se použilo toto strojové učení na chování chodců, tak by pravděpodobně přispůsobili algoritmus a po čase by se lidé zase uzpůsobily a zase by se uzpůsobil algoritmus a tak dál a dál, ale že stroj by nikdy neměl šanci se naučit to že v lidech by třeba stoupala míra frustrace, která by mohla vyústit v jejich totálním chození na červenou nebo v demolování semaforů. A že ten stroj by pak nebyl schopen najít důvod proč se to stalo. A jednoduše protože lidé se umí přizpůsobit přetvařovat a že pak vlastně by žádným způsobem neposkytovali stroji zpětnou vazbu vtom že je něco špatně až do chvíle než by pohár přetekl. Byl to hypotetický příklad, ale zafungoval a kamarád konečně pochopil o čem mluvím a prohlásil že to je zajímavý problém.
A pak už tu myšlenku rozvíjel sám. Za komunismu bylo heslo že kdo nekrade okrádá rodinu, a že kdyby se v takovém prostředí AI učila tak by se naučila to že se má krást, ale už by jí pak nebylo možné to odnaučit a vysvětlit že to vlastně bylo společenským statusem v kterém si lidé chovali nepřirozeně. Nebo že to co se stroj třeba naučí může bej jen předstírání daného jedince či jedinců a nemusí to být pravda.
Tak doufám, že lidé kteří vyvíjejí takovéto systémy chápou že může nastat doba kdy prostě určitou AI bude třeba vypnout a že tam to tlačítko je... :) Já jsem dneska byl nadšenejz toho že jsem mu to dokázal vysvětli, sice to zabralo hodinu a půl a mnohem více slov než je v tomto článku a tak doufám, že i vám to pomohlo se nad tím problémem naší budoucnosti zamyslet.
