Velmi dobře trénovaná opice? Umělá inteligence: Máme se těšit, nebo bát?

Při pohledu na některé titulky o umělé inteligenci může slabší povahy jímat děs a hrůza. Vykreslují obraz zmaru a beznaděje, do kterého se naše životy řítí pod tlakem příšery s tajemnou zkratkou AI. Jistě, nad některými z těch vět si můžeme nejspíš zaťukat na čelo. Nicméně je fakt, že v posledních měsících a týdnech se AI (artificial intelligence) stala velkým veřejným tématem po celém světě. Řeší se na sociálních sítích i v kavárenských debatách. Vyvolává úvahy o proměně zavedených byznys modelů na firemních poradách a obchodních schůzkách. Baví lidi tím, co umí, i tím, co se jí prozatím nevede. Optimisté věří, že nám pomůže vyřešit celoplanetární problémy, pesimisté věští, že naopak gigantické problémy způsobí.

Kde ale v rozvoji umělé inteligence opravdu jsme? Co AI svede a kam se vyvíjí? Máme se na ni těšit, nebo se jí bát? A k čemu dobrému můžeme umělou inteligenci využít?

Oslovili jsme sedm předních českých odborníků a odbornic, aby nám pomohli se v situaci důkladně zorientovat. Položili jsme jim otázky, které viditelný rozmach AI vyvolává. Na následujících stránkách se můžete dočíst, jak se na umělou inteligenci dívají ti, kdo se jí dlouhodobě zabývají, byť každý z malinko jiného úhlu či směru.

Dvě ženy a pět mužů, jejichž krátké vizitky najdete v boxu níže a které spojuje zájem o umělou inteligenci a schopnost o ní mluvit i k neodborné, avšak zvídavé veřejnosti. Pojďte se od nich dozvědět více o tom, zda a jak se může měnit svět.

 

V čem AI nejspíš přinese světu jednoznačná pozitiva?

Dušan Janovský: Dá se chápat jako nový mocný pracovní nástroj, který zvýší produktivitu. V některých oborech významně. To by mohlo být pozitivní.

David Grudl: Dokáže zpracovávat ohromující množství dat a tím zásadně posunout zdravotnictví. V diagnostice, léčbě a vývoji léčiv. Miliony lidí nosí chytré hodinky či prstýnky, které nepřetržitě sledují jejich zdravotní údaje – a tak generují neustále další množství dat. Už nyní tyto přístroje detekují srdeční arytmie. Je jen otázka času, kdy bude AI pomáhat ve včasném rozpoznání chorob, jako je třeba rakovina, a navrhovat personalizované léčebné plány.

Josef Šlerka: Jednoznačná pozitiva přináší v porozumění nestrukturovaným datům a jejich zpracování. Takže nám umožní lépe hledat informace v haldách textů. To zásadně může proměnit celou řadu oblastí od práva až po medicínu.

„Milan“ Chuong Le: V průmyslové výrobě může například pomoci s optimalizací procesů a snižováním nákladů. V budoucnu se očekává další rozvoj autonomního řízení, což může snížit počet nehod na silnicích a zlepšit dopravu. AI také může pomoci v boji proti globálním výzvám, jako je změna klimatu nebo pandemie.

David Grudl: V tom nejoptimističtějším scénáři můžeme vynalézt a nasadit umělou inteligenci, která bude schopna navrhovat a modelovat řešení zásadních společenských otázek bez politizování a lidských zkreslení. Místo zkoušení sociálního inženýrství na společnosti bychom si to testovali na modelech. A upřímně, bez pomoci AI si nedovedu představit řešení tak komplexních problémů, jako je klimatická krize.

Realističtější scénář bude počítat s tím, že by mohla AI pomoci třeba se zjednodušením zákonů a předpisů. Ty nejsou ničím jiným než textovým korpusem, navíc neustále se měnícím. V téhle oblasti jazykové modely AI excelují. Výrazně zjednoduší vyhledávání v zákonech, přepis do lidského jazyka, dokonce mohou hledat duplicity a navrhovat zjednodušení. Ke kterému ale nejspíš nedojde, protože to by museli schválit lidé.

Tomáš Mikolov: Já už roky vnímám strojové učení jako zásadní revoluci v oblasti programování. Dokážeme dnes řešit úlohy, které by byly před patnácti lety naprosto neřešitelné. Myslím, že časem umělé programovací jazyky prakticky zaniknou a každý bude schopen programovat počítače zadáváním úkolů v přirozeném jazyce.

 

Co se v článku dozvíte:

- co vlastně AI je a co dělá?

- kdo by měl mít obavy a kdo do ní vkládá naděje?

- objevuje se v debatách o AI nemístné strašení?

- jaká jsou největší rizika?

- může být rychlý rozvoj AI ohrožením pro demokracii?

- získá AI vlastní vědomí?

 

Jak zásadní je dnešní doba pro vývoj umělé inteligence? Je to skutečná revoluce?

David Grudl: Poslední rok byl mimořádný, co se týče zásahu do veřejného povědomí. Služba ChatGPT během pouhých dvou měsíců přilákala 100 milionů uživatelů, čímž se stala nejrychleji rostoucí aplikací všech dob. Takový raketový vzestup zájmu nikdo neočekával, zaskočil i giganty jako Google či Apple.

Přitom technologie, kterým říkáme umělá inteligence, ovlivňují naše životy dlouhou dobu. Pohání strojové překladače, které se v posledních letech znatelně zlepšily. Bez AI by e-mail dnes nejspíš neexistoval, neboť by se stal nekonečnou skládkou spamu. Fotoaparáty v mobilech díky AI dokážou fotit i za šera. Umělá inteligence na fotkách analyzuje objekty a tváře, podle kterých je pak třídí.

Skutečným průlomem loňského roku ovšem byly především generátory obrázků, které na základě uživatelských požadavků vytvářejí jedinečné vizuály. Dosáhly takové úrovně, že jsou nerozeznatelné od skutečných fotografií.

Josef Šlerka: Z přidávání zrnek písku se stala hromada, takže ano, zažíváme revoluci. Nicméně jsme spíše na jejím začátku.

Dušan Janovský: Prožíváme revoluční období. Převratný vývoj strojového učení se odehrává už asi patnáct let, ale teď začaly být výsledky díky velkým jazykovým modelům viditelné i pro veřejnost.

Tereza Bartoníčková: Revoluce nastane, až se umělou inteligenci jako společnost naučíme skutečně využívat. Stejně jako se stal internet revolucí v momentě, kdy zasáhl většinu rozvinuté společnosti.

„Milan“ Chuong Le: Dnešní doba je určitě zásadní pro vývoj umělé inteligence, ale nemusíme hned mluvit o revoluci. Pravda je, že díky pokroku v oblasti strojového učení a dalším technologiím se AI stává stále pokročilejší a použitelnější. Zároveň se ale musíme zabývat i výzvami, které s sebou vývoj AI přináší, jako jsou etické otázky a možnost ztráty pracovních míst.

 

Jak dnes zvídavým laikům jednoduše vysvětlujete fenomén AI a co vlastně dělá?

Dušan Janovský: Popisuji to jako kalkulačku pro všechno kromě matematiky. To je asi nejjednodušší vysvětlení.

Tereza Bartoníčková: Je to velice dobře cvičená opice. Je většinou specializovaná a je přesně tak užitečná, jak dobré má zadání. Nebo tak nebezpečně omylná, jak neúplné či nespecifikované má zadání. Již nějakou dobu jsme ve stavu, kdy se tyto opice díky našemu impulzu samy učí a „dávají hlavy dohromady“. Dospěli jsme tak do bodu, kdy stojíme před novou generací těchto opic, nástrojů AI. Nicméně pořád jsou to jen produkty naší mysli a asistenty, které naši mysl podporují.

David Grudl: Mezi laiky je rozšířeno mnoho polopravd a mýtů. Člověk by z nich nabyl dojmu, že AI je zdroj moudrosti, který vyřeší každý problém, od finanční analýzy ve firmě až po navrhování vědeckých hypotéz. Že bude řídit auta. Že nás porazí v jakékoli hře a přisvojí si práci půlky lidstva. A že je jen otázkou času, kdy si uvědomí sama sebe a převezme kontrolu nad naší planetou.

Silná prohlášení však často slouží spíš k získání pozornosti investorů a médií a ne vždy odrážejí skutečný stav věci. AI jsou úzce specializované stroje, které se neumí přizpůsobit jiným podmínkám. Pro překonání jejich limitů je nutné učinit ještě velkou řadu vědeckých objevů.

Dobré ale je, když si lidé vyzkoušejí, co AI skutečně umí. Jak báječně pracuje s textem, syntetizuje ostrý obraz i dobrý zvuk. Že toho umí opravdu hodně a chybí jí v podstatě jen ta inteligence… Přitom také mohou zjistit, k čemu ty stroje mohou využít a jak část své práce přehodit na jejich digitální bedra.

 

Jaký typ lidí by měl mít z AI obavy a jaký typ lidí do ní oprávněně vkládá velké naděje?

Josef Šlerka: Obecně by asi obavy měl mít kdokoli, kdo se živí tím, že nějaké texty přečte a na základě nich jiné vyprodukuje. Americký ekonom Robert Reich jim říkal symboličtí analytici a patří sem jak právníci, tak učitelé, marketéři, stejně jako novináři či programátoři. V západních zemích tvoří velkou část HDP a podstatným způsobem formují společnost. Naděje do ní mohou vkládat naopak příjemci jejich služeb.

Tomáš Mikolov: Mladší lidé jsou přirozeně více flexibilní a dokážou se lépe přizpůsobit novým technologiím. Starší lidé v některých profesích mohou mít oprávněné obavy, že jim vznikne levná a efektivní konkurence.

Tereza Bartoníčková: Nikdo z ní nemusí mít přímo obavy, a pokud má, doporučuji opravdu přijít na kloub tomu, co to je a jak to využít.

Pokud jde o nahrazení v práci, pak to budou lidé, kteří se de facto stali nástroji. Ti, kdo dělají práci bez přidané hodnoty, na kterou dosud stroje nebyly vhodné. Třeba každotýdenní tvorba letáků pro obchodní řetězce nebo sledování odchylek v provozu nějakých sítí či systémů. Ti se ale zas mohou naučit, jak AI zadávat úkoly, aby převzala rutinu a ponechala jim rozhodovací procesy.

„Milan“ Chuong Le: Obavy mohou být v oborech, které jsou nejvíce ohroženy automatizací – například výroba, doprava nebo administrativa. Naděje do AI vkládají ti, kdo vidí v této technologii možnosti řešení globálních výzev a zlepšení kvality života.

 

V čem vidíte největší rizika, která se s nástupem AI objevují a brzy nejspíš objeví?

David Grudl: Bude možné krást lidské hlasy. Podvodníkům bude ke klonování hlasu stačit získat relativně krátký záznam originálu. Postačí, když někomu zavolají, přimějí ho odpovědět na pár otázek a získají materiál, ze kterého natrénují model, který bude mluvit stejným hlasem. Může se stát, že vám zavolá vaše dítě s naléhavou žádostí o sto tisíc korun, ale ve skutečnosti půjde o podvodníka. Osobně bych takový podvod odhalil, protože nemám děti, jiní zase mají to štěstí, že nemají tolik peněz. Nicméně lidé by měli být obezřetní a připravit se na nové typy podvodů. Byť to teď zní znepokojivě, myslím, že časem si na to zvykneme.

Tomáš Mikolov: AI už dnes automatizuje čím dál více lidské práce v oblasti psaní textu a generování obrazového materiálu. To je na jednu stranu pozitivní trend, na druhou to může některé lidi výrazně zasáhnout. Nejenže přijdou o práci, ale také zjistí, že třeba celý život věnovali něčemu, co se dá strojově zautomatizovat. Myslím, že na tyto skupiny obyvatel bychom měli více myslet a pokusit se vytvořit podmínky, abychom všichni na technologickém pokroku vydělali. Tato diskuse by už dávno měla probíhat speciálně v Evropě, protože hrozí, že nám zmizí miliony pracovních pozic, které nahradí roboti ze zahraničních monopolů.

Dušan Janovský: Jako lidé fungujeme induktivně. Pokud něco dlouhodobě funguje, předpokládáme, že to tak bude nadále. Může se klidně stát, že v běžných situacích budou nástroje AI fungovat správně, takže se na ně lidé budou víc a víc spoléhat. Nikdo ale neví, jak bude AI pracovat v nečekaných situacích a jestli se nezachová v souladu se svými neznámými zájmy. Nebezpečí prostě spočívá v tom, že moc brzo svěříme příliš odpovědnosti do rukou strojů, o kterých toho moc nevíme.

Tereza Bartoníčková: AI budou většinou užívat pravděpodobně soukromé firmy, což znamená, že ji budou využívat za účelem zvýšení profitability. A to se ukázalo jako problematické například u byznys modelů so-ciálních médií, které jsou jednoznačně nastaveny na zpeněžení a udržení pozornosti uživatele, a to na úkor morálních hodnot či soukromí.

Jako téměř každý nástroj může být i AI zneužita pro špatný záměr. Tam už ale vina není na straně AI, ale na straně jejího tvůrce a provozovatele. Stejně jako nožem nakrájíme chléb a namažeme ho, můžeme nožem také někoho zranit či usmrtit.

„Milan“ Chuong Le: Jedním z největších rizik je zneužití v oblasti vojenského a obranného průmyslu. Například využití autonomních zbraní řízených AI může mít katastrofické následky.

 

Povede AI k většímu zahlcení veřejného prostoru dezinformacemi?

David Grudl: ChatGPT je mistrem v generování dezinformačních článků, řetězových e-mailů či falešných komentářů. Vychrlí je během chvilky. A namíchá do nich tu správnou směs ingrediencí – kousek pravdy, kousek lži a špetku vzteku. Zvládne psát komentáře mnohem levněji než trollí farmy. Ale může větší záplava polopravd něco změnit? Spíš bych řekl, že karty jsou rozdány a příjemci těchto „zpráv“ jsou dostatečně nasyceni.

Dušan Janovský: Je evidentní, že se nástroji AI poněkud snižuje cena psaní umělých textů a kreslení umělých fotografií. V případě textů už možná jsme na kulminačním bodě, protože texty se masivně zlevnily už před dvěma lety kvůli dobrému automatickému překladu. Lidé ale ještě nejsou zvyklí na falešné fotografie, těch se brzy objeví miliony.

Tereza Bartoníčková: Pokud se budeme stavět stejně pasivně k vlivovým operacím a dezinformačním vlnám jako dosud, další zahlcení veřejného prostoru reálně hrozí. Být laxní k dezinformacím můžeme, až když je většina populace rozezná. To se nyní říci nedá.

„Milan“ Chuong Le: Ano, AI může přispět k většímu zahlcení veřejného prostoru dezinformacemi, a to především na sociálních sítích. Bohužel mnoho konzumentů sociálních sítí nerozumí tomu, jakým způsobem fungují. Velmi často jsou terčem cílených kampaní, které mají za cíl trvale změnit naše myšlení. Nedokážeme rozlišit pravdivou informaci od dezinformace. Domnívám se, že jde o velmi závažný problém a neměli bychom ho ignorovat. Ze studií vyplývá, že nejlepší strategie v boji proti dezinformacím je rozvoj kritického myšlení. A s tím bychom měli začít co nejdřív.

 

Lze vývoj umělé inteligence alespoň na půl roku zastavit, jak požadují autoři petice signatářů z různých zemí světa?

Josef Šlerka: Ne. Ale nebylo by špatné přesměrovat alespoň desetinu peněz, které teď jdou do učení nových modelů a vůbec celého vývoje, na lepší slaďování s lidskými zájmy a celkově na oblast bezpečnosti.

Tomáš Mikolov: Tento požadavek je zjevně nereálný a ani autoři nemohli očekávat, že tvůrci AI technologií – tedy nadnárodní korporace – zastaví vývoj a budou na něco čekat. Myslím, že pravým cílem této výzvy bylo zviditelnění jejích hlavních autorů.

„Milan“ Chuong Le: Zastavit vývoj umělé inteligence nelze a ani by to nebylo rozumné rozhodnutí.

Dušan Janovský: Opravdu velké jazykové modely na úrovni GPT4 se tvoří jen na dvou nebo třech pracovištích na světě a jsou významně závislé na tom, kolik mají peněz. Takže ano, vývoj by teoreticky zastavit šel. Nemyslím, že se to stane, a nevím, jestli by se tím pozastavením něčeho významného dosáhlo. Petice požaduje získaný čas použít na výzkum sladění zájmů AI se zájmy lidské společnosti, tak zvaného „AI alignmentu“. To mi přijde rozumné, ale očekávám spoustu praktických obtíží.

 

Může být rychlý rozvoj AI vážným ohrožením pro demokracii?

Josef Šlerka: Samotný nástup AI asi demokracii neohrozí, ale schopní manipulátoři ji mohou využít. Bude to ale znamenat trochu jiný přístup. Zatímco Hitler byl muž rozhlasu a v televizi by jeho gesta vypadala groteskně, noví populisté a extremisté budou muset prokázat mnohem více jemnosti a využít schopnosti AI k subtilnějším a cyničtějším manipulacím. Umím si představit, že AI bude schopna generovat mnohem přilnavější obsah k potřebám jednotlivců, než byl jakýkoliv způsob manipulace předtím. Nicméně pokud je společnosti odolná a dostatečně bohatá, bude i stabilnější.

Tomáš Mikolov: Rozvoj AI může být ohrožením pro demokracii, ale to samé lze říct o internetu – rychlé šíření informací nahrává šíření dezinformací a manipulacím.

Tereza Bartoníčková: Ne. Ohrožením demokracie by bylo specifické užívání AI, a to ve spojení například s dezinformacemi. Ohrožením, proti kterému stojíme již dlouhá léta a dáváme jako stát ruce za záda a zavíráme oči. To se musí změnit.

„Milan“ Chuong Le: Rychlý rozvoj AI může být vážným ohrožením pro demokracii, pokud nebude řádně regulován a využíván v souladu s právními a etickými normami. Je důležité, aby se o rozhodnutích o regulaci v oblasti AI diskutovalo s veřejností.

 

Je možné, že strach z AI je vlastně motivován strachem z toho, že by projevovala lidské vlastnosti?

Tomáš Mikolov: Určitě. Přitom inteligence není to samé co motivace. Umělý systém může být v některých směrech geniální, ale to ještě neznamená, že bude sám o něco usilovat.

Dušan Janovský: Strach z AI je obecně strachem z neznámého. Každá bytost, která investovala úsilí do pochopení, jak funguje svět kolem ní, nese špatně, když se ten známý svět změní. Ztrácí tím výhodu oproti mladým nebo obecně těm, kdo do pochopení starého světa neinvestovali.

Tereza Bartoníčková: Strach z AI podle mne pramení z neznalosti. Lidské vlastnosti projevuje zdánlivě, jelikož ji cvičíme pro napodobení toho, co lidé očekávají. Je to ale jen velice dobré napodobování vzorců našeho chování, respektive vyjadřování.

„Milan“ Chuong Le: Ano, lidem není cizí závist, lhostejnost, lstivost, nevychovanost. A bohužel i tyto vlastnosti jsou pro stroje naučitelné.

Josef Šlerka: Až se nám bude dělat nevolno z představy, že AI nemůžeme přece vypnout, protože by jí to ublížilo, tak bude pozdě.

 

Podíváte-li se na to, jak se nyní o umělé inteligenci hovoří ve veřejném prostoru, objevuje se v těchto debatách nemístné strašení?

David Grudl: Po atomové bombě může být AI dalším vynálezem s fatálním dopadem na lidstvo. Takže k ní logicky musíme přistupovat zodpovědně, zkoumat rizika a usilovat o mezinárodní spolupráci ve výzkumu a vývoji s cílem sladit AI s lidskými zájmy. O tom je v pořádku veřejně diskutovat. Ale je třeba si ujasnit, o jakém horizontu se bavíme. Tvrdit, že obecná inteligence je těsně za rohem, je v současné chvíli skutečně čistá spekulace.

Josef Šlerka: Myslím, že u nás se strašení neobjevuje. Myslím, že mnozí naopak zatím spíše žijí v představě, že se nic neděje. Trochu to připomíná – abych parafrázoval Čapkovu Válku s mloky – přístup: Prosím vás, kde by se ve Vltavě vzal mlok.

Tomáš Mikolov: Ano, strašení se objevuje a nejvíce straší lidé, kteří sice vůbec netuší, jak třeba takové jazykové modely opravdu matematicky fungují, ale s naprostou jistotou vám oznámí datum, kdy AI zničí lidstvo. Toto sice hezky zvyšuje čtenost a vyvolává v lidech emoce, ale jako společnosti nám to škodí. Rizika a příležitosti by v první řadě měli komentovat lidé, kteří se této technologii dlouhodobě věnují.

Tereza Bartoníčková: Sci-fi scénáře táhnou. Jsme ve stejné fázi, jako když se kdysi na filmovém plátně objevil vlak a lidé vyděšeně vybíhali z kina. Ale už jen samotný princip AI vyžaduje změny, ať už přístupu, či mentality, a myšlenka změny dokáže děsit. Vedle toho strašení ale vidím i druhou stranu – kousek naděje na to, že bychom si naši společnost mohli zařídit komfortněji.

 

Jak zásadní je, že ChatGPT stále dělá faktické chyby? Nebo je naopak klíčové, že poslední verze jich vlastně dělá překvapivě málo?

David Grudl: ChatGPT, s ohledem na použitou metodu učení a široké spektrum trénovacích dat, je více zaměřen na přesvědčivost projevu než na faktickou přesnost, což může být problém.

Když ChatGPT začne „halucinovat“, tedy psát smyšlené nebo neexistující informace, dělá to s nesmírnou přesvědčivostí. Dokonce podporuje svá tvrzení odkazy na důvěryhodné zdroje, které jsou však taktéž vycucané z digitálního prstu.

Dušan Janovský: Z mého pohledu je dobře, že ChatGPT chyby dělá. Ukazuje tak uživatelům své limity. Z velké části je to důsledek rozhodnutí vývojářů ChatGPT. Kdyby chtěli udělat nástroj bez faktických chyb, nechali by model učit na datech, která by mnohem více obsahovala odpovědi „nevím“. Ale rozhodli se, že budou preferovat odpovědi ukecanější, byť třeba nesprávné.

Tereza Bartoníčková: Jako s každým nástrojem, i zde musíme být seznámeni s tím, co máme v ruce. Spousta lidí přistoupila k ChatGPT jako k neomylnému a všemocnému dědu Vševědovi – pak je to problém, ale problém, který je v uživateli. Vždyť je to stejný princip, jako když byla vysoká míra chybovosti na Wikipedii, ale jako hlavní otevřená encyklopedie na internetu byla hojně využívána. Jako nástroj se ChatGPT bude jednoduše zlepšovat v tom, co jeho tvůrci budou tlačit.

 

Vytvoří AI člověku další pracovní úkony? Po jakých lidských profesích může být kvůli AI větší poptávka?

Tereza Bartoníčková: Poptávka bude po profesích, které nyní začínají či je ještě nemáme. Jen pár příkladů: trénování, testování, pomoc s uváděním do provozu, vylaďování výsledků, upravování produktů, nastavování AI na míru a tak dále.

David Grudl: Vzniká poptávka po AI konzultantech, a kde je poptávka, tam přichází i nabídka. Takže už se líhnou zástupy novopečených AI odborníků, vždyť stačí být o kapitolu napřed, podobně jako učitelky angličtiny po sametové revoluci.

Mezi další profese bude patřit například prompt designer (ví, jak pokládat dotaz do ChatGPT), prompt ninja (ví, jak pokládat dotaz do ChatGPT a ještě mu nebylo dvacet let), AI koordinátor (ví, jak pokládat dotazy prompt designerovi a ninjovi) nebo machine learning operation (náplň jeho práce možná zůstane zahalena tajemstvím i pro personální oddělení).

 

Jaké obory posune AI nejvíce kupředu? Medicínu? Chemii? Inženýrství? Energetiku? Armádu?

Tomáš Mikolov: Rád bych viděl propojení AI a zdravotnictví. Všichni bychom mohli být výrazně zdravější, pokud by se AI používala pro prevenci nemocí. Přitom technologicky je toto řešitelné už roky. Jen chybí poptávka společnosti, která si dosud mnohdy možnosti AI neuvědomovala.

Dušan Janovský: AI má potenciál posunout všechny obory, ve kterých je konkurence. Paralelou může být digitalizace, která už zhruba dvacet let probíhá napříč různými obory, ale zdaleka ne všude se dostala tak daleko, jak by se dalo očekávat. Důvodem jsou jednak různé regulace, jednak monopoly, které nemají motivaci se měnit. Například v energetice se v uplynulých deseti letech boom AI a strojového učení už odehrál. Obchodování s elektřinou dnes řídí pokročilé algoritmy a dělají to tak dobře, že limitem pro zlepšování už jsou pouze různé regulace. Medicína jako vědní obor se bude díky AI rozvíjet velmi bouřlivě, zda se to ale bude týkat například českého zdravotnictví, je jiná otázka.

Tereza Bartoníčková: Nejvíce posune obory s největším množstvím dostupných tvrdých dat a existujících pravidel. Tam může být rychle nasazena. Jedná se například o zdravotnictví, inženýrství (od architektury po strojní a IT) a další obory.

„Milan“ Chuong Le: Vidím obrovský pokrok ve službách. Velký posun je také ve stavebnictví, architektuře, módním průmyslu, médiích. Myslím, že AI má dopad na téměř všechny obory, a to je jedině dobře.

Josef Šlerka: Může zlepšit návrh a výrobu produktů, optimalizovat výrobní procesy a zvýšit efektivitu výroby. V oblasti stavebního inženýrství může AI napomoci při plánování a optimalizaci stavebních projektů. V oblasti chemie může urychlit výzkum a vývoj nových chemických sloučenin a materiálů. Algoritmy strojového učení mohou předpovědět vlastnosti molekul a usnadnit výběr sloučenin pro laboratorní testování. Pokud jde o energetiku, AI může přispět k efektivnějšímu využívání energetických zdrojů a optimalizaci distribuce energie. Může také hrát klíčovou roli v rozvoji obnovitelných zdrojů energie a zlepšení energetické účinnosti.

Umělá inteligence ale také může zlepšit schopnosti vojenského rozhodování, zpravodajství a průzkumu. A to vůbec nemluvíme o možnostech využití oblasti v autonomních zbraňových systémech či bezpilotních letadlech. Máme se na co těšit.

 

Existuje nějaký obor nebo obory, do kterých vnese AI chaos?

Sara Polak: Většinou se snaží řešit problémy a zlepšit výkon v různých odvětvích. Nicméně, existují určité oblasti, kde může AI přinést určitý chaos nebo nejistotu.

V právní oblasti může docházet ke zmatkům v otázkách odpovědnosti a zodpovědnosti za rozhodnutí AI. V oblasti finančních služeb může přinést chaos tím, že bude mechanicky rozhodovat o investicích a transakcích při neznalosti změn vnějšího prostředí. Vojenské aplikace mohou vést k nechtěným důsledkům, pokud by AI nesprávně vyhodnocovala podněty k útokům a obraně bez dostatečného lidského dohledu.

Je důležité si uvědomit, že většina potenciálních problémů by byla způsobena nesprávným využíváním technologie, nikoli technologií samotnou.

Josef Šlerka: Asi do oblastí soukromí a intimity. Tam, kde místo sebe budeme nechat promlouvat AI, ať už to bude vymýšlení odpovědí na Tinderu, nebo fiktivních životopisů. Tam, kde druhá strana očekává člověka a dostane stroj.

Dušan Janovský: Marketing, žurnalistika, vyhledávání, grafika, návrh webu a další obory pracující s informacemi budou prožívat hodně zajímavé časy. V oblasti autorských práv bude neskutečný hokej. Jestli něco z toho bude přímo chaos, nevím.

„Milan“ Chuong Le: Například v bankovnictví a financích může být AI použita k podvodům, kybernetickým útokům a manipulaci s trhem, pokud není správně implementována a používána. Nebo bezpečnostní služby: použití AI k rozpoznávání obličejů a sledování lidí může být zneužito ke sledování a špehování lidí bez jejich vědomí.

 

 

Co znamená nástup AI pro systém a styl vzdělávání studentů v Česku?

Sara Polak: Jedním z hlavních způsobů, jak může být AI využita ve vzdělávacím systému, je personalizace výuky. Může analyzovat data o chování a výkonu studentů a na základě toho navrhnout specifický výukový plán pro každého studenta.

Může být také použita při tvorbě interaktivních učebních materiálů, které budou zábavnější a efektivnější než tradiční učebnice. Usnadní vytváření vzdělávacích her a simulací, které pomohou studentům lépe porozumět složitým konceptům. Nicméně je také důležité zdůraznit, že AI by neměla nahradit učitele a lidskou interakci v učebně, ta musí být vždy primární.

Dušan Janovský: Doufám, že by mohla hlavně pomoct učitelům, například opravovat studentské práce, dělat přípravy, komunikovat s rodiči apod. Povolání učitele je hlavně kvůli intenzivní domácí práci časově nesmírně náročné.

Tereza Bartoníčková: Nástup AI znamená zásadní výzvu pro celý vzdělávací systém, aby se změnil. Mohl by být impulzem k důrazu na adaptabilitu, kreativitu a know-how více než na strojové memorování všech faktů. Také by nás mohl vést k zamyšlení nad tím, jak budeme toto know-how uchovávat, abychom se při výpadku elektřiny neocitli v době kamenné, kdy si najednou neumíme obstarat ani základní potřeby.

David Grudl: AI má potenciál zásadně změnit vzdělávání. Může vytvářet individuální učitele pro každého studenta a podpořit přirozenou motivaci k učení. Ale obávám se, že rodiče touží nechávat své děti procházet stejným vzdělávacím utrpením v rakousko-uherském stylu, které sami zažili.

 

Chtěl/a byste teď vyrůstat a brát AI jako přirozenou součást života a vzdělávání?

Tomáš Mikolov: Ano. AI by mi dnes přišla jako úžasná technologie, pomocí které můžeme lépe prozkoumávat svět a posunout hranice našeho poznání. Svým způsobem je třeba ChatGPT úžasná encyklopedie.

Dušan Janovský: Ano. Přirovnal bych to k cvičebnici příkladů z matematiky. Ačkoli bylo zábavné úlohy počítat, občas se hodilo kouknout se dozadu na správné řešení, protože to učení zrychlovalo.

Osobně bych si při studiu nejvíce cenil vyhledávání. Když si vzpomenu na dobu svého studia, kdy jsem neměl k dispozici žádný cizojazyčný text a obvykle ani žádnou učebnici (byly drahé), tak se to vůbec nedá srovnávat. Pokud jsem něčemu nerozuměl ve skriptech nebo svých poznámkách, musel jsem jet do Prahy na konzultaci, která byla jednou týdně.

„Milan“ Chuong Le: Narodilo se mi nedávno miminko a rád bych, aby AI byla jako taková jeho kmotra. Pomáhala mu hledat odpovědi a klást zvídavé otázky.

 

Bude kvůli stále širšímu používání AI potřeba mnohem více supervýkonných počítačů? Stoupne s šířením AI zásadně spotřeba energie? A pokud ano, bude to vyžadovat velké investice?

Dušan Janovský: Podle mého hrubého výpočtu je na práci modelu ChatGPT-3 potřeba počítač v ceně přibližně 3 miliony korun. Má příkon přibližně 6 kW a za sekundu zvládne více klientům paralelně vygenerovat asi tisíc slov. To jinými slovy znamená, že to je hodně drahý počítač a fakt hodně žere, je těžké ho i dobře chladit.

Předpokládám ale, že neuronové sítě budoucích modelů budou navrhovat tak, aby spotřebu elektřiny snížily. A očekávám i proměny v návrhu hardwaru.

Tereza Bartoníčková: Jak se vyvíjí programy a aplikace, tak se musí upgradovat stroje, na kterých běží. Jen se podívejte na svůj smartphone a porovnejte ho s předchozími modely. Spotřeba energie stoupne zákonitě s každým novým procesem, proto technologické firmy předbíhají trh ve využívání obnovitelných energií. Nejen kvůli tomu by se s myšlením „digital first“ mělo myslet i na „green first“, tedy ohledy na životní prostředí v první řadě.

„Milan“ Chuong Le: S rostoucím používáním AI se pravděpodobně zvýší poptávka po supervýkonných počítačích. Ty jsou totiž klíčové pro rychlé zpracování dat a trénování složitých modelů strojového učení. Je tak pravděpodobné, že se s šířením AI zvýší i celková spotřeba energie. Například trénování obrovských neuronových sítí vyžaduje výpočetní výkon, který může být velmi náročný na energii. Nicméně existují snahy o vývoj efektivnějších algoritmů a využití spe--cializovaných hardwarových řešení, která mohou pomoci snížit nároky na výpočetní výkon a energii.

 

Do jaké míry je člověk, tradičně špatný v předvídání budoucnosti, schopen odhadnout, jak změní umělá inteligence svět v následujících padesáti letech?

Josef Šlerka: Naprosto není. Teď jsme v okamžiku, kdy nevidíme, kde má stávající boom limit. Vývoj je příliš překotný.

Tomáš Mikolov: Je to asi tak, jako byste po lidech ze sedmdesátých let minulého století chtěli předpovědět, co budeme řešit dnes. Stačí se podívat jen na sci-fi filmy z té doby a je jasné, jak hodně špatní jsme v dlouhodobých předpovědích. Proto dnes bez obav ignoruji všemožné experty, kteří s velkou sebejistotou líčí, co bude za padesát let. To odhadnout prostě nelze.

Dušan Janovský: Podle posledních měsíců se zdá, že zrychlování vývoje v oblasti umělé inteligence má exponenciální růst. Podle mě se jedná o největší revoluci v době našich životů, ale třeba to taky vůbec tak být nemusí.

Autoři sci-fi v sedmdesátých letech minulého století extrapolovali budoucnost civilizace na základě překotného vývoje kosmonautiky v letech šedesátých, takže jim přišlo naprosto logické, že lidé budou brzy létat po celé Mléčné dráze. Byli by ale asi hodně překvapeni, kdyby se tehdy dozvěděli, že od roku 1972 se nikdo nevrátí ani na Měsíc.

 

Nakolik je podle vás pravděpodobné, že AI někdy získá inteligenci skutečně srovnatelnou s tou lidskou? Nebo že dokonce získá vlastní vědomí?

Dušan Janovský: Cílem AI nebude získávat lidskou inteligenci, ale plnit co nejlépe zadání, které dostane v procesu učení. Jestli přitom bude potřebovat osvojit si některé prvky lidské inteligence, vadit jí to nebude a klidně to udělá. Už dříve byly běžně používané věci v určitých ohledech chytřejší než lidé. Hodinky lépe měří čas, kalkulačka lépe počítá, zápisník si lépe pamatuje, internetový vyhledávač dokáže poskytnout ve zlomku sekundy relevantní odkazy.

Pokud jde o vědomí, neexistuje ani shoda, co vědomí přesně je. Zvířata a lidé vnímají svět v čase, který plyne a neustává, proto mají pocit kontinuity a vědomí. AI vnímá čas úplně jinak než člověk, neplyne pro ni lineárně, může být vypnuta nebo se naopak rozdvojit na více procesů. My lidé se domníváme, že jsme ti samí lidé, kteří jsme byli před rokem, ale je to skutečně tak? Kdybychom se rozdvojovali a vypínali se, cítili bychom identitu nebo vědomí? Podle čeho soudíme, že jiní lidé mají vědomí? Pouze jako paralelu s vědomím vlastním, jiný důkaz nemáme.

Hlavní otázka je, jaké AI bude mít cíle. Jestli ty cíle budou odpovídat cílům designera dané AI (už i to je potenciálně nebezpečné), nebo jestli to dokonce budou cíle vlastní, neznámé, pseudonáhodné a předem nedefinované.

David Grudl: Otázka je, zda by to AI prospělo. Už jsem se v životě setkal se spoustou lidí, kteří měli inteligenci srovnatelnou s lidskou, a takové bych rozhodně mít v ChatGPT nechtěl. To by mi ten nástroj úplně pokazilo.

Ale vážně: je pravděpodobné, že AI postupem času nabude schopností blížících se lidské inteligenci. Domnívám se, že žádná technická překážka tomu nezabrání, umělé inteligence se budou zlepšovat a času je dost.

Možná se ovšem také vývoj vydá jiným směrem, třeba budeme vylepšovat své mozky pomocí implantátů. Nebo když se cestou něco hodně podělá, si bude AI vylepšovat sama sebe implantáty z našich mozků. To by byl překvapivý zvrat.

„Milan“ Chuong Le: Myslím, že je obtížné přesně předpovědět, zda a kdy by AI mohla získat inteligenci srovnatelnou s tou lidskou a zda by to vedlo k vědomí. Zatímco někteří výzkumníci tvrdí, že je to v podstatě nemožné, jiní tvrdí, že to může být možné v blízké budoucnosti. Nicméně, i kdyby AI získala inteligenci na úrovni lidského mozku, není jisté, že by to vedlo k vlastnímu vědomí a uvědomění si své existence. Tento problém v současné době patří do oblasti filozofie vědy a je předmětem široké debaty a diskuse.

Josef Šlerka: Myslím, že otázka vědomí AI zůstane nerozhodnutá. Bude, dříve či později, navenek vykazovat všechny znaky toho, že má vědomí podobné lidskému. Nicméně si myslím, že spíše bude mít smysl mluvit o tom, že je to inteligence na úrovni člověka a možná vyšší, ale ne-lidská.

Tomáš Mikolov: Já jsem byl v tomto ohledu vždy technologický optimista, podle mě je možné vytvořit algoritmickou inteligenci, která tu naši lidskou překoná. Vědomí je pro mě pak „emergentní jev“ – zkrátka objeví se v dostatečně komplexních systémech zdánlivě samo od sebe. Jsem přesvědčený, že umělá inteligence je technologie, kterou lidstvo musí vytvořit, abychom dokázali čelit čím dál složitějším problémům. Kvůli překotnému technologickému rozvoji vznikají všemožné krize – ozonová díra, globální oteplování, zamoření životního prostředí... S tím si zatím jako lidstvo nedokážeme poradit.

Potřebujeme být prostě mnohem chytřejší – a proto vidím budoucnost v symbióze mezi lidmi a umělou inteligencí.

Tereza Bartoníčková: Umělá inteligence je již nyní mnohem chytřejší než lidé – ale v úzkém zaměření. Tím myslím, že má mnohem vyšší kapacitu pro zpracování informací a nacházení vzorců v obrovském množství dat, která by člověk neprostudoval ani za celý život. Proč jí říkáme umělá inteligence? Protože zpracováním dat na nás působí jako inteligentní člověk. Ve skutečnosti je ale lidská inteligence nenahraditelná, jelikož reaguje na kontext. To se AI teprve učí a má své limity, protože kontext se často nebude dát přeložit do dat stravitelných pro stroj.

Vědomí AI v dohledné době určitě nezíská. Už jen kvůli omezení, které nastavují procesorové čipy. Je to ale krásná sci-fi myšlenka.