Miroslav Holec je vývojář, konzultant a lektor. Vývojářským týmům pomáhá najít cestu k novým technologiím a moderním řešením, mezi kterými nechybí ani umělá inteligence. Mezi jeho služby patří konzultace business cases, školení ChatGPT v praxi či workshop integrace GPT. Rozhovor s Miroslavem doporučujeme každému, koho zajímá spojení vývoje s byznysem v kontextu AI.
Přes 10 let se specializujete na vývoj a integraci webových služeb. Je stávající rozvoj AI momentem, který zásadně mění poptávku po vašich službách?
Neřekl bych, že se poptávka zásadně změnila, ale oproti jiným technologiím je poptávka po implementaci AI mnohem větší. ChatGPT odstartoval závody v „AI zbrojení“ a většina firem si uvědomuje, že buď to uchopí jako příležitost nebo se pro ně stane umělá inteligence hrozbou. Vývojáři musí AI implementovat do svých aplikací a jsou vděční za každý dobrý zdroj informací. Kromě toho jsou vývojáři i uživatelé AI, protože jim usnadňuje vývoj aplikací. Z dosavadních zkušeností je jisté, že poptávka po školeních zaměřených na umělou inteligenci vzroste především příští rok. Většina firem AI teprve zahrnuje do svých plánů a vyčlení si na to větší rozpočet právě v dalším roce.
Jaká je vaše rada pro firmy, které zvažují využití generativní umělé inteligence, ale ještě si nejsou jisté, kde a jak začít?
Důležité je začít hned. Už teď lze najít mnoho využití pro všechny možné produkty a začít se s generativní umělou inteligencí sbližovat. Kdo tuto fázi podcení, už bude těžko dohánět konkurenci. Firmy by si měly na tuto oblast v roce 2024 vyčlenit dostatečný rozpočet a především dedikovat čas a vývojářskou kapacitu. Vývojáři budou potřebovat v této oblasti mnoho času na vzdělávání. Na jedné straně vývojářům pomohou školení, na straně druhé pak čas na experimentování. Doporučil bych vývojářům více naslouchat, protože právě z jejich strany mohou přijít skvělé nápady na vylepšení stávajících produktů.
Samotná implementace AI s sebou nese také řadu etických otázek. Firmy si budou muset nastavit určitá pravidla užití umělé inteligence jednak směrem k vývojářům a vlastně i k zaměstnancům obecně. Umím si představit, že firmy zaměřené na tvorbu obsahu mohou řešit řadu otázek spojených s autorskými právy. Ve světě vývoje aplikací je to pak především otázka shromažďování dat a jejich anonymizace. Pokud si tato pravidla firmy nevyjasní dostatečně brzy, vymkne se to kontrole.
Pomáháte s automatizací procesů a integrací služeb včetně GPT do byznysových procesů. Jaké byznysové procesy jsou typicky nejvhodnější pro implementaci AI?
Většina firem začala v minulosti opakované procesy určitým způsobem automatizovat. Některé procesy automatizovat možné nebylo, protože v nich byl nutný „lidský zásah“. A právě tyto odložené procesy je teď možné konečně automatizovat, protože ten lidský zásah nyní umí často zastat GPT. Obecně se GPT hodí pro automatizaci rutinních úloh. Ideálně pro komunikaci se zákazníky, personalizaci textů, dynamickou tvorbu obsahu nebo například překlady či adaptaci textu do různých podob. V prostředí webových aplikací lze pomocí GPT například předvyplňovat formuláře, našeptávat text nebo celkově předvídat kroky uživatele. Specializuji se na text, ale podobně lze automatizovat rutiny i v případě audiovizuálního obsahu.
Jaké jsou nejběžnější dotazy, které dostáváte od vývojářů, týkající se integrace GPT do jejich aplikací a projektů?
Společným jmenovatelem všech dotazů je neznalost principů fungování GPT. Nejčastěji vývojáři hledají řešení, jak z GPT dostat deterministické odpovědi, aby bylo možné tyto odpovědi dále zpracovávat. Často vývojáři hledají vazbu na normu. Vývojář typicky potřebuje, aby mu GPT místo názvu země odpověděl ISO kódem nebo na dotaz na náladu textu jednou z předpřipravených možností. GPT toto dokáže, ale musí se s ním pracovat jinak, než jak jsme zvyklí v případě rozhraní ChatGPT od OpenAI. Pak je tu také nová potřeba ověřovat, zda skutečně GPT odpověděl v rámci nastavených mantinelů. To vývojáře často ani nenapadne.
Jakým konkrétním výzvám jste čelil při integraci generativní umělé inteligence do webových služeb a aplikací?
Asi pro každého je největší výzva získat hodnotnou zpětnou vazbu k vytvořené integraci. U standardního vývojářského kódu to není problém, protože ten kód se v danou chvíli nemění a chová deterministicky. Když se objeví chyba, stačí nad danou verzí aplikace použít problematický vstup a vývojář se snadno dostane k místu, kde chyba vzniká. V případě GPT je tu prvek náhody, který vede k neočekávaným chybám. Sběr logů je v tomto případě velmi složité téma, protože konkrétní prompty a návrhy mohou obsahovat citlivé informace. Nakonec i když vývojář má k dispozici problematický prompt, pořád mu GPT dost možná vrátí jiný výsledek, než v zaznamenaném případě.
Uvědomujeme si, že implementace AI je velmi individuální. Lze však orientačně uvést nějaký časový horizont, ve kterém je možné dosáhnout prvních výsledků?
Když zůstanu v kontextu GPT, tak při troše úsilí lze mít první jednodušší produkční implementaci během dvou sprintů, což jsou typicky dva až čtyři týdny. Je ale nutné začít hledat scénáře, proškolit vývojáře a zodpovědět si i nevývojářské otázky, které často zasahují i do oblasti práva. Spíše bych řekl, že proces se zpomalí hledáním specialistů. Proto je vhodné začít s AI co nejdříve, aby právě tyto otázky byly vyřešeny. Je to ale proces dlouhodobý. Po prvním produkčním nasazení tým začne sbírat zpětnou vazbu a brzy začne pokukovat po fine-tuningu nebo pokročilejších možnostech, jejichž implementace už trvá mnohem delší dobu.
Dá se říci, že v malých týmech se daří implementovat umělou inteligenci poměrně rychle. V korporátním prostředí vše brzdí složité procesy. Určitá zdrženlivost ale není na škodu a implementace by měla být provedená zodpovědně spíše než rychle.
Mezi vašimi službami je také školení ChatGPT. Jaké jsou typické potíže a limity GPT a jak s nimi v praxi nakládat?
Já osobně mám trochu nedůvěru k OpenAI a u veřejného rozhraní ChatGPT je přiznáno, že veškerá data jsou používána pro reinforcement learning. Já beru otázku soukromí a zabezpečení dost vážně, takže firmám bych spíše doporučil využít jiné uživatelské rozhraní a jeho implementaci skrze API u důvěryhodného poskytovatele, jako je například Microsoft.
Čím delší dobu ChatGPT používám, tím více limitů vidím. Jeden zásadní, o kterém se vůbec nemluví, je špatná dostupnost webové služby, která často nedosahuje ani tří devítek. Stejně tak problematický je prompt shifting, který nastává při aktualizaci modelů. Odpovědi na funkční prompty se tak mohou postupem času měnit. Jak jsem zmínil, vývojáři potřebují deterministické chování a prompt shifting jim vůbec nepomáhá. Potká to ale v zásadě každého, kdo s ChatGPT přijde do styku.
Jaké další online nástroje postavené nad GPT vám přijdou zajímavé?
Ve světě vývoje aplikaci se používá GPT v různých AI asistentech. Nejznámější je GitHub Copilot od Microsoftu. Microsoft má uzavřené partnerství s OpenAI, poskytuje jim výpočetní kapacitu a zpřístupněné GPT modely trénuje na veřejných GitHub repozitářích. Je tu obrovská synergie. Skupina výzkumníků z GitHubu (tzv. GitHub Next) navíc stále pracuje na nových nástrojích založených na AI. Proběhl výzkum, podle kterého vývojáři dokážou s GitHub Copilotem provádět běžné úkoly za poloviční čas. 96 % vývojářů ve výzkumu potvrdilo, že jim GitHub Copilot zásadně zrychluje opakující se rutiny. A právě opakující se rutiny vývojáři řeší neustále.
Pokud byste měl vybrat jednu konkrétní etickou výzvu, kterou rozvoj AI přináší, jaká by to byla?
Kromě již diskutovaného soukromí je to nestrannost. Přijde mi to jako o jeden řád složitější otázka než v případě svobody. My sice umíme hranice svobody dobře definovat, ale máme problém je nastavit. Je to jako když přesně víme, jak vypadá státní hranice mezi dvěma zeměmi, ale neshodneme se na tom, kde přesně leží. Každá země má navíc svůj právní systém a kulturu, která ovlivňuje chápání svobody. Generativní AI je postavena na univerzálních modelech, které se snaží nenarušovat jednotlivé právní systémy a kultury. Nevím, jestli je to splnitelný úkol a zda nám bude hyperkorektní AI skutečně užitečná. Do velké míry bojujeme s netransparentností AI modelů a řada zemí na to reaguje preventivním zákazem. Bude velká výzva najít vyvážené řešení této otázky.
Zdroj: https://asociace.ai/
