Flowise je open source nástroj na vizuálne skladanie aplikácií s jazykovými modelmi. Namiesto písania kódu pretiahnete na plátno bloky, prepojíte ich čiarami a výsledkom je chatbot, asistent nad dokumentmi alebo agent s nástrojmi. Nástroj je populárny medzi ľuďmi, ktorí chcú rýchlo overiť nápad a ktorým pomáha vidieť celý tok na jednej obrazovke.
Čo je Flowise a čo ponúka
Flowise stojí na rovnakých princípoch ako programátorské knižnice na stavbu aplikácií s modelmi, ale zabalené do grafického rozhrania. Jednotlivé bloky predstavujú napríklad jazykový model, šablónu zadania, načítanie dokumentu, pamäť konverzácie, vyhľadávanie vo vlastných dátach alebo externý nástroj. Z týchto blokov poskladáte tok a vyskúšate ho priamo v zabudovanom okne rozhovoru.
Nástroj sa dá prevádzkovať na vlastnom serveri alebo na vlastnom počítači, čo je lákavé pre tých, ktorí chcú mať kontrolu nad dátami. Existuje aj hostovaná verzia od tvorcov projektu. Rozsah ponuky a podmienky si overte na oficiálnom webe.
Komu je určený? Vývojárom, ktorí chcú ušetriť čas pri prototypovaní, technicky zdatným marketérom a podnikateľom, ktorí sa nebojú nainštalovať program, a tímom, ktoré potrebujú ukázať kolegom, ako riešenie funguje. Úplne bez technických znalostí sa prevádzka na vlastnom serveri riešiť nedá, ale samotné skladanie tokov je výrazne prístupnejšie než čisté programovanie.
Ako vyzerá práca v prostredí
Pracovný postup má tri časti. Na plátne vytvoríte tok, teda sieť prepojených blokov. V testovacom okne si tok hneď vyskúšate: napíšete otázku a uvidíte odpoveď. Hotový tok potom publikujete, čo zvyčajne znamená, že dostanete rozhranie, cez ktoré ho môže volať iná aplikácia, alebo okno rozhovoru, ktoré vložíte na webovú stránku.
Pri práci s vlastnými dokumentmi tok vyzerá približne takto: blok na načítanie súborov, blok na rozdelenie textu, blok na uloženie do vyhľadávacej databázy, blok vyhľadávania a nakoniec model, ktorý z nájdených úryvkov zostaví odpoveď. Presné názvy blokov sa v jednotlivých verziách líšia, takže sa riaďte tým, čo vidíte v ponuke.
Na čo sa Flowise hodí
- Chatbot nad vlastnými dokumentmi: nahráte príručky alebo často kladené otázky a tok z nich odpovedá.
- Pomocník pre zákaznícku podporu: odpovedá na bežné otázky a zložitejšie prípady odovzdá človeku.
- Agent s nástrojmi: model, ktorý podľa potreby vyhľadáva informácie alebo volá externé služby.
- Interný asistent tímu: prístupný cez jednoduché rozhranie, ktoré si firma prevádzkuje u seba.
- Rýchle prototypy: za popoludnie ukážete vedeniu, ako by mohol vyzerať asistent pre konkrétny proces.
- Učenie sa: vizuálne vidíte, ako sa z viacerých krokov skladá aplikácia s modelom.
Ako začať krok za krokom
- Rozhodnite sa, či chcete nástroj spustiť na vlastnom počítači, na serveri, alebo vyskúšať hostovanú verziu. Pre prvé pokusy stačí počítač.
- Postupujte podľa oficiálneho návodu na inštaláciu a spustite aplikáciu v prehliadači.
- Zadajte prístupový kľúč poskytovateľa jazykového modelu v nastaveniach prepojení.
- Vytvorte nový tok a začnite najjednoduchšou kombináciou: model a šablóna zadania.
- Otestujte tok v okne rozhovoru a upravujte zadanie, kým odpovede zodpovedajú vašej predstave.
- Pridajte načítanie dokumentov a vyhľadávanie, ak chcete odpovede z vlastných dát.
- Publikujte tok, vložte okno rozhovoru do testovacej stránky a pozvite pár kolegov na vyskúšanie.
Tipy pre kvalitnejší výsledok
Pomenúvajte bloky a toky zrozumiteľne. Keď bude mať projekt desať tokov a každý sa volá Nový tok, stratíte sa. Pridajte k nim krátke poznámky o účele.
Najviac sa oplatí pracovať na zadaní pre model. Jasne napíšte, kto asistent je, čo smie a nesmie robiť, v akom jazyku a štýle odpovedá a čo má urobiť, keď odpoveď nepozná. Pri vlastných dokumentoch požadujte odpovede iba z dodaných úryvkov.
Skúšajte reálne otázky od skutočných používateľov, nie len tie, ktoré ste vymysleli sami. Zaznamenávajte nevydarené odpovede a podľa nich upravujte tok. Ak nástroj prevádzkujete u seba, nezabudnite na zálohovanie a pravidelné aktualizácie.
Obmedzenia a riziká
Vizuálne skladanie je pohodlné, ale pri zložitých tokoch sa plátno rýchlo stáva neprehľadným. Pre veľké projekty môže byť údržba náročná, najmä keď je väčší počet ľudí. Funkcie závisia od dostupných blokov, takže niečo špecifické možno budete musieť doprogramovať.
Pri prevádzke na vlastnom serveri zodpovedáte za bezpečnosť. Nenechajte nástroj voľne dostupný z internetu bez zabezpečeného prístupu a chráňte prístupové kľúče. Ak chatbot vystavíte verejnosti, môže ho niekto zneužiť na vysoké náklady za volania modelu alebo na pokusy obísť jeho pokyny.
Odpovede sú také presné, ako model a dáta, z ktorých vychádzajú. Môžu byť nepresné alebo vymyslené, preto pri dôležitých témach nasadzujte kontrolu človekom. Súkromie dát závisí od zvolených služieb: texty posielané poskytovateľovi modelu opúšťajú vaše prostredie, pokiaľ nepoužívate lokálny model. Pri cudzích dokumentoch myslite aj na autorské práva.
Pre koho nie je vhodný
Flowise nie je pre ľudí, ktorí nechcú nič inštalovať ani konfigurovať a očakávajú hotovú službu. Pre zložité podnikové procesy s rozsiahlymi požiadavkami na oprávnenia a audit môže byť vhodnejšia špecializovaná platforma. A ak ste skúsený programátor, ktorý potrebuje maximálnu kontrolu, môže vám priamočiarejšie vyhovovať programovanie v kóde.
Alternatívy z nášho katalógu
Veľmi podobný princíp vizuálneho skladania ponúka Langflow, ktorý je postavený na LangChaine. Širšiu platformu s dôrazom na tvorbu a správu aplikácií s modelmi predstavuje Dify. Ak sa chcete radšej učiť programátorsky, pozrite sa na LangChain alebo LlamaIndex.
Príklad: asistent pre najčastejšie otázky e-shopu
Predstavte si malý e-shop, ktorý dostáva stále tie isté otázky o doprave, vrátení tovaru a reklamáciách. Majiteľ nahrá do Flowise dokument s pravidlami a odpoveďami, vytvorí tok s načítaním súboru, vyhľadávaním a modelom a v zadaní asistentovi určí, že má odpovedať zdvorilo po slovensky a nikdy nesľubovať niečo, čo v dokumentoch nie je. Keď si nie je istý, má zákazníka odkázať na e-mail podpory.
Po otestovaní na dvadsiatich reálnych otázkach majiteľ zistí, že asistent miešal dve podobné pravidlá, a upraví dokument tak, aby boli jasne oddelené. Potom chatbot vloží na web. Nahradí časť opakujúcich sa otázok, no komplikované prípady zostávajú človeku. Je to realistický obraz toho, čo nástroj dokáže: zmenšiť rutinu, nie vytvoriť dokonalú podporu.
Prevádzka a údržba
Aplikácia, ktorú raz nasadíte, vyžaduje starostlivosť. Pravidelne kontrolujte, či odpovede stále zodpovedajú aktuálnym pravidlám firmy, aktualizujte dokumenty a sledujte spotrebu volaní modelu. Pri vlastnej inštalácii pravidelne zálohujte toky a aktualizujte samotný nástroj, aby ste mali opravy chýb a bezpečnostné záplaty. Pred väčšou aktualizáciou si vyskúšajte, či vaše toky fungujú aj naďalej, pretože nové verzie môžu zmeniť správanie niektorých blokov.
Časté otázky
Je Flowise zadarmo?
Projekt je open source a môžete ho prevádzkovať sami. Platíte najmä za služby, ktoré v tokoch používate, napríklad za modely. Pri hostovanej verzii a platených plánoch si aktuálne podmienky overte na oficiálnom webe.
Musím vedieť programovať?
Na skladanie jednoduchých tokov nie, ale inštalácia a prevádzka vyžadujú určitú technickú zdatnosť. Pri zložitejších prípadoch sa vám znalosť programovania zíde.
Dá sa chatbot vložiť na web?
Áno, nástroj ponúka spôsoby, ako tok sprístupniť ako okno rozhovoru alebo cez rozhranie pre iné aplikácie. Konkrétny postup nájdete v dokumentácii.
Môžem ho použiť s vlastnými dokumentmi?
Áno, je to jedno z najčastejších využití. Dokumenty sa načítajú, rozdelia a uložia do vyhľadávacej databázy, z ktorej tok čerpá pri odpovedi. Kvalita výsledku závisí od kvality dokumentov.