Dify je platforma na tvorbu a prevádzku aplikácií s jazykovými modelmi, ktorá spája všetko potrebné na jednom mieste: prepojenie na modely, správu znalostí z vlastných dokumentov, vizuálne skladanie pracovných tokov, nasadenie aplikácie a sledovanie jej fungovania. Je dostupná ako open source projekt a ako hostovaná služba, preto si môžete vybrať medzi vlastnou prevádzkou a pohodlím cloudu.
Čo Dify ponúka a komu je určené
Kým programátorské knižnice dávajú stavebné bloky a vy si musíte vybudovať zvyšok, Dify sa snaží byť kompletným prostredím. Obsahuje rozhranie na vytváranie asistentov, správu zbierok dokumentov, editor tokov a nástroje na zverejnenie aplikácie, či už ako webové okno rozhovoru alebo cez rozhranie pre iné systémy.
Je určené tímom, ktoré chcú rýchlo stavať a prevádzkovať aplikácie s modelmi, ale nechcú budovať celú infraštruktúru od nuly. Využijú ho startupy, interné vývojárske oddelenia, produktoví manažéri spolupracujúci s technikmi a technicky zdatní podnikatelia. Netechnický človek zvládne jednoduchší chatbot, ale pri hlbšom nastavovaní sa zíde technická podpora.
Hlavné časti platformy
Aplikácie a asistenti
Môžete vytvoriť chatovacieho asistenta, ktorý odpovedá na základe vášho zadania, alebo aplikáciu, ktorá robí jednu konkrétnu úlohu, napríklad generuje texty z formulára. Pre zadanie sa nastavujú pokyny, premenné a správanie modelu.
Znalosti z vlastných dokumentov
Dokumenty môžete nahrať do zbierky, platforma ich spracuje a sprístupní asistentovi. Ten potom odpovedá aj na základe vašich materiálov. Podporované formáty a spôsoby spracovania sa menia, takže ich overte v dokumentácii.
Pracovné toky
Vizuálny editor umožňuje poskladať viackrokový proces s vetvením, podmienkami a volaním modelov či nástrojov. Vhodný je pre úlohy, kde chcete mať presnú kontrolu nad tým, čo sa deje v ktorom kroku.
Nasadenie a sledovanie
Hotovú aplikáciu zverejníte a platforma poskytuje prehľad rozhovorov a spôsob, ako zachytiť problémy a vylepšovať zadania. Pre prevádzku je to dôležité, lebo bez spätnej väzby neviete, ako si asistent vedie.
Scenáre z praxe
- Zákaznícka podpora: asistent odpovedajúci z príručiek a často kladených otázok, s odovzdaním zložitých prípadov človeku.
- Interná znalostná báza: zamestnanci sa pýtajú na pravidlá a postupy a dostanú odpoveď z firemných dokumentov.
- Generátor textov podľa formulára: marketér vyplní pár polí a dostane návrhy textov v dohodnutom štýle.
- Spracovanie e-mailov: tok, ktorý správu roztriedi, vytiahne z nej údaje a pripraví návrh odpovede.
- Pomocník pre predaj: príprava zhrnutí o klientoch alebo podkladov na stretnutie.
- Prototypovanie: rýchle overenie myšlienky na malej vzorke používateľov predtým, ako sa rozhodnete investovať do vlastného vývoja.
Ako začať krok za krokom
- Rozhodnite sa medzi hostovanou verziou a vlastnou inštaláciou. Na vyskúšanie je jednoduchšia hostovaná verzia, ak vám to vyhovuje z hľadiska súkromia.
- Vytvorte si účet alebo nainštalujte platformu podľa oficiálneho návodu.
- V nastaveniach prepojte poskytovateľa jazykového modelu pomocou prístupového kľúča.
- Vytvorte prvú aplikáciu, najlepšie jednoduchého chatovacieho asistenta, a napíšte mu jasné pokyny.
- Nahrajte pár dokumentov do zbierky znalostí a prepojte ju s asistentom.
- Otestujte aplikáciu na reálnych otázkach a upravujte pokyny podľa výsledkov.
- Zverejnite aplikáciu pre pár ľudí a zbierajte ich pripomienky skôr, než ju sprístupníte širšie.
Tipy pre lepšie výsledky
Začnite jednou, jasne ohraničenou úlohou. Asistent, ktorý má robiť všetko, zvyčajne nerobí nič poriadne. Dobre definovaný cieľ, napríklad odpovedať na otázky o reklamáciách, prináša lepšie výsledky.
Pri znalostiach z dokumentov venujte pozornosť ich kvalite. Zastarané, duplicitné alebo protichodné materiály vedú k zmätočným odpovediam. Raz za čas ich prejdite a vyraďte to, čo už neplatí.
Využívajte možnosti sledovania. Prečítajte si skutočné rozhovory a hľadajte miesta, kde asistent zlyhal, a podľa nich upravujte pokyny alebo dokumenty. Tak sa aplikácia zlepšuje postupne. Ak ide o verejnú aplikáciu, myslite na obmedzenia proti zneužitiu a na kontrolu nákladov.
Obmedzenia a riziká
Platforma nezaručuje pravdivosť odpovedí. Model môže odpovedať nepresne alebo si vymýšľať, aj keď má k dispozícii vaše dokumenty. Pri citlivých témach, ako sú právne, zdravotné alebo finančné rady, ponechajte kontrolu človeku a jasne používateľov informujte, že komunikujú s AI.
Pri hostovanej verzii dáta prechádzajú cez službu tretej strany a následne k poskytovateľovi modelu. Pred nahraním osobných údajov alebo dôverných dokumentov si prečítajte podmienky spracovania a zvážte vlastnú inštaláciu. V Európskej únii platia pravidlá ochrany osobných údajov, ktoré treba dodržať. Pri dokumentoch tretích strán myslite aj na autorské práva.
Rozsiahlejší systém znamená aj viac vecí na učenie. Pri vlastnej prevádzke zodpovedáte za bezpečnosť, aktualizácie a zálohy.
Čo zvážiť pred výberom
Dify je výhodný, ak chcete komplexnejšie prostredie na prevádzku viacerých aplikácií. Ak potrebujete len jednoduchý chatbot na webe alebo prepojenie dvoch aplikácií, môže byť zbytočne rozsiahly. Ak je pre vás prioritou maximálna kontrola nad kódom, zvážte priame programovanie. Pri závislosti na hostovanej verzii si ujasnite, čo sa stane s vašimi dátami a aplikáciami, ak sa zmenia podmienky služby.
Alternatívy z nášho katalógu
Podobný prístup s vizuálnym skladaním ponúkajú Flowise a Langflow, ktoré sú viac zamerané na samotné skladanie tokov. Ak chcete skôr programátorské riešenie, pozrite sa na LangChain. Pre bežnú automatizáciu medzi aplikáciami bez dôrazu na vlastné modely môže stačiť Make alebo Zapier.
Príklad: generátor podkladov pre obchodníkov
Firma, ktorá predáva služby, chce, aby obchodníci pred stretnutím rýchlo dostali stručný prehľad o klientovi. V Dify vytvorí pracovný tok. Prvý krok prijme názov firmy a poznámky z minulých stretnutí. Druhý krok požiada model, aby z poznámok vybral hlavné potreby klienta. Tretí vytvorí návrh troch otázok na stretnutie. Výsledok sa zobrazí v jednoduchom formulári, ktorý obchodník otvorí v prehliadači.
Dôležité je, že každý krok má jasne určený vstup aj výstup. Keď niečo nefunguje, viete presne, kde hľadať chybu. Zároveň platí, že obchodník výstup berie ako podklad, nie ako hotovú pravdu, a v prípade pochybností sa vráti k pôvodným poznámkam.
Tím a spolupráca
Pri väčších projektoch sa na platforme stretáva viac rolí. Technik rieši prepojenia a nastavenia, kolega z biznisu píše a vylepšuje pokyny a ďalší prispieva dokumentmi. Dohodnite si preto pravidlá: kto môže meniť produkčné aplikácie, kto schvaľuje nové dokumenty a ako sa zaznamenávajú zmeny. Bez takýchto pravidiel sa ľahko stane, že niekto upraví pokyn a nechtiac pokazí fungujúcu aplikáciu. Pred zverejnením každej väčšej zmeny ju otestujte na vzorke typických otázok.
Časté otázky
Je Dify open source?
Áno, projekt je dostupný ako open source, aj keď podmienky licencie si vždy overte priamo v projekte. K dispozícii je tiež hostovaná služba, ktorej plány a cenu nájdete na oficiálnom webe.
Dokážem v Dify urobiť chatbota nad vlastnými dokumentmi?
Áno, je to jedno z hlavných využití. Nahráte dokumenty do zbierky znalostí, prepojíte ju s asistentom a ten z nich odpovedá. Kvalitu je potrebné testovať na reálnych otázkach.
Potrebujem vedieť programovať?
Na základné veci nie, rozhranie je vizuálne. Pri vlastnej inštalácii, prepojení na iné systémy a ladení zložitejších tokov sa technické znalosti zídu.
Môžem ho použiť s rôznymi modelmi?
Platforma sa snaží podporovať viacerých poskytovateľov, takže model môžete meniť. Aktuálny zoznam podporovaných prepojení nájdete v dokumentácii.