CrewAI je framework na orchestráciu tímov AI agentov. Myšlienka je prirovnaná k malej firme: namiesto jedného všeobecného asistenta vytvoríte niekoľko agentov, z ktorých každý má svoju rolu, ciele a nástroje, a necháte ich spolupracovať na spoločnej úlohe. Jeden môže zbierať informácie, druhý ich analyzovať a tretí napísať výstup.
Čo je CrewAI a pre koho je
CrewAI je určené vývojárom, ktorí chcú automatizovať viackrokové úlohy, pri ktorých sa oplatí rozdeliť prácu medzi viac špecializovaných pomocníkov. Je to open source projekt a okolo neho existujú aj komerčné ponuky od jeho tvorcov, ktorých aktuálny rozsah treba overiť na oficiálnom webe.
Nástroj osloví vývojárov experimentujúcich s agentmi, malé tímy, ktoré chcú prototypovať automatizované procesy, a technicky zdatných podnikateľov. Nie je to nástroj pre úplných začiatočníkov, pretože agentov definujete cez kód a konfiguráciu.
Ako funguje tímová spolupráca agentov
Základné pojmy sú v CrewAI pomerne intuitívne.
- Agent má rolu, cieľ a stručný popis pozadia, ktoré usmerňujú jeho správanie. Napríklad výskumník, redaktor alebo kontrolór faktov.
- Úloha je konkrétne zadanie s popisom očakávaného výstupu, ktoré sa priradí určitému agentovi.
- Tím alebo crew je skupina agentov s úlohami, ktorá sa spustí ako celok.
- Nástroje sú schopnosti, ktoré agent môže použiť, napríklad vyhľadávanie na webe, čítanie súborov alebo volanie rozhraní.
Úlohy sa dajú vykonávať postupne, kde výstup jedného agenta slúži ako vstup druhému, alebo s nadriadeným agentom, ktorý prácu rozdeľuje. Presné režimy a názvy nastavení sa môžu meniť, preto sa riaďte aktuálnou dokumentáciou.
Za každým agentom stojí jazykový model. Framework teda nenahrádza model, ale organizuje, ako sa viackrát volá s rôznymi zadaniami a ako si jednotlivé volania odovzdávajú výsledky.
Praktické scenáre
- Príprava rešerše: jeden agent zbiera zdroje k téme, druhý z nich vyberie dôležité body a tretí napíše stručný prehľad.
- Obsahový proces: návrh osnovy, písanie konceptu a následná redakčná kontrola ako samostatné roly.
- Analýza konkurencie: agent prejde verejné informácie o firmách a iný ich zhrnie do porovnávacej tabuľky.
- Triedenie požiadaviek: jeden agent kategorizuje prichádzajúce správy, ďalší pripraví návrh odpovede na schválenie.
- Spracovanie dát: agent načíta súbor, iný vykoná jednoduchú analýzu a tretí napíše komentár k zisteniam.
- Interné prototypy: rýchle overenie, či sa nejaký pracovný postup dá aspoň sčasti prenechať automatizácii.
Ako začať krok za krokom
- Premyslite si úlohu na papieri. Rozdeľte ju na fázy a rozhodnite, ktoré fázy potrebujú samostatnú rolu.
- Nainštalujte framework podľa oficiálnej dokumentácie v izolovanom prostredí projektu.
- Nastavte prístup k jazykovému modelu cez kľúč uložený v premennej prostredia.
- Definujte dvoch agentov. Dve roly sú dobrý začiatok, nie päť.
- Pre každého napíšte stručný, konkrétny cieľ a popis očakávaného výstupu úlohy.
- Spustite tím a pozorne si prečítajte priebeh, nielen záverečný výsledok.
- Upravte popisy rolí a úloh podľa toho, kde sa agenti odchyľujú od zámeru, a až potom pridajte nástroje alebo ďalšieho agenta.
Ako dosiahnuť stabilnejšie výsledky
Zadania musia byť konkrétne. Vágne roly, ako pomocník na všetko, vedú k vágnym výstupom. Presný popis očakávaného výstupu, napríklad päť odrážok s dátumom a zdrojom, funguje oveľa lepšie.
Menej je viac. Každý ďalší agent znamená viac volaní modelu, vyššie náklady, dlhší čas a viac príležitostí na chybu. Pridávajte ich len vtedy, keď sa kvalita merateľne zlepší.
Obmedzte nástroje. Agent, ktorý má prístup k desiatke nástrojov, sa v nich ľahko stratí. Dajte každému len to, čo potrebuje. Pri dôležitých krokoch zaraďte kontrolu človekom a výsledky si overujte najmä tam, kde agenti čerpajú z webu.
Obmedzenia a riziká
Viac agentov neznamená väčšiu pravdivosť. Agenti si môžu navzájom potvrdzovať chybné tvrdenia a výsledok pôsobí presvedčivo, hoci je nesprávny. Fakty vždy overte v pôvodných zdrojoch.
Správanie nie je úplne predvídateľné. Rovnaké zadanie môže priniesť rôzne výsledky a v dlhších reťazcoch sa chyby kumulujú. Pre kritické procesy preto potrebujete testovanie a poistky.
Pozor na súkromie. Dáta, ktoré agenti spracúvajú, putujú k poskytovateľovi modelu a prípadne aj k nástrojom, ktoré agent volá. Nevkladajte osobné údaje ani dôverné materiály bez toho, aby ste poznali podmienky spracovania. Ak agenti čerpajú z webu alebo generujú texty, myslite na autorské práva a nekopírujte cudzí obsah bez kontroly. Agenti s oprávnením konať, napríklad posielať správy, majú dostať iba minimum práv.
Pre koho nie je vhodný
CrewAI nie je pre ľudí bez programátorských skúseností. Nie je ani vhodný pre úlohy, ktoré zvládne jediné zadanie modelu, pretože zložitosť tímu by bola zbytočná. Ak vaša úloha je lineárna a pevne daná, bežná automatizácia bez agentov môže byť spoľahlivejšia a lacnejšia na prevádzku.
Zvážte aj náklady. Viac agentov znamená viac volaní modelu, a teda aj vyššiu spotrebu. Pred nasadením si spravte odhad na menšej vzorke.
Alternatívy z nášho katalógu
Podobný cieľ, teda spoluprácu viacerých agentov, rieši AutoGen od Microsoftu. Širší základ na stavbu aplikácií nad modelmi ponúka LangChain. Ak chcete agentov skladať bez písania kódu, pozrite sa na Lindy alebo Gumloop.
Príklad: tím na týždenný prehľad novinárskej témy
Aby bolo jasné, ako to vyzerá v praxi, predstavte si malú redakciu, ktorá chce každý týždeň dostať stručný prehľad k jednej téme. Vytvoríte tri roly. Výskumník dostane úlohu nájsť v dostupných zdrojoch hlavné udalosti a zapísať ich ako zoznam s popisom, odkiaľ informácia pochádza. Analytik dostane tento zoznam a má vybrať tri najdôležitejšie body a pri každom vysvetliť, prečo je podstatný. Redaktor z toho napíše krátky text v zrozumiteľnej slovenčine.
Dôležité je, čo príde potom. Hotový text nepublikujete automaticky. Prečíta si ho človek, skontroluje fakty podľa uvedených zdrojov a až potom ho použije. Takto framework šetrí čas na zbieraní a štruktúrovaní, ale zodpovednosť za obsah zostáva u vás. Rovnaký princíp platí pri akomkoľvek inom použití: tím agentov je dobrý pomocník na prípravu, nie náhrada úsudku.
Pri prvých pokusoch sa vám pravdepodobne stane, že výskumník nájde príliš veľa nepodstatných vecí alebo že redaktor pridá tvrdenia, ktoré v podkladoch neboli. Je to normálne. Riešením je upresniť zadania, napríklad požiadať, aby redaktor používal výlučne informácie z podkladov, a znížiť počet nástrojov, ktoré agenti majú k dispozícii.
Ako sledovať a vyhodnocovať prácu agentov
Pri tímoch agentov je ľahké stratiť prehľad. Preto sa oplatí od začiatku zapisovať, čo jednotliví agenti dostali na vstupe a čo vrátili. Pri hľadaní chyby tak vidíte, v ktorom kroku sa reťaz pokazila. Často sa ukáže, že problém nie je v modeli, ale v nejasnom zadaní alebo v nevhodnom zdroji dát.
Vyhodnocovanie nemusí byť zložité. Stačí si pripraviť päť až desať typických vstupov, spustiť ich a ručne posúdiť výsledky podľa jednoduchých kritérií: je výstup presný, úplný a v požadovanom tvare. Po každej väčšej úprave rolí alebo zadaní test zopakujte. Takto zistíte, či sa kvalita naozaj zlepšuje, alebo len máte dojem, že sa zlepšuje.
Časté otázky
Čím sa tím agentov líši od jedného chatbota?
Jeden chatbot odpovedá na jedno zadanie. Tím rozdelí prácu na kroky a roly, pričom každý agent má vlastné inštrukcie a nástroje. Výhodou je lepšia štruktúra, nevýhodou vyššia zložitosť a náklady.
Je CrewAI zadarmo?
Framework je open source, ale používanie modelov sa platí podľa poskytovateľa. Informácie o prípadných platených službách nájdete na oficiálnom webe.
Musím používať konkrétny model?
Framework je navrhnutý tak, aby fungoval s rôznymi poskytovateľmi modelov. Zoznam podporovaných možností si pozrite v dokumentácii.
Môžem tím nechať bežať bez dohľadu?
Pre dôležité procesy to neodporúčame. Agenti robia chyby, preto majú výstupy prechádzať kontrolou človeka, aspoň kým si neoveríte spoľahlivosť na väčšej vzorke.