Průvodce životním cyklem úloh v Rivya

Tento průvodce použijte, když potřebujete pochopit, co se stane po odeslání úlohy generování obrázku, videa nebo audia v Rivya.

Na jednom místě vysvětluje stavy úloh, rezervaci kreditů, dokončení u poskytovatele, historii, oznámení a práci se selhanými úlohami.

Skutečné stavy úloh

Aktuální životní cyklus asynchronního generování používá čtyři viditelné stavy:

• WAITING
• GENERATING
• SUCCESS
• FAILED

Tyto stavy jsou uložené na ai_task a znovu se používají napříč Studiem, historií, dashboardem a tokem oznámení.

Co se stane po odeslání

1. Rivya ověří požadavek

Než se cokoli dostane k poskytovateli, Rivya kontroluje:

• zda model existuje
• zda je pro tento model zapnuté přímé generování
• zda runtime běží na asynchronních úlohách
• zda je délka promptu platná
• zda jsou parametry formuláře normalizované
• zda referenční soubory odpovídají tomu, co model přijímá

Některé modely mají další pravidla. Například izolace audia vyžaduje uploadovaný audio soubor a ověření délky.

2. Rivya vytvoří záznam úlohy

Rivya nejdříve vytvoří položku ai_task se stavem WAITING.

Tento záznam ukládá model, kategorii, prompt, parametry, rezervované kredity, typ fakturace a později výsledek nebo stav selhání.

3. Kredity se spotřebují před odesláním poskytovateli

To je důležité: u asynchronního generování Rivya utratí kredity úlohy před odesláním práce upstream službě.

Pokud je kreditů příliš málo:

• úloha se označí jako selhaná
• upstream služba se nikdy nezavolá
• může vzniknout oznámení o nedostatku kreditů

4. Vytvoří se úloha u poskytovatele

Pokud jsou kredity k dispozici, Rivya odešle úlohu odpovídající upstream službě a uloží upstream ID úlohy.

V tu chvíli se stav přesune na GENERATING.

Jak Rivya zjistí výsledek

Rivya podporuje dvě cesty dokončení:

• callback poskytovatele v prostředích, kde jsou callbacky povolené
• obnovení stavu a polling, když dokončení callbackem není dostupné

Cesta callbacku před finalizací úlohy také ověřuje podpis webhooku.

Pokud callback dorazí dříve, než je výsledek u poskytovatele plně připravený, Rivya může zpracování odložit a zkusit to znovu kontrolou upstream stavu.

Úspěšná cesta

Při úspěchu Rivya:

• uloží URL výsledků
• nastaví stav na SUCCESS
• uzavře úlohu
• zpřístupní výstup v historii generování
• vytvoří oznámení o úspěšném generování

Proto hotový obrázek nebo video zůstane viditelné i poté, co opustíte stránku.

Cesta selhání

Při selhání Rivya:

• uloží chybovou zprávu
• nastaví stav na FAILED
• vrátí kredity, když selhání nastalo po rezervaci a má být zvráceno
• vytvoří oznámení o selhání generování pro trvalou kontrolu

To se liší od dočasného krátkého upozornění. Selhání se stane součástí záznamu účtu.

Kde stav úlohy uvidíte

Stejná úloha se může zobrazit na několika místech:

• v aktivním Studiu, dokud běží
• v Průvodce historií v Rivya, jakmile se uzavře
• v Průvodce Notifications Center v Rivya pro hlavní výsledky
• na /dashboard v posledních generováních

Tento sdílený stav je jeden z důvodů, proč produkt působí soudržně místo jednorázově.

Jak se liší Chat

Chat je také fakturovatelný, ale nepoužívá stejný záznam asynchronní úlohy. Chatové tahy se ukládají jako:

• chatové relace
• chatové zprávy

U chatových modelů účtovaných podle tokenů může Rivya nejdříve rezervovat kredity a potom po návratu použití uzavřít finální částku. Pokud je finální částka nižší, rozdíl se vrátí.

Široké pravidlo tedy zní:

• generování obrázků, videa a audia používá ai_task
• chat používá uložené relace a vypořádání na úrovni zpráv

Čtěte dále

• Obrazové pracovní postupy v Rivya
• Video pracovní postupy v Rivya
• Audio pracovní postupy v Rivya
• Kredity a fakturace
• Řešení potíží v Rivya
• Průvodce Notifications Center v Rivya
• Průvodce historií v Rivya

Kontrolní seznam stavu úlohy

Když je generování matoucí, pomalé, selhané nebo chybí, zkontrolujte:

• Nejprve určete typ úlohy: vypořádání chatu, obrázek, video, audio nebo chat podpořený nástrojem.
• Zkontrolujte, zda byly kredity rezervované před odesláním poskytovateli, nebo vypořádané po použití.
• Než začnete předpokládat, že je výsledek ztracený, hledejte callback poskytovatele, výsledek pollingu, položku historie a oznámení.
• Oddělte selhání, která může opravit uživatel, od selhání poskytovatele nebo infrastruktury.
• Před opětovným spuštěním stejného promptu potvrďte, zda má selhaná úloha vrátit kredity.

Znovu zkontrolujte před dalším spuštěním

Znovu kontrolujte, když stejný prompt opakovaně selhává, úloha zůstává příliš dlouho rozpracovaná, kredity vypadají spotřebované bez výstupu nebo se chystáte odeslat náročnější duplicitní běh.