Dokumentace Rivya AI

Fronta generování a čekací doby

Pochopte fronty generování v Rivya, čekací doby, dlouho běžící obrázkové, video a audio úlohy, oznámení, historii a bezpečná opětovná spuštění.

Tento průvodce použijte, když obrázková, video nebo audio úloha v Rivya zůstává ve zpracování déle, než jste čekali.

Video, audio, obrázková práce s mnoha referencemi, fronty poskytovatelů i náročnější nastavení generování mohou způsobit, že úloha bude pomalejší než běžná interakce se stránkou. Samotné čekání neznamená selhání.

Co znamená fronta

Fronta znamená, že úloha ještě neskončila.

Může se to stát proto, že:

  • poskytovatel zpracovává požadavek
  • pracovní postup je z podstaty delší
  • vstup obsahuje soubory nebo reference
  • nastavení výstupu je náročnější
  • dočasná poptávka je vysoká
  • Rivya čeká na callback nebo aktualizaci stavu

Úloha ve frontě se má sledovat přes stav úlohy, oznámení a historii, ne okamžitě spouštět znovu.

Čekání není totéž co selhání

Úloha může být:

  • odeslaná
  • ve zpracování
  • čekající na výsledek od poskytovatele
  • dokončená
  • selhaná

Nepovažujte každou dlouho běžící úlohu za selhanou. Před opětovným spuštěním zkontrolujte stav.

Chování při selhání popisuje Selhané úlohy a vracení kreditů.

Kde zkontrolovat postup

Použijte tato místa:

Oznámení pomáhají, protože asynchronní generování by nemělo záviset na jediném toastovém oznámení, které zmizí.

Co dělat během čekání

Když se úloha zpracovává, můžete:

  • připravit další variantu promptu
  • projít předchozí historii
  • naplánovat, jak výstup použijete
  • neodesílat duplicitní úlohy příliš rychle
  • přepnout na jinou úlohu, pokud je ta aktuální asynchronní

Pokud je úloha důležitá, počkejte na finální stav, než začnete předpokládat, že výsledek je ztracený.

Kdy spustit znovu

Spusťte úlohu znovu, když jasně selhala, vstup byl špatný nebo výstup není užitečný.

Před opětovným spuštěním rozhodněte, co se změnilo:

  • jednodušší prompt
  • méně referencí
  • jiný model
  • jiná délka nebo kvalita
  • opravené nahrání
  • jasnější záměr úlohy

Opětovné spuštění stejného požadavku bez jakékoli změny může zopakovat stejný problém.

Kontrolní seznam návaznosti úlohy

Když má úloha zůstat dohledatelná i po odeslání, zkontrolujte:

  • Zjistěte, zda úloha čeká, běží, je dokončená, selhala nebo je připravená na navazující krok.
  • Používejte History pro užitečné výstupy a Notifications pro změny asynchronního stavu.
  • Při řešení problémů držte UUID úlohy, model, prompt a kontext výstupu pohromadě.
  • Nespouštějte stejnou práci znovu, dokud není aktuální stav jasný.
  • Než se přesunete do jiného pracovního postupu, uložte nebo stáhněte nejužitečnější výsledek.

Cílem je neztratit práci, když generování trvá déle nebo potřebuje navazující krok.

Kdy znovu zkontrolovat stav

Znovu zkontrolujte stav, když úloha trvá déle, než se čekalo, chybí oznámení, výsledek vypadá neúplně nebo uživatel nemůže najít předchozí výstup.

V těchto případech zkontrolujte stav úlohy a History dřív, než uživatele požádáte o opakované generování.

Související stránky

Obsah