Hackcat

Kako utvrditi je li alat doista uspješno izvršen?

Istovremeno provjerite status izlaza, stvarni izlaz i generirane artefakte.

Nemojte se oslanjati samo na jedan sažetak uspjeha

Sažetak prirodnog jezika Agent mora odgovarati izlazu alata. Uspjeh pokretanja naredbe, uspjeh izlaska programa i postizanje cilja zadatka tri su različite razine: program može normalno završiti, ali još uvijek ne obraditi navedenu datoteku.

Prvo provjerite ciljno okruženje i unos, a zatim provjerite je li izlaz dovoljno podržava konačni zaključak.

Sudite prema vidljivim dokazima

Na primjer, u zadatku generiranja izvješća, provjerite postoji li datoteka i je li sadržaj potpun; za zadatak provjere programa, pogledajte stvarne rezultate i primjenjive uvjete, a ne samo jesu li prisutne crvene poruke o pogrešci.

Na primjer, ako izvješće kaže "provjera prošla", pitajte koje su datoteke obuhvaćene provjerom, koji su unosi korišteni i jesu li neki stavke preskočene. Ispravan status izlaza samo podržava sudjelovanje na razini izvršavanja; je li vaš cilj postignut još uvijek mora odgovarati kriterijima prihvaćanja dogovorenim na početku.

  1. Provjerite status izvršavanja naredbe i ključne izlaze.
  2. Potvrdite da su obrađene datoteke, verzije ili ciljevi kao što se očekivalo.
  3. Pregledajte generirane datoteke i potrebna polja.
  4. Jasno navedite sve nepokrivene zahtjeve opsega.

Kada je izlaz vrlo dug ili je sesija povijesti završila

Alat može zadržati ograničeni izlaz ili pružiti lokaciju za spremanje; nemojte pretpostavljati da pregled razgovora prikazuje cijeli zapisnik. Neka Agent izdvoji relevantne segmente i sačuva izvorne rezultate. "Pokrenuto" u zapisima povijesnog izvršavanja ne dokazuje nužno da je proces još uvijek u tijeku u ovom trenutku; kada nastavljate zadatak, prvo provjerite trenutni status i artefakte prije nego što odlučite o sljedećem koraku.