Rizik od halucinacije
Rizik od halucinacija
Halucinacije predstavljaju rizik za pouzdanost i poverenje.
Smanjite rizik putem uzemljenja, skupova testova, rubrika i strogih kriterijuma prihvatanja za zadatke visokog rizika.
Pogledajte takođe
Uzemljenje i RAG Rubrike za evaluaciju Čovek u petljiČesta pitanja
Šta uzrokuje halucinacije?
Nedostatak uzemljenja, dvosmisleni zadaci, promene distribucije ili nedovoljna ograničenja/evaluacija.
Kako smanjujemo rizik?
Uzemljenje/RAG, stroge rubrike, pravila odbijanja i ljudska provera za zadatke visokog rizika.
Kako merimo stopu halucinacija?
Koristite označene skupove testova i bodovanje zasnovano na rubrikama za činjeničnu tačnost.
Kada je HITL potreban?
Za akcije visokog uticaja ili kada izlazi utiču na usklađenost, novac ili bezbednost.
Koje je prvo poboljšanje?
Dodajte uzemljenje za činjenične zadatke i procenite ih u odnosu na odabrani skup testova.