Loading…
Loading…
Sull’holdout non toccato di 281 record LitSynth ha fatto zero false esclusioni e ha protetto ogni record rilevante. Ma l’82,9% richiedeva ancora revisione manuale, superando il tetto preregistrato dell’80%. Il risultato dell’holdout è quindi un fallimento.
TOPIC / CD000996
TASK / Intervention
RECORDS / 281
PROTOCOL VERSION / 1
POLICY VERSION / title-abstract-v3
PREREG COMMIT / 8fd1e19
BLIND HASH / 282a24a4830f…
STATUS / FAIL — NO RETEST
Recall protetto
100.0%
9/9 record rilevanti protetti · PASS
False esclusioni
0
0.0% dei record rilevanti
Revisione manuale
82.9%
233/281 record · FAIL (limite ≤80%)
Esclusione automatica
15.7%
44/281 record consigliati per l’esclusione
Risultato complessivo
FAIL
entrambi i gate dovevano passare; nessun punteggio composito di accuratezza
01 / Bloccato prima del disvelamento
La sicurezza è passata. Il carico di lavoro no. Il gate sul carico è fallito di 2,9 punti percentuali. Dopo aver visto le etichette non abbiamo modificato la policy bloccata né rieseguito il corpus.
LOCK 01
CD000996: Inhaled corticosteroids for bronchiectasis. Il commit sorgente, l’hash del topic, l’hash della lista PMID e i 281 record sono pubblici.
LOCK 02
title-abstract-v3, deepseek-v4-flash, temperature 0.1, batch size 5. Modello, temperatura, dimensione del batch e hash del codice sono fissi.
LOCK 03
Tutte le 281 decisioni senza etichetta devono essere scritte e hashate prima di poter scaricare i qrels.
LOCK 04
False esclusioni e recall protetto sono pubblicati accanto al conteggio UNSURE e al tasso di revisione manuale. Una coda sicura ma inutilizzabile non supera.
02 / Ispezionare la traccia di audit
È stato valutato un solo holdout non toccato: un topic CLEF TAR, 281 record e 9 record gold-rilevanti, usando titoli e abstract. Il recall protetto conta i record rilevanti marcati INCLUDE o UNSURE; non significa che ogni record rilevante sia stato incluso correttamente.
La revisione manuale qui è UNSURE / tutti i record (233/281). È una misura di coda, non il tempo di revisore misurato. Anche le raccomandazioni INCLUDE ed EXCLUDE richiedono supervisione umana. L’esclusione automatica è il tasso di raccomandazione del modello, non il permesso di scartare senza revisione.
Le sue etichette hanno informato la revisione della policy, quindi resta solo come archivio di regressione dopo l’analisi degli errori. L’holdout non toccato è stato valutato una volta. Il gate sul carico fallito è pubblicato e il corpus non sarà riciclato come evidenza non toccata.
Apri l’archivio storico di sviluppo