Specificare evento e orologio prima di fidarsi di una decisione
Un pianificatore di gioco può valutare male una ricompensa, un assistente vocale può completare un’attività ormai superata e un monitor video può inviare un avviso nel momento sbagliato. Anche un benchmark sulle conference call può iniziare a misurare un ritorno prima che sia disponibile l’input a cui si riferisce. In tutti questi casi, il risultato dipende da dove si colloca il confine dell’evento.
Gli studi rendono visibili questi confini tramite la sostituzione delle transizioni, i controlli sulla versione delle attività, le regole per gli avvisi e gli orari dichiarati per i prezzi. Le loro prove rispondono a domande diverse con protocolli diversi.
Prima di interpretare un risultato, è utile identificare l’evento, lo stato pertinente e l’orologio adottato.
Cosa comprenderai
In che modo sostituire alcune transizioni può rivelare dove si sbaglia il ritorno immaginato?
Quale stato e confine dell’evento dovrebbe controllare un assistente in tempo reale prima di agire o inviare un avviso?
Che cosa consente di concludere l’orologio di un benchmark sul suo esito riguardo alla previsione?
Individuare la transizione decisiva
Un agente che gioca può simulare diverse sequenze di azioni e sceglierne una in base ai ritorni previsti. Supponiamo che una simulazione sembri plausibile fotogramma per fotogramma, ma non rilevi la ricompensa associata a un contatto breve.
Il pianificatore può quindi classificare la sequenza usando un ritorno errato, anche se la maggior parte delle immagini sembra corretta. È il problema sollevato dallo studio sui modelli del mondo: la sola somiglianza visiva non dice al lettore in quale punto un futuro immaginato diventa fuorviante per la decisione.
Il momento rilevante è una transizione tra due fotogrammi consecutivi, perché è lì che si può ottenere una ricompensa o terminare un episodio. Un errore in quel punto può cambiare il valore assegnato a una sequenza altrimenti convincente.
Una grande differenza visiva in un altro punto, invece, potrebbe incidere poco sul ritorno. Per indagare l’errore del pianificatore, serve un modo per chiedersi quali momenti lo determinano, usando le stesse azioni per il futuro immaginato e per quello reale.
Questa domanda suggerisce anche un’abitudine di lettura più generale: individuare il confine dell’evento prima di interpretare una decisione che dipende da esso. Nel caso del pianificatore, il confine è il passo in cui l’ambiente assegna una ricompensa o termina l’episodio.
Una diagnosi che considera ogni fotogramma altrettanto rilevante potrebbe rispondere a una domanda diversa da quella che il pianificatore deve affrontare. Lo studio chiede quindi in quale punto della simulazione si verifica l’errore che cambia la scelta del pianificatore.
Come prosegue la lezione
Verificare la richiesta ancora attiva
Definire quando un avviso corrisponde a un evento
Dichiarare l’orologio dell’esito