Versione forte della disuguaglianza di Jensen. Entropia relativa (divergenza di Kullback-Leibler). Spiegazione euristica dell'entropia relativa come spreco medio di bit per cifra usando un codice sbagliato. Mutua informazione (informazione comune) e sue proprietà.
Nessun commento:
Posta un commento