Binäärilukujonoja
Insinööriosastojen valintakoetehtävä vuodelta 1999
Datalähde tuottaa binäärilukujonoja,
joissa bitti 0 esiintyy todennäköisyydellä p ja bitti 1 todennäköisyydellä 1 - p. Millä
todennäköisyyden p arvoilla lähteen informaatiomäärä (entropia), joka määritellään
funktiona
E(p) = -plog2p - (1 - p)log2(1 - p) (0 < p < 1).
saavuttaa suurimman arvonsa? Mikä tämä suurin arvo on? (log2 tarkoittaa 2-kantaista
logaritmia)