Для ответа на данный вопрос используем концепцию количества информации согласно теории информации Шеннона. Количество информации сообщения зависит от вероятности события, связанного с этим сообщением. Чем более неожиданным является событие, тем больше информации оно несет.
В данном случае в ящике 20 шаров, из которых:
- 10 черных шаров,
- 5 белых шаров,
- 4 желтых шаров,
- 1 красный шар.
Вероятность того, что достали черный шар ):
Вероятность того, что достали белый шар ):
Количество информации, которое несет сообщение о событии, можно рассчитать по формуле Шеннона:
где ) — вероятность события .
Количество информации о том, что из ящика достали черный шар:
Количество информации о том, что из ящика достали белый шар:
Таким образом, сообщение о том, что из ящика достали черный шар, несет 1 бит информации, а сообщение о том, что достали белый шар — 2 бита информации.