Задали 3 задачи, на энтропию.
прогуглил
А конспекта нет?
Раз уж Вы "прогуглили", то формулу для энтропии Вы, наверное, уже нашли. Поэтому сначала покажите свои попытки решения, как по правилам положено, то есть тупо посчитайте энтропию по формуле. А потом мы можем попробовать разобраться, что это такое и зачем оно.