У меня получается такое уравнение:
Простите, там с каждой стороны не сила и не давление, а непонятно что. И потом, ругал вас не я. Не путайте собеседников.
Я с Вами спорить не буду, я такой подробности не знал, но догадывался.
Значит, будете знать, это лучше, чем догадываться.
Жидкости при смешивании будут стремиться занять одинаковый объём
Никакого смешивания нет. Есть объём, занятый одной жидкостью, и объём, занятый другой жидкостью. Между ними можно проложить непроницаемую плёнку, например, полиэтиленовую. (Масло и вода - классическая пара несмешивающихся жидкостей, поэтому на них и дают задачи. Со спиртом и водой, например, не получилось бы.)
но если одна из них отличается агрегатным состоянием, то тут уже учитываетсчя площадь соприкасающихся поверхностей на границе двух сред и тут уже другая картина получается, тело может быть полностью погружено в жидкость, а может торчать из неё наполовину или частично.
Вот можете считать, что столб масла "наполовину торчит" из воды. На это и дана задача - чтобы научиться такое понимать и правильно описывать формулами.