Проблема в том, что я не могу понять, как нужно направить силы трения.
Силы трения всегда направлены так, чтобы препятствовать возникновению движения. Кроме того, они направлены по касательным к трущимся поверхностям.
Если у вас на картинке нарисован левый шар, то сила реакции опоры
мне кажется лишней: я так понимаю, что цилиндры точно помещаются между стенками, так с чего бы им давить друг на друга? Кроме того, если это левый шар и он покоится, то сила трения очевидно направлена против силы тяжести. Чтобы цилиндры покоились, сумма всех сил трения действующих на цилиндры, очевидно, должна быть равна ровно сумме весов цилиндров.
Если верхний цилиндр убрать, то трения скольжения между двумя нижними цилиндрами вроде не должно быть, т.к. поскольку они одинаковые, то просто будут катиться друг по дружке.