Скажите тогда, какой учебник можно почитать по этим вопросам?
Тут вопрос на логику, никакие знания и учебники не нужны.
Ну вот, выше Вы написали доказательство, что из симметричности и транзитивности следует рефлексивность.
Это доказательство неверное, потому что, как минимум, пустое отношение является контрпримером.
Ну вот проследите своё доказательство от начала до конца, имея в виду, что

в нём - это пустое отношение. И скажите, какой шаг в этом доказательстве неверен и почему. Когда контрпример известен (пустое отношение), это просто сделать.
А потом уже можно будет поискать другие контрпримеры (непустые отношения, тоже симметричные и транзитивные, но не рефлексивные).
Дальше, возражение к Вашему доказательству уже было. Вы пишете утверждение

и делаете из него какие-то дальнейшие выводы. В итоге получаете

. Цепочка рассуждений тут верная. Но откуда взялось самое первое утверждение в этой цепочке? Что такое

, Вы не определили. Что такое

? Любой элемент из множества, на котором задано отношение? (Обозначим его

.) Любой элемент из множества

, состоящий в отношении с элементом

? Что-то ещё? Чтобы использовать

, Вы его вначале должны определить, и показать, что такие

вообще существуют.
----------
Ещё важный момент. Просто "

", если выше не было явно указано, что такое

- это не утверждение, а непонятно что. Доказательство рефлексивности (
если бы оно было возможно) можно было бы строить так.
Пусть

- симметричное и транзитивное отношение. Пусть

- произвольный элемент множества

. <... рассуждения ...> Значит,

. Тем самым, мы доказали, что для любого

верно

. Это и означает рефлексивность отношения

. Значит, симметричные и транзитивные отношения обязательно рефлексивны.
Или так: Пусть

- симметричное и транзитивное, но нерефлексивное отношение. Раз оно нерефлексивно, то существует

такой, что

неверно. <... рассуждения ...> Приходим к противоречию. Значит, симметричные и транзитивные отношения обязательно рефлексивны.
То есть нужно указывать, что такое

, как-то его вводить.
(Вообще, не помешало бы научиться все утверждения записывать с кванторами, но хотя бы так вот словами.)
То есть план такой: вначале приводите своё доказательство в нормальный вид (чтобы в нём не было взявшихся ниоткуда

и

), затем ищете в нём ошибку, пользуясь известным контрпримером (пустое отношение), указываете какой конкретно шаг ошибочный, а там наверное и станет понятно, какие ещё есть контрпримеры.
----------
Наконец. Уже было сказано, что искомый контрпример (непустого отношения, симметричного и транзитивного, но не рефлексивного) можно найти не очень сложным перебором всевозможных отношений на множестве из трёх элементов

. Так тоже можно попробовать.