Все, вышеприведенные рассуждения, не приведут к поставленной цели.
К сожалению, всякие бесплатные "открытые" коды и программы, питоны и анаконды, R-ры не позволяют решать серьезные задачи. Проверял "на спор" и всегда выигрывал, давая порешать пару-тройку задачек, решенных профессиональными (но дорогими) программами.
"Написать простейшую нейросеть" это я не пробовал
Однако есть программы, где можно "рисовать" нейросети, даже и совсем не "простейшие", а затем их обучать.
Создавать свои архитектуры и структуры нейросетей вот это высший класс современных программных комплексов. И не только создавать, но и управлять процессом обучения - этакий тренажер для обучения с тренажером для обучающего.
При решении серьезной задачи обучения НС нет, к сожалению, однозначных рекомендаций или подходов, приходится пробовать разные архитектуры и структуры, чтобы добиться хорошего результата.
Тот, кто разработает такую теорию для однозначного выбора архитектуры и структуры НС, наверняка будет Нобелевским лауреатом