Вопрос -- обязана ли быть эта точка внутри маленького квадрата в случае если маленький квадрат оказался целиком внутри большого.
Да, это хороший вопрос, но
ИСН уже написал ответ. Принцип сжимающих отображений отвечает, что точка внутри и одна.
Ну и второй вопрос, можно ли циркулем и линейкой найти эту точку если мы точно знаем что обе фигуры - квадраты и у нас уже построены по крайней мере четыре пары точек (вершины) которые переходят друг в друга?
Тут сразу можно сказать, что для построения должно быть достаточно всего двух пар точек — упорядоченная пара точек, если зафиксировать ориентацию плоскости, задаёт ортогональный базис.
Кстати, я тут ерунду написал, а вы не заметили:
преобразования аффинной евклидовой плоскости
Забыл про гомотетии.