пытался решить эту задачу применив к обоим случаям законы сохранения и импульса и энергии, получается слишком много уравнений с огромным количеством неизвестных- массы шариков и скорости и как от них избавляться непонятно...
по физическому смыслу задачи Вам уже подсказали.
Чтобы прийти к ответу, ВНЕЗАПНО, надо попытаться его таки получить.
А для этого нужно составить и решить систему уравнений.
Количество неизвестных там не такое уж огромное, в общем виде для одномерного случая:
2 шт - массы шариков
2 шт - скорости шариков до пережигания нити (до взаимодействия)
2 шт - скорости шариков после взаимодействия
1 шт - энергия в пружине
---
Итого: 7 шт.
Можно решить и в таком виде, не Бог-весть что.
А можно использовать "искусство переобозначений" - переобозначая новыми буквами некие агрегаты, которые в процессе вычислений не меняются. Это снижает время решения и вероятность технических ошибок.