шариков два и масса у них общая

.
Импульс — векторная величина.
сами шарики, возможно начнут вращаться, тогда, наверно, будет сохраняться момент импульса
Именно.
Надо начать с правильной записи всех трёх законов сохранения в системе ЦМ (закон сохранения импульса — только для контроля, что Вы всё правильно понимаете, на этом его роль и закончится).
да, тут вы правы, туплю дико, сто лет такого не решала)
в таком случае, ЗСИ:

, где

скорость шара, которому придали скорость,

- скорость изначально покоящегося, горизонтальные составляющие будут равны по модулю, но противоположны по направлению и в сумме дадут ноль, а вертикальные в сумме дают начальную

, проекции будут меняться, т.к. система вращается, но общий импульс и момент импульса сохранятся.
Закон сохранения момента импульса:

т.е.

вот тут я путаюсь относительно какой оси его надо считать, хочется постоянно относительно середины пружины, но как-то странно это для начального момента, потому что пружина сама начинает двигаться относительно еще покоящегося шарика
в закон сохранения энергии тогда надо еще добавить энергию вращательного движения и получится:

где

т.к.

в ответе тогда

что похоже, но где-то я вру опять.