шариков два и масса у них общая 

.
Импульс — векторная величина.
сами шарики, возможно начнут вращаться, тогда, наверно, будет сохраняться момент импульса
Именно.
Надо начать с правильной записи всех трёх законов сохранения в системе ЦМ (закон сохранения импульса — только для контроля, что Вы всё правильно понимаете, на этом его роль и закончится).
 да, тут вы правы, туплю дико, сто лет такого не решала) 
в таком случае, ЗСИ:

, где 

 скорость шара, которому придали скорость, 

 - скорость изначально покоящегося, горизонтальные составляющие будут равны по модулю, но противоположны по направлению и в сумме дадут ноль, а вертикальные в сумме дают начальную 

, проекции будут меняться, т.к. система вращается, но общий импульс и момент импульса сохранятся.
Закон сохранения момента импульса:

т.е. 

вот тут я путаюсь относительно какой оси его надо считать, хочется постоянно относительно середины пружины, но как-то странно это для начального момента, потому что пружина сама начинает двигаться относительно еще покоящегося шарика
в закон сохранения энергии тогда надо еще добавить энергию вращательного движения и получится:

где 

 т.к. 

в ответе тогда 

 что похоже, но где-то я вру опять.