Вопрос: какой из этих материалов, при таком раскладе, обладает большей плотностью?
Ответ: такой расклад не даёт никакой нужной информации, а вот об агрегатном состоянии железа и степени смятости ваты не сказано, так что ничего нельзя определить.
Подскажите пожалуйста, что является гравитационной константой для определения масс, звезд, планет, атомов?
Уточните вопрос. Гравитационная константа — это не какое-то определённое понятие, чтобы можно было ответить на него в текущем виде. Есть вот, если что, универсальная гравитационная постоянная

, и она всего одна.