Каждой длине волны соответствует тройка RGB(и не одна, потому что яркость можно менять)
Притом как минимум важно, какое из всевозможных пространств с названиями …RGB используется. Часто это sRGB, но не всегда. Плюс конкретный дисплей может быть неоткалиброван.
У меня есть фотография спектральных линий ртутной лампы. Нужно найти длину волны каждой линии.
Значит, вместо неизвестного преобразования экрана неизвестное преобразование фотоаппарата. Тут можно попытаться использовать одновременно и расстояния между линиями, и «цвета», но, во-первых, это будет в отсутствии иной информации лишь некая эвристика и, во-вторых, с весьма неудобными вычислениями, которые я даже не до конца сейчас представляю. Лучше попытайтесь получить другие исходные данные получше.
К тому же это ведь весьма известный спектр, так? Найдите длины волн по какому-нибудь справочнику. Чем это не устраивает?