Кто использовал суперкомпьютеры?

[mrgloom_]

еще есть http://www.picloud.com

мне интересно какие есть простые решения для соединения обычных компьютеров разной конфигурации в один вычислительный кластер? через что они должны быть соеденены? как это называется облачные вычисления, гетерогенные системы?
на эту тему есть SETI@home, использующий BOINC software platform, но как то это всё сложно.

[maxal]

mrgloom_ в сообщении #775887 писал(а):

мне интересно какие есть простые решения для соединения обычных компьютеров разной конфигурации в один вычислительный кластер?

Beowulf - cм. http://parallel.ru/computers/reviews/beowulf.html

[mrgloom_]

Так там специальное железо должно быть или нет? простейший пример как например объединить 2 домашних компьютера?

[maxal]

mrgloom_ в сообщении #776808 писал(а):

Так там специальное железо должно быть или нет? простейший пример как например объединить 2 домашних компьютера?

Вот конкретный пример построения такого кластера под операционной системой DOS:
http://dosbeowulf.tripod.com/
Утверждается, что цена вопроса $10.

[Freude]

Igor_Dmitriev в сообщении #764597 писал(а):

И если да -- то для получения ускорения надо распараллеливать прогу?

Сейчас существует программное обеспечение, которое позволяет избежать распараллеливания "вручную", т.е. создавая дочерние процессы и потоки внутри программы. Это программное обеспечение делает работу вместо программиста и пользователю не надо глубоко копать в процессы и потоки. К такому программному обеспечению относится протокол MPI и его реализации mpich, openmpi и прочие. Кроме есть удобная штука OpenMP. Эти продукты выпускаются под разными лицензиями, о них полно информации в интернете и их можно опробовать даже на персональном компьютере с несколькими ядрами.

[bin]

MPI и т.д. - очень полезные библиотеки, но, сколько знаю, нет пока такого продукта, чтобы из однопоточной программы делал многопоточную не вручную. Т.к. в общем виде на высоком уровне нужна замена алгоритма на многопоточный, что требует методов AI, то это слишком сложно для сегодняшнего дня, но можно надеяться, что вскоре появится что-то на низком уровне типа раскрытия цикла при умножении матриц, замены инструкций CPU и т.д.

[Chifu]

Кластерные системы строятся как на обычных компьютерах (они дёшевы), так на специализированных блейд-серверах (с продуманным охлаждением). Автоматическое распарралеливание есть, но для лучшей работы программы надо явно указывать что нужно параллелить и возникают разные коллизии, которые надо обрабатывать, да и конвейер иногда приходится вручную загружать (и железо не всегда одинаково), т.е. существуют некоторые трудности и процессы, человеку которые нелегко представить. Реальный выигрыш всегда меньше, чем суммарная пиковая производительность кластерной системы.

[bin]

Chifu в сообщении #781898 писал(а):

Автоматическое распарралеливание есть

Пожалуйста, назовите такие инструменты! Как они работают? Поясню вопрос на конкретном примере: один из туров конкурса Интела по многопоточным приложениям был такой. Дано: исходный код программы (однопоточной) на С клеточного автомата Жизнь, требовалось сделать из него многопоточное приложение, побеждал тот, чья программа (при прочих равных) работала быстрее. Срок решения был 1 месяц, но первые участники, приславшие решение, премировались доп. очками. Все мы путались почти месяц, решая вручную, а как было бы хорошо, имея автоматический инструмент, сделать задание за минуту и получить приз Сейчас такое возможно? Как? Хочу попробовать с тем заданием из чистого интереса, т.е. есть некий конвертор исходного кода, на выходе получаю быстрый параллельный код, компилирую его обычным образом и радуюсь А оптимальное количество потоков такой инструмент зашьет в exe? Нпр., если тестовый комп. i7 c четырьмя ядрами, то 8 потоков, а если с меньшим или большим количеством ядер, то потоков будет меньше/больше?

-- Ср окт 30, 2013 03:21:47 --

Посмотрел в сетке (вики):

Цитата:

Продукт Intel Parallel Advisor — это вспомогательный инструмент для распараллеливания приложений, предназначенный для разработчиков на языках C, C++, C# и Fortran. Это средство обнаруживает области кода с наибольшим потенциалом для реализации параллельных вычислений и выявляет основные проблемы синхронизации.

Цитата:

Модуль Intel Parallel Amplifier — это мощное средство для оптимизации производительности и профилировки параллельных приложений. [...] Получение подробных данных производительности горячих участков кода, потоков, блокировок синхронизации и задержек, DirectX вызовов, пропускной способности.

Цитата:

Продукт Intel Parallel Inspector — простой в использовании инструмент для обнаружения ошибок памяти и потоков в последовательных и параллельных приложениях на платформах Windows и Linux.

Это полезно, но это не то - это вручную!

[Chifu]

Параллелить последовательный алгоритм это одно, а писать параллельный алгоритм это другое, компиляторы уже имеют возможность компилировать код для параллельного исполнения, т.е. и сами параллелят и могут обрабатывать параллельный язык. Естественно параллельные алгоритмы на параллельных машинах работают лучше, чем последовательные алгоритмы. Оптимальное количество потоков зависит от задачи, а параллельный код может работать на разном количестве процессоров (тут надо понимать, что и архитектура соединения процессоров может быть различной).

[dmd]

mrgloom_ в сообщении #775887 писал(а):

мне интересно какие есть простые решения для соединения обычных компьютеров разной конфигурации в один вычислительный кластер?

Довольно просто собрать примитивный вычислительный кластер на основе OpenMosix, который, к сожалению, теперь не развивается. На подходящее Линукс-ядро накладывается патч OpenMosix, затем ядро собирается и запускается на всех доступных компах в локалке. (Лучше всего конечно через PXE boot это делать. Но у меня так не получилось, когда я это пробовал несколько лет назад, т.к. вроде не все сетевухи это поддерживали. Поэтому просто сделал загрузочную дискету с патченным ядром, физически подошел к каждому компу и загрузился с дискеты. Тогда еще на всех компах были флоппи-дисководы.) Затем для проверки работоспособности кластера нужно соорудить пакетный файл с достаточно длинным циклом для консольного калькулятора bc, который есть в любом линуксе. Затем запустить этот пакетный файл и в другой консоли в специальной утилите мониторинга наблюдать, как процессы начинают мигрировать по узлам кластера.

[dmd]

Плюс в том, что ни какого низкоуровневого программирования (в отличии от MPI) не требуется. Параллелиться будет практически всё, что использует fork() для SMP (поправьте меня уважаемые знатоки Линукса, если ошибаюсь), т.е. любая стандартная линукс-программа, для которой весь кластер выглядит как единый комп с множеством ядер. Причём с текучим количеством ядер - ноды могут прозрачно подключаться к кластеру и отключаться не нарушая его работоспособности и корректности вычислений. Опять таки в отличии от MPI, где достаточно одному узлу случайно выпасть из кластера по любой причине - и всё, начинай расчет сначала.

[Treek]

(Оффтоп)

У меня вопрос.. у меня на компе Windows 7 максимальная, нужно ли постоянно ее обновлять через интернет или можно отключить эти автоматические обновления..? И зачем они вообще нужны

[Toucan]

Treek, замечание за оффтопик.

[Freude]

Цитата:

Это полезно, но это не то - это вручную!

Что значит "вручную"? Конечно, даже при использовании MPI, нужно поковырять код, добавив макросы и, по мере необходимости, подправив циклы, например. Правда современное программное обеспечение (для квантовой химии например) уже содержит всю эту кухню и только ждет, когда мы подключим нужную реализацию MPI. Я имел в виду "не вручную", т.е. не нужно самому создавать потоки, следить за синхронизацией, убивать уже отработанные.

[arbitrageur]

Есть еще Xeon PHI. Это что-то типа большого количества компов соединенных в сеть, работает по протоколу MPI, но мощность не такая большая в сравнении с видеокартами, но программируется как пишут быстро т.к. протокол давно известный и распостарненный MPI. Мощность Xeon PHI 1 Тфлоп, Б/у 1000 Евро цена http://www.ebay.com/itm/Intel-Xeon-Phi- ... 233650a0f2 а на авито.ру видеокарты на ATI с той-же мощностью 2000 руб. Мощности видеокарт АТИ можно посмотреть там - http://radeon.ru/reference/cardtable/