2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки




На страницу 1, 2  След.
 
 Хочу сохранить часть ЛС. Как?
Сообщение29.09.2022, 17:37 
Понятно, как это делать постранично. Но если страниц очень много? Кто-то умеет?

Подскажите, пожалуйста.

 
 
 
 Re: Хочу сохранить часть ЛС. Как?
Сообщение29.09.2022, 18:01 
Аватара пользователя
Интересно, а сколько может весить весь контент из открытых разделов форума? Можно ли его на всякий случай сохранить на диске? Жаль, я за последние пять лет почти разучился программировать, да и парсить HTML никогда толком не умел .

А то как-то тревожно стало в тени огромного слона, раздутого из двух юзерпиков.

 
 
 
 Re: Хочу сохранить часть ЛС. Как?
Сообщение29.09.2022, 18:21 
Аватара пользователя
Anton_Peplov в сообщении #1565702 писал(а):
Можно ли его на всякий случай сохранить на диске?
https://www.httrack.com/

-- Чт сен 29, 2022 09:54:44 --

Otta в сообщении #1565697 писал(а):
Понятно, как это делать постранично. Но если страниц очень много?
Возможно, утилита httrack сможет и такое, если скормить ей URL-адрес ЛС. Но проверить это у меня сейчас нет возможности.

Правда, eсли сработает, то, конечно, oна сдампит все сообщения.

 
 
 
 Re: Хочу сохранить часть ЛС. Как?
Сообщение29.09.2022, 21:55 
Аватара пользователя
Если под рукой есть linux-терминал, хром и базовые умения работать в консоли, то хром умеет легко выдавать curl команду для скачивания страницы с посылкой куков. А номер страницы при скачивании сообщения задается просто CGI-параметром.
Я в принципе могу написать скрипт на питоне (это легко), но куки доставать всё равно придется. Средствами форума, насколько я понял из кода phpbb, скачать всё за один прием не получится, число сообщений прописано где-то в конфигурации.

 
 
 
 Re: Хочу сохранить часть ЛС. Как?
Сообщение29.09.2022, 21:58 
mihaild
Винда (

Да, мысль про питон была, но до такой степени я его не знаю. Буду очень благодарна, если получится.

 
 
 
 Re: Хочу сохранить часть ЛС. Как?
Сообщение29.09.2022, 22:21 
Аватара пользователя
Держите: https://github.com/mihaild/dxdy/blob/ma ... load_pm.py
При запуске первым аргументом передавать строку с куками. Или просто в 4ю строчку вместо sys.argv[1] вписать.

 
 
 
 Re: Хочу сохранить часть ЛС. Как?
Сообщение29.09.2022, 22:22 
Пошла забирать. Спасибо.

 
 
 
 Re: Хочу сохранить часть ЛС. Как?
Сообщение30.09.2022, 12:05 
Аватара пользователя
Dan B-Yallay
Спасибо, сделал копию всех открытых разделов dxdy на локальном диске с помощью httrack. Очень удобно: просто запускаешь и ждешь, программа всё делает сама.
Качалось 17 часов, не потому что 1,5 Гб, а потому что 38000 файлов.

Правда, поиск по сайту ожидаемо ведет на здешний поиск. Так что если мне, не дай Б-г, понадобится эта локально сохраненная копия, нужно будет подумать, как организовать поиск нужных сообщений и тем. Штатный поиск винды вещь убогая.

Очень надеюсь, что форум будет жить и здравствовать, и всё это не понадобится.

 
 
 
 Re: Хочу сохранить часть ЛС. Как?
Сообщение30.09.2022, 12:19 
Аватара пользователя
Anton_Peplov в сообщении #1565806 писал(а):
Штатный поиск винды вещь убогая.
Хотя бы поиск, предлагаемый файловыми менеджерами, такими, как Total Commander.
Anton_Peplov в сообщении #1565806 писал(а):
1,5 Гб
Всего-то. Тоже захотел себе весь форум.
А картинки с внешних ресурсов, размещённые в постах, эта утилита подхватила? И, наверное, разместила по папкам, соответствующим адресу оригинального их нахождения?

 
 
 
 Re: Хочу сохранить часть ЛС. Как?
Сообщение30.09.2022, 12:45 
Аватара пользователя
Так, похоже, у меня скачался все-таки не весь форум. Главным образом пострадал "Свободный полет", там целых подфорумов нет. Ссылки на топики есть, а когда переходишь - файл не найден. В процессе закачки система сообщала о каких-то ошибках, видимо, это они и есть. С тематическими разделами вроде все нормально, все, что открывал, открывается.

На досуге попробую скачать еще раз, может быть, лучше получится. Сейчас уже не могу поставить комп работать еще на сутки.

 
 
 
 Re: Хочу сохранить часть ЛС. Как?
Сообщение30.09.2022, 13:47 
Anton_Peplov в сообщении #1565815 писал(а):
На досуге попробую скачать еще раз, может быть, лучше получится. Сейчас уже не могу поставить комп работать еще на сутки.

Вы решили разорить владельцев сайта? :lol:
Там же лимиты есть на исходящий трафик.

 
 
 
 Re: Хочу сохранить часть ЛС. Как?
Сообщение30.09.2022, 17:07 
Аватара пользователя
Anton_Peplov в сообщении #1565815 писал(а):
В процессе закачки система сообщала о каких-то ошибках, видимо, это они и есть.

Вероятно в момент(ы) обращения утилиты к форуму, темы в данных подфорумах обновлялись или что-то еще в таком духе. Я не знаю, существуют ли у httrack какие-то дополнительные аргументы, чтобы запретить ему подниматься в родительскую директорию. Надо посмотреть документацию. Если найду, то сообщу здесь и тогда можно будет задать httrack-y лишь адрес Свободного полёта.

 
 
 
 Re: Хочу сохранить часть ЛС. Как?
Сообщение08.10.2022, 23:51 
Otta в сообщении #1565697 писал(а):
Понятно, как это делать постранично.

Otta
вы же здесь имели в виду скрины. Или все же html?

 
 
 
 Re: Хочу сохранить часть ЛС. Как?
Сообщение09.10.2022, 07:01 
Аватара пользователя
Для скачивания сайтов целиком есть утилита wget. Вероятно можно скачивать и отдельные разделы, нужно в опциях посмотреть.

 
 
 
 Re: Хочу сохранить часть ЛС. Как?
Сообщение09.10.2022, 15:40 
Аватара пользователя
Sinoid в сообщении #1566288 писал(а):
вы же здесь имели в виду скрины. Или все же html?
Нет, не скрины. Впрочем, и не ХТМЛ. Движок позволяет сохранить личные сообщения в формате CSV или XML. Посмотрите внизу страницы со списком ЛС. Но сохраняется лишь часть списка, открытая на текущей странице, а это 50 сообщений. Т. о., сохранять можно по полсотне за раз. У меня, напр., 29 таких страниц (откуда что взялось?!), у ТС, полагаю, побольше...

Изображение

 
 
 [ Сообщений: 19 ]  На страницу 1, 2  След.


Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group