2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки




Начать новую тему Ответить на тему На страницу 1, 2  След.
 
 Хочу сохранить часть ЛС. Как?
Сообщение29.09.2022, 17:37 
Заслуженный участник


09/05/13
8904
∞⠀⠀⠀⠀
Понятно, как это делать постранично. Но если страниц очень много? Кто-то умеет?

Подскажите, пожалуйста.

 Профиль  
                  
 
 Re: Хочу сохранить часть ЛС. Как?
Сообщение29.09.2022, 18:01 
Заслуженный участник
Аватара пользователя


20/08/14
8601
Интересно, а сколько может весить весь контент из открытых разделов форума? Можно ли его на всякий случай сохранить на диске? Жаль, я за последние пять лет почти разучился программировать, да и парсить HTML никогда толком не умел .

А то как-то тревожно стало в тени огромного слона, раздутого из двух юзерпиков.

 Профиль  
                  
 
 Re: Хочу сохранить часть ЛС. Как?
Сообщение29.09.2022, 18:21 
Заслуженный участник
Аватара пользователя


11/12/05
10078
Anton_Peplov в сообщении #1565702 писал(а):
Можно ли его на всякий случай сохранить на диске?
https://www.httrack.com/

-- Чт сен 29, 2022 09:54:44 --

Otta в сообщении #1565697 писал(а):
Понятно, как это делать постранично. Но если страниц очень много?
Возможно, утилита httrack сможет и такое, если скормить ей URL-адрес ЛС. Но проверить это у меня сейчас нет возможности.

Правда, eсли сработает, то, конечно, oна сдампит все сообщения.

 Профиль  
                  
 
 Re: Хочу сохранить часть ЛС. Как?
Сообщение29.09.2022, 21:55 
Заслуженный участник
Аватара пользователя


16/07/14
9202
Цюрих
Если под рукой есть linux-терминал, хром и базовые умения работать в консоли, то хром умеет легко выдавать curl команду для скачивания страницы с посылкой куков. А номер страницы при скачивании сообщения задается просто CGI-параметром.
Я в принципе могу написать скрипт на питоне (это легко), но куки доставать всё равно придется. Средствами форума, насколько я понял из кода phpbb, скачать всё за один прием не получится, число сообщений прописано где-то в конфигурации.

 Профиль  
                  
 
 Re: Хочу сохранить часть ЛС. Как?
Сообщение29.09.2022, 21:58 
Заслуженный участник


09/05/13
8904
∞⠀⠀⠀⠀
mihaild
Винда (

Да, мысль про питон была, но до такой степени я его не знаю. Буду очень благодарна, если получится.

 Профиль  
                  
 
 Re: Хочу сохранить часть ЛС. Как?
Сообщение29.09.2022, 22:21 
Заслуженный участник
Аватара пользователя


16/07/14
9202
Цюрих
Держите: https://github.com/mihaild/dxdy/blob/ma ... load_pm.py
При запуске первым аргументом передавать строку с куками. Или просто в 4ю строчку вместо sys.argv[1] вписать.

 Профиль  
                  
 
 Re: Хочу сохранить часть ЛС. Как?
Сообщение29.09.2022, 22:22 
Заслуженный участник


09/05/13
8904
∞⠀⠀⠀⠀
Пошла забирать. Спасибо.

 Профиль  
                  
 
 Re: Хочу сохранить часть ЛС. Как?
Сообщение30.09.2022, 12:05 
Заслуженный участник
Аватара пользователя


20/08/14
8601
Dan B-Yallay
Спасибо, сделал копию всех открытых разделов dxdy на локальном диске с помощью httrack. Очень удобно: просто запускаешь и ждешь, программа всё делает сама.
Качалось 17 часов, не потому что 1,5 Гб, а потому что 38000 файлов.

Правда, поиск по сайту ожидаемо ведет на здешний поиск. Так что если мне, не дай Б-г, понадобится эта локально сохраненная копия, нужно будет подумать, как организовать поиск нужных сообщений и тем. Штатный поиск винды вещь убогая.

Очень надеюсь, что форум будет жить и здравствовать, и всё это не понадобится.

 Профиль  
                  
 
 Re: Хочу сохранить часть ЛС. Как?
Сообщение30.09.2022, 12:19 
Аватара пользователя


11/06/12
10390
стихия.вздох.мюсли
Anton_Peplov в сообщении #1565806 писал(а):
Штатный поиск винды вещь убогая.
Хотя бы поиск, предлагаемый файловыми менеджерами, такими, как Total Commander.
Anton_Peplov в сообщении #1565806 писал(а):
1,5 Гб
Всего-то. Тоже захотел себе весь форум.
А картинки с внешних ресурсов, размещённые в постах, эта утилита подхватила? И, наверное, разместила по папкам, соответствующим адресу оригинального их нахождения?

 Профиль  
                  
 
 Re: Хочу сохранить часть ЛС. Как?
Сообщение30.09.2022, 12:45 
Заслуженный участник
Аватара пользователя


20/08/14
8601
Так, похоже, у меня скачался все-таки не весь форум. Главным образом пострадал "Свободный полет", там целых подфорумов нет. Ссылки на топики есть, а когда переходишь - файл не найден. В процессе закачки система сообщала о каких-то ошибках, видимо, это они и есть. С тематическими разделами вроде все нормально, все, что открывал, открывается.

На досуге попробую скачать еще раз, может быть, лучше получится. Сейчас уже не могу поставить комп работать еще на сутки.

 Профиль  
                  
 
 Re: Хочу сохранить часть ЛС. Как?
Сообщение30.09.2022, 13:47 


01/03/13
2614
Anton_Peplov в сообщении #1565815 писал(а):
На досуге попробую скачать еще раз, может быть, лучше получится. Сейчас уже не могу поставить комп работать еще на сутки.

Вы решили разорить владельцев сайта? :lol:
Там же лимиты есть на исходящий трафик.

 Профиль  
                  
 
 Re: Хочу сохранить часть ЛС. Как?
Сообщение30.09.2022, 17:07 
Заслуженный участник
Аватара пользователя


11/12/05
10078
Anton_Peplov в сообщении #1565815 писал(а):
В процессе закачки система сообщала о каких-то ошибках, видимо, это они и есть.

Вероятно в момент(ы) обращения утилиты к форуму, темы в данных подфорумах обновлялись или что-то еще в таком духе. Я не знаю, существуют ли у httrack какие-то дополнительные аргументы, чтобы запретить ему подниматься в родительскую директорию. Надо посмотреть документацию. Если найду, то сообщу здесь и тогда можно будет задать httrack-y лишь адрес Свободного полёта.

 Профиль  
                  
 
 Re: Хочу сохранить часть ЛС. Как?
Сообщение08.10.2022, 23:51 


03/06/12
2874
Otta в сообщении #1565697 писал(а):
Понятно, как это делать постранично.

Otta
вы же здесь имели в виду скрины. Или все же html?

 Профиль  
                  
 
 Re: Хочу сохранить часть ЛС. Как?
Сообщение09.10.2022, 07:01 
Аватара пользователя


30/04/19
235
Для скачивания сайтов целиком есть утилита wget. Вероятно можно скачивать и отдельные разделы, нужно в опциях посмотреть.

 Профиль  
                  
 
 Re: Хочу сохранить часть ЛС. Как?
Сообщение09.10.2022, 15:40 
Аватара пользователя


11/06/12
10390
стихия.вздох.мюсли
Sinoid в сообщении #1566288 писал(а):
вы же здесь имели в виду скрины. Или все же html?
Нет, не скрины. Впрочем, и не ХТМЛ. Движок позволяет сохранить личные сообщения в формате CSV или XML. Посмотрите внизу страницы со списком ЛС. Но сохраняется лишь часть списка, открытая на текущей странице, а это 50 сообщений. Т. о., сохранять можно по полсотне за раз. У меня, напр., 29 таких страниц (откуда что взялось?!), у ТС, полагаю, побольше...

Изображение

 Профиль  
                  
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ Сообщений: 19 ]  На страницу 1, 2  След.

Модератор: Модераторы



Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group