![]() |
Цитата:
|
Цитата:
|
Цитата:
|
Цитата:
|
Цитата:
Баг этот я знаю как обойти, собственно, именно это и послано Пластуну. |
Цитата:
|
Да, пожалуй, ты прав.
Выходит, придется писать парсер HTML->vB. Ладно, думаю, это не так уж сложно. Кстати, та же проблема возникает при разборке треда. Как нетрудно посчитать, при просмотре всего форума по тредам придется сделать 105000/30=3500 заходов. Частично проблему можно решить, выставив perpage в querystring побольше. |
Цитата:
Сейчас сделал парсер главной страницы форума. Генерится список урлов, чтобы заходить в треды и скачивать их по 100 штук на странице. У меня получилось на сегодня 648 заходов только чтоб скачать сами треды. Сделал парсер страниц с тредами. Вытянул id треда, автора, первую дату, последнюю дату, урл аттача. Ничего не забыл? Теперь делаю парсер страницы профайла. Вы, ребята, говорите, много заходов получается? Что, не писать пока? |
Да, я забыл, что дальше. Дальше будем скачивать страницы профайлов, парсить их. Это нетрудно.
А вот насчет заходов в EDIT, не знаю. Во-первых паролей всёрно нет, а во-вторых, много заходов будет. И дело даже не в аттачах, а в общем количестве постов. Ладно HTML -> vB я завтра напишу. |
Ну, если за 648 не забанили - пока нормально. Профайлы погоды не сделают. <img src="images/smilies/smile.gif" border="0" alt="">
Скинешь мне парсер - проверю, сравнив с реальными vB-кодами своих постов, да и просто погляжу, ок? |
Цитата:
Насчет разбития на страницы, то это можно убрать поставив perpage равный где-то 20000... Кстати, Пластун, я бы сделал немного по другому. По моему, лучше написать программку, которая будет у тебя запрашивать URL ветви, во-первых, возможно не все ветви нужно будет качать (я бы лично не все качал бы, но дай мне волю и из всего этого форума только 10-15 ветвей переедет:-))))) А во-вторых, тогда каждую ветвь можно будет качать отдельно, т.е. для выдирания ветви нужно будет сделать всего 1+(кол-во новых пользователей)+кол-во аттачментов заходов, а это уже не так много... Могут даже и не заметить... Ну а URL ветвей можно и ручками скачать... |
Качать надо все, включая аттачи - такова воля Mrs.Underhill.
URLы тредов ручками качать облом, их у нас 573, к тому же, как я понял, Пластун уже записал их все в базу. |
Цитата:
Вася, а обход бага веселый. Сам придумал, или вычитал где? А кроме того, я пару раз сталкивался с такой проблемой... XMLHTTP, похоже, не работает по стандартному HTTP протоколу, потому что у меня было несколько раз такое, что он страницу не до конца закачивал... |
Нашел в Нете, на одном немецком сайте. У них тоже со всякими умляутами проблемы.
А недокачивает он до конца именно в этом случае. А именно, в responseText пишутся вопросы вместо кириллицы, при этом еще поблизости отъедаются куски с нормальной латиницей. С обходным манёвром, тьфу-тьфу, вроде все докачивается до конца. |
Цитата:
|
Я качаю FlashGet-ом. Ссылки в базу закачал, но их все равно надо будет заново закачивать.
Парсеры вышлю завтра. Или сегодня поздно ночью. |
Что-то я не найду, как приаттачить файл к ПМ. Может пришлете мне мыло на <a href="mailto:plastun@ledzeppelin.ru">plastun@ledzeppelin.ru</a>. Хочу дать вам черновой вариант двух парсеров.
|
Цитата:
|
Цитата:
<HR> О! Заработало, только, почему то только с файлами меньше 50Кб. Работает отлично! Только хорошо бы еще вытаскивать сам текст сообщения, хотя бы в HTMLе пока. Честно признаюсь, я такие парсеры, такими темпами писать не умею!:-)) Не люблю я в VB работать со строками, мало там функций для меня, да и неудобные они. |
Цитата:
ЗЫ. Спасибо за бета-тестирование. Очень помогаешь. Кстати, это не скрипт. Это Delphi. |
Цитата:
Я могу положить скрипт на какой-нибудь бесплатный сервер, но они обычно ограничены по месту на диске и все посты туда не влезут. Собственно, я и не хотел заполучить пароль Лэймара, он мог бы на тот случай поменять его, дать мне, а после этого поменять обратно. Ладно, я буду думать, как закачать на бесплатный сервер в несколько приемов. |
Цитата:
|
Тест
А редактировать их можно?
ЗЫ. А почему собственно нет? |
| Текущее время: 04:35. Часовой пояс GMT +4. |
Powered by vBulletin® Version 3.6.4
Copyright ©2000 - 2026, vBulletin Solutions, Inc. Перевод: zCarot