J

jeeper

+2
Репутация
0
Рейтинг
#1 Карта сайта instantcms 2.5 10 августа 2016 в 09:48


Оказывается не так просто создать "соточку" записей. За ночь смог только восемьдесят сделать.

Loadырь
Компонент "импорт из файла" работает медленно, но верно )) сотку нагонял примерно 15часов, с моим мертвым 3g
#2 Карта сайта instantcms 2.5 9 августа 2016 в 22:00


html страницу с ссылками на все страницы сайта

jeeper
Эту страницу роботы никогда не проиндексируют. Потому что не дождутся ее загрузки и уйдут индексировать другие сайты))

Дмитрий Кайдаш
то же верно ((
#3 Карта сайта instantcms 2.5 9 августа 2016 в 22:00


вот есть дополнение

jeeper
Там не карта сайта (sitemap), а дерево сайта (treemap).

Loadырь

это понятно, но ссылки вроде дает на все страницы? хотя бы по ссылкам боты пробежались, если прямой карты нет
#4 Карта сайта instantcms 2.5 9 августа 2016 в 21:55


потому что у нас есть столько контента

Дмитрий Кайдаш
Не переживайте, завтра у меня тоже будет "столько контента". А там и посмотрим, что к чему.

Loadырь

Loadырь, одна надежда на вас! если получится сделать дополнение, я первый клиент!
#5 Карта сайта instantcms 2.5 9 августа 2016 в 21:53


А такие планы были))) Есть база, там 2,5 млн. организаций. Думал ГС такой сделать. Но без карты сайта нет смысла, потому что никогда не проиндексируется...

Дмитрий Кайдаш

та же вафля!
вот есть дополнение instantcms.ru/addons/treesite.html генерирует html страницу с ссылками на все страницы сайта
как альтернатива для индексации, поможет ли или нет? и хватит ли ему (дополнению) памяти?
#6 Карта сайта instantcms 2.5 9 августа 2016 в 21:38


Проверяю тоже))

512 Мб.

Fatal error: Allowed memory size of 536870912 bytes exhausted (tried to allocate 79 bytes) in /home/web/sites/site.com/system/controllers/content/model.php on line 1809


Увеличил до 900 Мб — всё равно ошибка. Сейчас жду логи от хостера, интересно даже, сколько байт не хватило...

Дмитрий Кайдаш

да-а, подозрительно!
#7 Карта сайта instantcms 2.5 9 августа 2016 в 21:30


можно ли, в принципе, генерировать карту частями, а не сразу всю

jeeper
Можно конечно, но нужно переделывать алгоритм.

Fuze
в итоге можно написать такое дополнение?
нет смысла брать серьезный хостинг только для генерации карты, трафика огромного не ожидается, максимум 1000 уников в сутки и 2000-3000 просмотров.
#8 Карта сайта instantcms 2.5 9 августа 2016 в 21:00


jeeper, увеличьте, пожалуйста, еще память, чтобы подтвердить, что все равно не хватит popcorn

Дмитрий Кайдаш

хостер не дает играться. 256 и все тут!
#9 Карта сайта instantcms 2.5 9 августа 2016 в 20:59


Судя по ошибке, вам не хватило 85 байт до успеха. Рецепт собственно на данный момент только один — увеличивать memory_limit.

Fuze

если на 100 000 страниц не хватает 256мб, то на 500 000 не хватит и 1G для генерации?
крутой хостинг покупать придется, ради генерации карты ))

вопрос от ламера: можно ли, в принципе, генерировать карту частями, а не сразу всю? (разумеется не штатным генератором, а в виде специально написанного дополнения)
#10 Карта сайта instantcms 2.5 9 августа 2016 в 20:22


jeeper, текст ошибки был какой, когда включили показ ошибок?

Fuze

в режиме отладки небыло ошибок
ошибке были в логе
Allowed memory size of 268435456 bytes exhausted (tried to allocate 85 bytes)
#11 Карта сайта instantcms 2.5 9 августа 2016 в 19:48


сейчас 89,4мб и примерно 100 000 страниц

jeeper
Увеличьте memory_limit до 256Мб например. Текущее значение memory_limit какое?

Fuze

хостер не дает доступ к файлу, по умолчанию установлен лимит 256М
#12 Карта сайта instantcms 2.5 9 августа 2016 в 18:55


сколько нужно памяти чтобы обрабатывать 500к страниц?

jeeper
Какой размер таблицы с записями, посмотрите в phpmyadmin, какой размер БД в целом?

Fuze

сейчас 89,4мб и примерно 100 000 страниц
#13 Карта сайта instantcms 2.5 9 августа 2016 в 18:50
нашел ошибку рнр, не хватает памяти.
сколько нужно памяти чтобы обрабатывать 500к страниц?
#14 Карта сайта instantcms 2.5 9 августа 2016 в 17:51


Для начала нужно выяснить почему у вас белая страница. Об этом написано тут. Кроме того, задача для генерации карты сайта должна выполняться из под PHP CLI, т.е. задача для планировщика на сервере должна быть настроена корректно.

Fuze

Конечно же я включал режим отладки (не показывает ошибок) и логи не выдают ошибок (файл error.тхт отсутствует в корневой папке сайта, где он обычно появляется после ошибок на других сайтах на этом же хостинге) проблема возникает и при ручной генерации при нажатии "выполнить сейчас"
#15 Карта сайта instantcms 2.5 9 августа 2016 в 17:03


И зря, судя по тому, что уже есть на гите, будет хороший релиз, позволяющий неплохо оптимизировать сайт по скорости и памяти.

Loadырь

я сторонник не чесать там, где не чешется. )))


Это сколько контента надо иметь, чтобы воспроизвести вашу ошибку?

Loadырь

в районе 100 000 страниц и это не предел, всего будет под 500к страниц. Делаю белый дорвей.
Используя этот сайт, вы соглашаетесь с тем, что мы используем файлы cookie.