Xenu как пользоваться программой. Программы Xenu’s Link Sleuth и Netpeak Spider. Проблема битых ссылок и причина их появления

XENU Link Sleuth 1.3.8 – скачать бесплатно программу для обнаружения «битых» ссылок на сайте. Программа предназначена в первую очередь для веб-разработчиков, которые создают и тестируют сайты, а также для SEO-специалистов.

При разработке сайтов, а затем при их продвижении нужно тестировать их на наличие так называемых «битых» ссылок, которые могут возникать на сайте со временем. В первую очередь наличие нерабочих ссылок плохо сказывается на впечатлении от сайта для пользователя, а во-вторых, сайты с неработоспособными ссылками ранжируются хуже, то есть располагаются в списке поиска ниже, чем сайты, в которых такие отсутствуют. Поэтому, чтобы проанализировать весь сайт требуется специальное программное обеспечение, так как вручную проделать такую работу не представляется возможным. XENU Link Sleuth именно для этого и предназначена.

Описание программы XENU Link Sleuth

Данное ПО имеет обычный интерфейс, который позволяет просто и надежно «общаться» с программой. Он не предназначен для того, чтобы нести какое-то визуальное удовлетворение от использования, но полностью справляется со своей задачей.

Для того, чтобы вам проверить «битые ссылки» на сайте необходимо перейти в пункт «Проверить URL» в верхнем меню программы XENU Link Sleuth. Затем, откроется модальное окно, в котором в поле «URL» нужно ввести соответствующую ссылку на сайт. Вводить ссылку нужно внимательно, без протокола доступа, то есть без «http://», а только адрес сайта. Здесь же, вам предоставляется возможность проверить не только внутренние, но и внешние ссылки. Для этого необходимо выставить флажок (галочку) в соответствующем поле.

Также, в данном окне присутствует кнопка с дополнительными опциями. Она позволяет вам настраивать процесс сканирования сайта. Например, вы можете установить количество одновременных потоков, которые будет проверять ссылки. Это позволяет увеличить производительность и скорость работы программы. Также, вы можете указать глубину уровней проверки ссылок, и так далее.

После всех настроек нажимаем «ОК» и ждем окончания сканирования. В результате вы получаете список всех ссылок сайта, где зеленым цветом отмечены работоспособные ссылки, а красным – нет. После этого, вам необходимо просмотреть и решить проблему уже вручную или с помощью своего веб-мастера.

Xenu – программа для анализа работы веб-сайта. Помогает обнаружить «битые ссылки», указывает на место их нахождения, приводит ряд рекомендаций по улучшению качества сайта. Используется профессиональными аналитиками, SEO-оптимизаторами для достижения более высокой позиции в поисковых выдачах. Работает как с текстом, так и с графическими объектами, фоновыми изображениями, таблицами, другими компонентами.

Продукт обладает простым интерфейсом, облегчающим ориентирование в программе. Пользователь вводит необходимый адрес, после чего приложение выдает лист ссылок с указанием их состояния. Позволяет компоновать данные в отчеты, создавать графики для более наглядного демонстрирования результатов. Есть возможность экспортировать их в Excel, открывать в браузере. Помогает запустить автоматическую проверку по прошествии определенного периода.

Скачать бесплатно полную русскую версию Xenu с официального сайта без регистрации и смс.

Системные требования

  • Поддерживаемые ОС: Windows XP, Vista, 7, 8.1, 10, 8
  • Разрядность: 32 bit, x86, 64 bit

Доброго времени суток! На прошлой неделе вернулась из деревни, где провела незабываемое время полного релакса! Погода выстояла отличная, дни напролет мы проводили в реках, озерах, лесах, полях. Свежий воздух и ни души вокруг - вот это настоящий отдых!

Продолжаем изучать тему оптимизации блога на WordPress. Ранее мы детально рассмотрели вопрос проверки сайта на и вручную и с помощью плагина. Сегодня мы подробно остановимся на 2х десктопных программах, выполняющих эти задачи автоматически, разберем их основные настройки и параметры технического аудита. Это - Xenu’s Link Sleuth и Netpeak Spider, бесплатные инструменты для seo-анализа блога.

Как пользоваться программой Xenu.

Работать с этой программой не сложно, а в результате получается подробный и обстоятельный отчет обо всех имеющихся на сайте ссылках. Помимо своего основного предназначения, проверки битых ссылок, Xenu может выполнять и другие задачи:

  • составление карты сайта;
  • определение времени загрузки страниц;
  • поиск неуникальных тайтлов;
  • выявление страниц со значительным уровнем вложенности;
  • определение количества внешних и внутренних ссылок на сайте;
  • выявление картинок без атрибута alt.

Обозначенные моменты весьма немаловажны для развития ресурса. Решение данных задач послужит для оптимизации вашего вордпресс-блога. Поэтому предлагаю вам внимательно изучить инструкцию по работе с Xenu Link Sleuth. Начнем.

Данное приложение является бесплатным. Скачать программу Xenu можно по ссылке: xenus-link-sleuth.en.softonic.com .

Разархивируем файл и запускаем Setup.exe. После установки программы можно приступать к настройке её основных параметров. Следует отметить, что Xenu написана для Windows и не работает с другими операционными системами.

Интерфейс приложения англоязычный, но он лаконичен и достаточно прост. Чтобы создать новую проверку, нужно кликнуть по первой пиктограмме в левом верхнем углу окна программы или пройти по пути «File» - «Check URL». В результате откроется окно «Xenu’s starting point» с базовыми настройками:

Вверху вписываем адрес инспектируемого ресурса. Если вы хотите включить в проверку ссылки на внешние ресурсы, следует оставить галочку возле пункта « Check external links» . Кнопка « Local file» предназначена для выбора файла на вашем компьютере, если вы хотите проанализировать таковой.

В поле « Consider URLs beginning with this as ‘ internal’:» вы можете добавить такие страницы, которые относятся непосредственно к проверяемому сайту, но имеют отличный от главной страницы адрес. Например, https:// forum.ВашСайт. ru .

В поле же « Do not check any URLs beginning with this:» можно перечислить те линки, которые вы хотите исключить из проверки программой Xenu.

В нижней части расположена кнопка « e- mail» . Она потребуется вам в том случае, если вы захотите получить отчет о проделанном анализе блога на свой e-mail с помощью SMTP-Server:

« e- mail report and quit when done» - выберите этот пункт, если хотите получить весь отчет сразу по завершению работы приложения;

« e- mail only if there are broken links» - при выборе этого варианта отчет придёт, если будут найдены битые ссылки.

Помимо этого, в Xenu предусмотрено большое количество дополнительных настроек. Их можно вызвать, кликнув по кнопке « More options» .

Перед нами открывается вкладка «Basic Options». Первый параметр - « Parallel Threads» . Он регулирует количество параллельных синхронных запросов. Другими словами, какое число ссылок будет проверяться одновременно. Рекомендуется не превышать значение по умолчанию, чтобы не перегружать сервер и не влиять на корректность проводимого аудита. Пункт « Maximum Depth» устанавливает максимальную глубину вложенности страниц, на которой будет проводиться работа программы Xenu. Здесь тоже можно оставить дефолтное значение. Если поле « Treat redirections as error» отметить галочкой, редиректы будут рассматриваться приложением как ошибка.

Справа расположен блок чекбоксов « Report» . Он служит для того, чтобы настроить вывод отчета после сканирования сайта. Выберите те параметры, показатели которых вы хотите видеть в итоге:

« Broken links, ordered by links» - битые ссылки, сгруппированные по URL-адресам;

« Broken links, ordered by page» - аналогично, битые ссылки, но сгруппированные по страницам;

« Broken local links» - внутренние битые ссылки;

« Redirected URLs» - адреса с 301-ым и 302-ым редиректами;

« Ftp and gopher URLs» - URL с протоколами, отличными от http;

« Valid text URLs» - не битые (рабочие) ссылки;

« Site Map», « Statistics» - добавить в отчет карту сайта, статистику;

« Orphan files» - файлы-одиночки, т.е. те, на которые ссылок нет.

Если мы хотим применять данные настройки для всех проектов, нужно отметить галочкой поле « Apply to all jobs».

Сделав настройки Xenu, жмем «ОК». Программа начинает аудит сайта. Она проходит по всему блогу и определяет наличие ссылок. Если возникает необходимость приостановить работу приложения, на панели вверху есть кнопки «Pause» (приостановить), «Stop» (прервать), «Continue» (продолжить). Сколько будет длиться анализ ресурса, зависит от количества страниц, одновременных потоков, скорости соединения и загруженности сервера. По завершению работы, появляется диалоговое окно, сообщающее об этом и предлагающее вывести отчет.

Если соглашаемся, Xenu формирует htm-документ с результатами проделанного анализа в режиме реального времени.

Теперь разберем, как можно пользоваться данными, полученными с помощью Xenu Link Sleuth, в самой программе. Результаты seo-анализа сайта расположены в нескольких столбцах. « Address» содержит список всех найденных URL. Для того, чтобы получить более детальную информацию о какой-то конкретной ссылке, кликаем по ней правой кнопкой мыши, в появившемся контекстном меню выбираем пункт «URL properties». Открывается окно, в котором отображены следующие характеристики линка:

  • «Page URL» - страница, на которую ведет ссылка;
  • «Title or link text» - атрибут title или анкор ссылки в материале нашего блога;
  • «1 page linking to this one» - URL страницы, где находится ссылка.

Далее идет столбец « Status » , где указаны статусы всех ссылок. Если мы хотим отфильтровать битые ссылки, достаточно просто кликнуть по названию колонки. Нерабочие ссылки, выделенные красным цветом, будут сгруппированы программой Xenu в верхней части страницы.

  • not found - ссылка не найдена;
  • no such host – данный URL не существует;
  • no connection – сервер не отвечает. В данном случае следует уменьшить количество одновременных потоков в настройках и повторить проверку.

Закладка « Type» позволяет сортировать файлы по типу расширения: картинки, html/css-файлы и т.д.

Во вкладке « Size» собрана информация о весе файлов в Кб. Этими данными можно воспользоваться, чтобы найти и сжать самые тяжелые изображения на блоге.

В колонке « Title» можно отсортировать результаты по одноименному мета-тегу title. Это дает возможность найти дубли страниц по визуальному совпадению заголовков.

Также приложение предоставляет информацию по таким параметрам:

« Level» - глубина вложенности страницы, на которой находится URL;

« Out Links» - количество исходящих ссылок на конкретной странице;

« In Links» - входящие ссылки, ведущие на определенную страницу.

Воспользовавшись инструкцией по работе с Xenu Link Sleuth и проанализировав результаты seo-анализа, вы с легкостью сможете устранить все битые ссылки и большинство дублей на вашем блоге.

Netpeak Spider: определение основных сео-параметров сайта.

Данная программа является аналогом Xenu. Она позволяет просканировать сайт на наличие ошибок, связанных с внутренней оптимизацией. При этом приложение имеет русскоязычный интерфейс, что значительно упрощает работу с ним. И если вы уже знакомы с программой Xenu, выполнить настройки Netpeak Spider для вас не составит труда.

Вот список тех параметров, которые можно получить в результате аудита сайта с помощью данной программы:

  • « URL» — адрес просканированной страницы;
  • «Глубина» — уровень вложенности страницы;
  • « LinkCanonical» – наличие атрибута rel =”canonical” и адрес, на который он указывает;
  • «Ответ» — ответ сервера (3ХХ-5ХХ);
  • « Title», « Description», « Keywords» — содержание соответствующих мета-тегов;
  • « robots. txt» — разрешена или запрещена (allowed/disallowed) индексация страницы;
  • « MetaRobots» — наличие мета-тега «robots»;
  • «Редиректы» — количество перенаправлений со страницы;
  • «Заголовки (H1)» — количество заголовков первого уровня;
  • «Ссылки с этой страницы», «Ссылки на эту страницу» — количество всех ссылок, исходящих с этой страницы и ведущих на эту страницу соответственно;
  • «Внутренние ссылки» ;
  • «Внешние ссылки» ;
  • « PR», « PR (без сквозных ссылок) » — внутренний показатель Page Rank страницы, внутренний показатель Page Rank страницы без учета сквозных ссылок;
  • «Дубли по Title», «Дубли по Description», «Дубли по Keywords» — группы страниц с соответственным повторяющимся мета-тегом.

Скачать программу можно по ссылке — netpeak.ua/software/netpeak-spider . Приложение бесплатное, но необходимо пройти несложную регистрацию. После этого на электронную почту нам будет выслан ключ активации, которым надо воспользоваться при установке программы. Сам процесс установки стандартный: запускаем файл.exe и следуем инструкциям Netpeak Spider.

После запуска приложения, открываем окно с необходимыми настройками: «Настройки» — «Сканирование». Выбираем необходимые параметры, сохраняем.

В основном окне программы прописываем адрес проверяемого ресурса, указываем количество параллельных потоков и глубину вложенности страниц. Запускаем сканирование (пиктограмма справа от поля для вставки URL).

Полученные результаты можно фильтровать по такому же принципу, как и в программе Xenu. Для доступа к детальной информации об интересующем нас показателе достаточно вызвать контекстное меню кликом правой кнопки мыши. Так, к примеру, если мы хотим увидеть список всех исходящих ссылок на конкретной странице, кликаем по количеству и выбираем в появившемся окне пункт «Посмотреть все ссылки с этой страницы».

Для поиска дублей справа от основного размещено окно поменьше. Здесь предлагается кнопка «Найти дубли» и возможность выбрать критерий фильтрации – «По title», «По description» или «По keywords». Результаты аудита можно сохранить в виде файла Excel. Для этого следует кликнуть по основному меню в верхней области окна «Экспорт в Excel».

В заключение следует упомянуть, что и Xenu Link Sleuth, и Netpeak Spider зарекомендовали себя как отличные инструменты для проверки битых ссылок и имеют множество положительных отзывов среди веб-мастеров. Отмечу, что хотя функционал Netpeak Spider несколько шире, в отличии от Xenu, в ней нет возможности повторно открыть проверяемый файл.

Xenu Link Sleuth это один из наиболее полезных (и в то же время бесплатных) инструментов в поисковой оптимизации. Хотя эта программа изначально предназначалась для поиска битых ссылок на сайте, с помощью неё можно решать ряд других задач, проводя аудит внутренней структуры сайта и находя в нем слабые места:

– Искать битые (неработающие) ссылки на заданном ресурсе.
Вы написали сотню статей, во многих были ссылки на другие ресурсы или какие-нибудь документы, изображения, но уследить за работоспособностью всех этих ссылок вручную невозможно. В данном случае очень удобно использовать Xenu Link Sleuth , как свободный софт, простой в настройке и использовании.

– Составлять карту сайта.
Для динамических сайтов составить карту не составляет проблемы, однако, для статических HTML ресурсов создавать карту сайта вручную весьма долго и трудоемко. Xenu решает эту задачу за несколько минут в зависимости от размера сайта и скорости Интернет-соединения.

– Искать страницы с большим временем отдачи.
Зная, какие страницы на вашем сайте отдаются с большой задержкой, можно проанализировать причину подобного поведения и оптимизировать время отдачи, что положительно скажется как на посетителях, так и на поисковых системах.

– Найти неуникальные тайтлы.
Каждый тайтл на странице должен быть уникален, тогда ни одна из них не будет находиться в дополнительных результатах поиска и фильтроваться, как дублированный контент. Поэтому важно знать, на каких страницах сайта тайтлы повторяются.

– Найти страницы с большим уровнем вложенности.
Все страницы на сайте по возможности должны находиться не далее, чем в двух-трех кликах от главной. Чем дальше находится страница, тем сложнее до неё добраться как пользователям, так и поисковым системам. Если у вас нашлись подобные страницы, являющиеся важными, но находящиеся далее, чем в 3-х кликах от главной, стоить принять какие-либо меры для улучшения навигации. Возможно, некоторые из дальних страниц вам уже не нужны, xenu легко позволяет их найти.

– Искать страницы с максимальным количеством исходящих ссылок.
Как упоминалось раннее, все исходящие ссылки на сайте должны тщательно модерироваться, так как от них зависит заслуженное доверие от поисковых систем (по принципу: “Скажи мне кто твой друг и я скажу кто ты!”) а также присвоение сайту различного рода фильтров. Если вы заметили резкое падение позиций в поисковике, тогда первым делом необходимо проверить все исходящие ссылки, так как возможно, если виноваты не вы, то хакеры, разместившие на вашем ресурсе свои спам-ссылки.

– Посмотреть какие из страниц имеют наибольшее и наименьшее количество внутренних ссылок на себя.
Проверьте вашу внутреннюю перелинковку в численном виде. Какие из страниц заслужили больше внимания, а какие меньше (исходя из внутренних ссылок)?

– Найти картинки с отсутствующим атрибутом alt.
Атрибут alt является важным при оптимизации сайта или отдельных страниц под определенные запросы. Проверьте, возможно, вы упустили описание для важных на вашем сайте изображений, добавив которое, вы улучшите позиции в поиске, либо вас будут находить по поиску по изображениям .

Результаты решения этих задач, как видно, могут быть использованы для оптимизации, поэтому, сделаем небольшой обзор программы Xenu Link Sleuth , чтобы её пользователей не пугал английский интерфейс.

Ксену является свободным продуктом и эту программу можно скачать по этой ссылке . При запуске перед вами откроется очень простое окно, важная часть которого изображена на скриншоте.

Чтобы начать аудит какого-либо сайта, выберите пункт меню “File » Check URL”. В появившемся окне необходимо ввести адрес сайта и выделить чекбокс “Check external links” (проверять внешние ссылки).

В программе предусмотрено множество настроек, доступных в пункте меню “Options » Preferences”.

Parallel threads устанавливает количество синхронных (параллельных) запросов.
Apply to all jobs позволяет сохранять настройки для всех проектов.

Далее, отчет позволяет включать в себя:
Broken links, ordered by link - Битые ссылки, отсортированные по адресу;
Broken links, ordered by page - Список битых ссылок, отсортированных по страницам;
Broken local links - Битые внутренние ссылки;
Redirected URLs - Адреса с 301/302 редиректом;
Ftp and gopher URL s - ФТП и другие не HTTP адреса;
Valid text URL s - Список рабочих текстовых ссылок;
Site Map - Карта сайта;
Statistics - Статистика;

Файл отчета работы Xenu очень большой и содержит в себе всю необходимую информацию. К примеру, статистика мониторинга данного блога показала следующие результаты:

В результате аудита, на сайте найдены ряд моментов, на которые стоит обратить внимание для оптимизации. Единственный недостаток программы - отображение русских заголовков страниц в неправильной кодировке.

Сразу же после окончания проверки ссылок сайта, в главном окне появится детальная таблица, где данные можно отсортировать по каждому из столбцов: адрес ссылки, возвращаемый статус, mime-тип, размер, заголовок, уровень вложенности, кол-во внешних и внутренних ссылок, время отдачи страницы. Вот эту таблицу вам и надо использовать.

На каждом сайте могут появляться так называемые "битые ссылки" (англ. "broken links" ), которые ведут на несуществующие веб-страницы как на этом сайте, так и на других сайтах в Интернете.

"Битая" или "мертвая ссылка" может появиться после изменения структуры сайта (удаления или изменения адресов страниц или целых разделов), при этом на какой-то из страниц остается ссылка, указывающая на старый адрес страницы. Такие ссылки могут быть как "внутренними" (ведущими на несуществующие страницы этого же сайта), так и "внешними" (ведущими на несуществующие страницы другого сайта). И в том и в другом случае, задача вебмастера - найти и исправить такие ссылки, чтобы не вводить в заблуждение посетителей.

Если на сайте немного страниц и на каждой находится не более 2-3 ссылок, их можно периодически проверять вручную. Но если на сайте сотни страниц, на каждой из которых имеются с десяток ссылок, такая проверка может превратиться в проблему. В этом случае ппоиск битых ссылок лучше это делать специальной программой. Об одной из таких программ с названием Xenu"s Link Sleuth я и хочу вам рассказать.

Запуск программы

После клика на значке программы появляется ее главное меню.

Для проверки сайта нажимаем клавиши Ctrl+N или жмем на крайнюю слева кнопку "Check URL". Открывается окно, где мы указываем адрес сайта, который необходимо проверить на "битые ссылки". Если адрес сайта заканчивается названием каталога, не забудьте добавить в конце строки символ "/" или будет проверен весь родительский каталог. Например:

Правильно: http://www.host.com/user/

Неправильно: http://www.host.com/user

Настройки программы:



  • Local file - выбрать для проверки сохраненную веб-страницу.
  • Check external links - дополнительно к "внутренним" будут проверяться все "внешние" ссылки.
  • Consider URL"s beginning with this as "internal" - добавить список ссылок, которые программа будет считать "внутренними". Ввод каждой такой ссылки завершается нажатием на кнопку "Add".
  • Do not check any URL"s beginning with this - добавить список ссылок или разделов, которые программа НЕ будет проверять. Ввод каждой такой ссылки завершается нажатием на кнопку "Add".
  • More options - открыть окно с дополнительными настройками (см. ниже).

После зажатия на кнопку "OK" начнется поиск битых ссылок на сайте, который может занять, в зависимости от числа страниц сайта, скорости их загрузки и числа ссылок на каждой из них, от нескольких секунд до нескольких часов.

На экране появляется список найденных на сайте ссылок, каждая из которых выделяется определенным цветом:

  • серая - ссылка находится в очереди на проверку или исключена из проверки в соответствии с заданными настройками
  • зеленая - ссылка доступна
  • красная - найдена "мертвая" ссылка или ссылка временно недоступна.

Перемещаться по списку можно с помощью клавиш управления курсором (Вверх, Вниз, PageUp, PageDown) или находящейся справа полосы прокрутки.

Внизу окна в строке статуса выводится общее количество найденных и обработанных ссылок и время, прошедшее с начала проверки.

По окончанию проверки выводится соответствующее сообщение и запрос на формирование отчета:

Дополнительные настройки программы:

  • Parallel Threads - число параллельно запрашиваемых страниц (рекомендуется 1 - 3, слишком большое значение может привести к значительной нагрузке на сервер и замедлению скорости загрузки страниц)
  • Ask for password or certificate when needed - при необходимости запрашивать пароли и сертификаты (используется для защищенных сайтов и разделов)
  • Treat redirections as errors - считать редиректы ошибками
  • Report - информация, которую необходимо выводить в отчет (можно указывать пункты согласно рисунку)
    • Broken links, ordered by links - показывать "битые" ссылки, отсортированные по адресу ссылки
    • Broken links, ordered by page - показывать "битые" ссылки, отсортированные по адресу страницы
    • Broken local links - показывать"битые" локальные ссылки
    • Redirected URLs - показыватьссылки с редиректами
    • Site Map - строить HTML-карту сайта (при большом количестве проверяемых страниц может привести к значительным задержкам времени при формировании отчета)
    • Statistics - выводить в отчет различную статистическую информацию

Полученный отчет открывается в вашем браузере и состоит из разделов, которые были заданы в настройках программы:

Если было задан вывод статистической информации, то добавляется соответствующий блок.

В статистике указано количество проверенных страниц с группировкой по их типам (HTML-страницы, изображения, скрипты, файлы и т.п.), суммарные размеры страниц. Также указывается количество найденных ссылок с группировкой по их типам:

  • ok - страница найдена;
  • skip external - страница пропущена как "внешняя";
  • forbidden request - доступ к странице запрещен;
  • not found - страница не найдена.