К основному содержимому
#SoftwareDevelopment

Скрапинг веб-сайтов с помощью Python 2 издание (Web Scraping with Python: Collecting More Data from the Modern Web 2nd Edition)

#SoftwareDevelopment #Software #Architecture #Engineering

Несколько лет назад я прочитал эту книгу, которая оказалась рассчитанной на уровень новичка. Я не расстроился, потому что я её и покупал в качестве обучающего пособия для новичков. Первая половина книги называется "Построение скраперов" и является аналогом "Hello world" в мире скраперов на Python. Здесь основное внимание уделено механике веб-скрапинга: как с помощью Python запрашивать информацию с веб-сервера, производить базовую обработку серверного отклика и организовать автоматизированное взаимодействие с сайтами. Вторая часть называется "Продвинутый скрапинг", где рассмотрены более специфичные инструменты и приложения, которые пригодятся при любом сценарии веб-скрапинга. Но этот продвинутый скрапинг является продвинутым только относительно первой части этой же книги:)

Плюс мне реально понравился список вопросов, напоминающий чеклист, которые стоит задать при появлении проекта по скрапингу:

  • На какой вопрос я хочу ответить или какую проблему я хочу решить?
  • Какие данные помогут мне достичь этого и где они находятся?
  • В каком виде эти данные представлены на сайте?...
  • Как я могу отделить нужные данные от ненужных и извлечь их?
  • Какие операции по обработке и анализу нужно выполнить, чтобы использовать данные с максимальной пользой?
  • Как я могу сделать этот процесс лучше, быстрее, надежнее?

#SoftwareDevelopment #Software #Architecture #Engineering