셀레니움을 활용한 크롤링 시스템 구현
·
개발기록/SweetBalance
브랜드별 음료에 대한 데이터를 관리하고, 그와 연결되어 정보 및 기능이 제공되는 애플리케이션이었기에 크롤링 로직의 구현이 필수적이었다. 관리자용 페이지를 제공하고 따로 데이터를 생성 및 수정하는 방향도 생각해 보았지만 지속적인 데이터의 추가와 사람이 관여하지 않는 자동화된 데이터 관리를 위해 크롤링 시스템을 구축하였다.Jsoup과 Selenium정적인 문서를 파싱하고 크롤링하는것이 목적이라면, Jsoup을 사용하여도 상관없지만 크롤링 대상 브랜드인 스타벅스, 메가커피, 빽다방의 경우 개발자 도구에서 Disable JavaScript를 체크하면 음료의 정보가 정상적으로 로딩되지 않는다. 즉, 음료 정보가 JavaScript에 의해 동적으로 로드된다는 의미이기에 동적 크롤링을 진행해야 했다. 위 이유로 동적..