-
Notifications
You must be signed in to change notification settings - Fork 0
Expand file tree
/
Copy pathscheduler.py
More file actions
40 lines (32 loc) · 1.26 KB
/
Copy pathscheduler.py
File metadata and controls
40 lines (32 loc) · 1.26 KB
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
import logging
import subprocess
from apscheduler.schedulers.blocking import BlockingScheduler
from config import setup_logger
setup_logger()
logger = logging.getLogger(__name__)
def run_spider():
"""Запуск паука"""
try:
logger.info("...Запуск парсера...")
result = subprocess.run(
["scrapy", "crawl", "satire_pulp"],
capture_output=True,
text=True,
)
if result.returncode == 0:
logger.info("...Парсер успешно завершил работу...")
else:
logger.error(f"Ошибка при запуске парсера: {result.stderr}")
except Exception as e:
logger.error(f"Неожиданная ошибка при запуске парсера: {e}")
def run_scheduler():
"""Запуск планировщика, паук запускаеется каждые 20 минут"""
scheduler = BlockingScheduler()
try:
logger.info("...Планировщик запущен...")
run_spider()
scheduler.add_job(run_spider, "interval", minutes=20)
scheduler.start()
except Exception as e:
logger.error(f"Ошибкка в планировщике: {e}")
run_scheduler()