scrapping-server/selenium_img.py at scraping_only · Send-wish/scrapping-server · GitHub

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
from selenium.webdriver.common.by import By
import shortuuid
from s3_connect import s3_connection, s3_img_upload, s3_get_img_url, default_img


def get_img(browser, url):
    try:
        if (url.find("coupang.com") != -1): # 쿠팡일 경우
            img_collector = browser.find_element(By.ID, "pdpImages")
            imgs = img_collector.find_elements(By.TAG_NAME, 'img')

        else:
            imgs = browser.find_elements(By.CSS_SELECTOR, 'img')

        if (url.find("musinsaapp") != -1): # 무신사 앱링크면
            for i in imgs:
                img = i.get_attribute("src")
                if 157 < img.__sizeof__()<= 400:
                    break
        else:
            for i in imgs:
                img = i.get_attribute("src")
                if 136 < img.__sizeof__()<= 400:
                    break

        #[todo] Img_url에 http,s 가 없는 경우

        # 이미지 스크래핑 안되는 url은 캡처 후 s3에 올려서 이미지 url 생성
        if "data:image" in img:
            img = browser.find_element(By.XPATH, '//*[@id="__next"]/div[3]/div[1]/div[1]/img')
            img_id = shortuuid.uuid()
            img.screenshot(f"./capture/kurly.{img_id}.png")
            filename = f"kurly.{img_id}.png"

            s3 = s3_connection()
            if s3:
                if s3_img_upload(s3, filename):
                    img = s3_get_img_url(filename)
                else: img = default_img # 이미지 불러오기 및 업로드로 url 요청 실패시 기본 이미지 url 반환
            else: img = default_img

    except:
        img = default_img

    # [todo] capture 폴더 안 이미지 시간되면 삭제할 수 있도록 스케줄링

    return img