필요하면 만드는 남자

  • 홈
  • 태그
  • 방명록

2025/02 1

크롤링 시 HEADERS를 활용해 사람인척 하기

📌 HTTP 요청 헤더(HEADERS) 설명웹 크롤링을 할 때, 서버가 요청을 정상적인 브라우저 요청인지, 아니면 봇(자동화 프로그램)인지 구별하기 위해 여러 정보를 확인합니다.따라서, 정상적인 브라우저처럼 보이게 하려면 HEADERS 값을 적절히 설정해야 합니다.아래는 크롤링에 필요한 주요 헤더들의 역할과 필요성에 대한 상세 설명입니다.HEADERS = { "User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/115.0.0.0 Safari/537.36", "Accept": "text/html,application/xhtml+xml,application/xml;q..

크롤링 2025.02.12
이전
1
다음
더보기
프로필사진

필요하면 만드는 남자

프로그램 제작 및 기타 문의 makenow90@gmail.com

  • 분류 전체보기 (106)
    • 로컬 LLM으로 공고 요약 전송 봇 만들기 (5)
    • 다용도 로컬 파이프라인 구성 (6)
    • 오류 해결 과정 (17)
    • 사용툴 분석 (13)
    • 그때그때 CS 정리 (19)
    • 잡다한것 (5)
    • langchain 공부 (34)
    • 배포 (2)
    • 크롤링 (5)

Tag

멀티프로세서, json, prompttemplate, FAISS, runnablepassthrough, retriever, 로그인, docker, 크롤링, bm25retriever, rag, python, 멀티스레드, GPU, reranker, SSH, win32com, Langchain, 오블완, 도커, ollama, bm25, poetry, processpoolexecutor, psexec, LLM, 벡터db, 티스토리챌린지, threadpoolexecutor, GPT,

최근글과 인기글

  • 최근글
  • 인기글

최근댓글

공지사항

페이스북 트위터 플러그인

  • Facebook
  • Twitter

Archives

Calendar

«   2025/02   »
일 월 화 수 목 금 토
1
2 3 4 5 6 7 8
9 10 11 12 13 14 15
16 17 18 19 20 21 22
23 24 25 26 27 28

방문자수Total

  • Today :
  • Yesterday :

Copyright © Kakao Corp. All rights reserved.

티스토리툴바