본문으로 건너뛰기
용어사전 목록

크롤링과 색인

AI 크롤러란 무엇인가요?

AI 크롤러는 생성형 AI 서비스가 학습이나 실시간 답변에 사용할 웹 문서를 수집하기 위해 운영하는 자동 수집 프로그램입니다.

병원 실무에서 왜 중요한가요?

대표적으로 OpenAI의 GPTBot과 OAI-SearchBot, Anthropic의 ClaudeBot, Perplexity의 PerplexityBot, 구글의 Google-Extended가 있습니다. 각각 용도가 달라, 학습용과 실시간 답변용을 구분해 허용 여부를 정할 수 있습니다.

함께 보면 좋은 용어

robots.txt
robots.txt는 사이트 최상위에 두는 파일로, 어떤 크롤러가 어떤 경로에 접근할 수 있는지를 지정합니다.
GEO (생성형 검색 최적화)
GEO는 ChatGPT·제미나이·퍼플렉시티 같은 생성형 AI가 답변을 만들 때 특정 조직이나 문서를 근거로 인용하도록 만드는 최적화를 뜻합니다.

이 용어를 다룬 글

이 항목을 포함해 16개 기준으로 채점해 드립니다

가입 없이 16개 항목 즉시 채점 · 노출 순위가 아닌 AI 준비도

크롤링과 색인 분류의 다른 용어

llms.txt
llms.txt는 사이트 최상위에 두는 텍스트 문서로, 생성형 AI에게 해당 조직의 핵심 사실과 주요 문서를 정리해 알려주는 용도로 제안된 형식입니다.
크롤링
크롤링은 검색엔진이나 AI 서비스의 자동 프로그램이 웹페이지를 방문해 내용을 수집하는 과정입니다.
색인
색인은 크롤링으로 수집한 페이지를 검색엔진이 분석해 검색 결과에 내보낼 수 있는 형태로 저장하는 과정입니다.
사이트맵
사이트맵은 사이트에 어떤 페이지가 있는지 목록으로 정리해 검색엔진에 제공하는 XML 파일입니다.
정적 생성
정적 생성은 웹페이지를 사용자 접속 시점이 아니라 미리 HTML 파일로 만들어 두는 방식입니다.
canonical
canonical은 내용이 비슷한 여러 주소가 있을 때 어느 것을 대표 주소로 삼을지 검색엔진에 알려주는 표시입니다.
용어사전 전체 보기