본문으로 건너뛰기
용어사전 목록

크롤링과 색인

robots.txt란 무엇인가요?

robots.txt는 사이트 최상위에 두는 파일로, 어떤 크롤러가 어떤 경로에 접근할 수 있는지를 지정합니다.

병원 실무에서 왜 중요한가요?

GPTBot·ClaudeBot·PerplexityBot·Google-Extended 같은 AI 크롤러도 여기서 제어됩니다. 이미지 도용을 막으려다 AI 접근까지 함께 차단된 경우가 있으므로, 도메인 뒤에 /robots.txt를 붙여 현재 상태를 직접 확인하는 것이 좋습니다.

함께 보면 좋은 용어

AI 크롤러
AI 크롤러는 생성형 AI 서비스가 학습이나 실시간 답변에 사용할 웹 문서를 수집하기 위해 운영하는 자동 수집 프로그램입니다.
llms.txt
llms.txt는 사이트 최상위에 두는 텍스트 문서로, 생성형 AI에게 해당 조직의 핵심 사실과 주요 문서를 정리해 알려주는 용도로 제안된 형식입니다.

이 용어를 다룬 글

이 항목을 포함해 16개 기준으로 채점해 드립니다

가입 없이 16개 항목 즉시 채점 · 노출 순위가 아닌 AI 준비도

크롤링과 색인 분류의 다른 용어

크롤링
크롤링은 검색엔진이나 AI 서비스의 자동 프로그램이 웹페이지를 방문해 내용을 수집하는 과정입니다.
색인
색인은 크롤링으로 수집한 페이지를 검색엔진이 분석해 검색 결과에 내보낼 수 있는 형태로 저장하는 과정입니다.
사이트맵
사이트맵은 사이트에 어떤 페이지가 있는지 목록으로 정리해 검색엔진에 제공하는 XML 파일입니다.
정적 생성
정적 생성은 웹페이지를 사용자 접속 시점이 아니라 미리 HTML 파일로 만들어 두는 방식입니다.
canonical
canonical은 내용이 비슷한 여러 주소가 있을 때 어느 것을 대표 주소로 삼을지 검색엔진에 알려주는 표시입니다.
용어사전 전체 보기