[SEO] robots.txt 개선
목차
1. 문제점
2. 원인 분석 및 결과
3. 문제 해결
1. 문제점
구글 검색 콘솔에 sitemap을 등록하고 몇일이 지났다.
그러나 아래와 같이 제출한 사이트맵은 계속 가져올 수 없음 상태가 지속되었다.
또한 색인도 생성되지 않았다.


2. 원인 분석 및 결과
문제점에 대한 원인을 분석하기 위해 두가지 행동을 하였다.
- sitemap.xml 유효성 체크
- robots.xml 유효성 체크
1. sitemap.xml 유효성 체크
sitemap.xml이란
- 웹사이트의 URL 구조를 검색 엔진에 알려주는 파일
- 검색 엔진은 사이트맵을 통해 페이지를 효율적으로 크롤링하고, 검색 결과에 빠르게 반영함
- URL 구조와 정보를 명확히 제공해 검색 노출을 최적화하는 역할
사이트맵 유효성 체크는 XML-Sitemaps.com을 사용하였다.
링크: https://www.xml-sitemaps.com/validate-xml-sitemap.html
유효성 검사를 진행한 결과, 문제가 없음을 확인하였다.

2. robots.txt 유효성 체크
robots.txt란
- 파일은 웹사이트의 크롤링 규칙을 검색 엔진에 알려주는 파일
- 이를 통해 특정 페이지나 디렉토리를 크롤러가 접근할 수 있게 하거나 차단할 수 있음
robots.txt 유효성 체크는 Google Search Console 설정에서 직접 확인하였다.
설정 -> robots.txt 보고서열기를 클릭하면 확인가능하다.
확인 결과, robots.txt에 Sitemap이 어디인지 명시하는 라인에 문제가 있음을 확인하였다.

3. 문제 해결
Sitemap 필드에 내 사이트 sitemap 주소로 변경한 뒤,
(sitemap.xml은 프로젝트 루트 디렉토리에 존재함)
원격 깃 저장소에 push했다.

재크롤링 요청을 눌러 정상적으로 문제가 해결됨을 확인하였다.
