당신은 진짜로 중대한 키워드 부유한 내용을 가진 잘 설계되고는 잘 낙관한 웹사이트가 끌 것이다 있는 경우에 방문자 및 수색 엔진 그러나 당신은 없다 아주 중요한 무언가. 당신은 그것이인 무슨 아는가? 그것은 Robots.txt 파일이다.

웹사이트 특정한 웹 페이지의 포복하는 것을 거미 또는 크롤러가 모든 페이지 허용하는 부인하는 것을 허용하는 때 Robots.txt 파일에는 중요성의 제비가 있다. 때때로 사람들은 그들의 웹사이트에 약간 은밀한 자료가 있고 robots.txt 파일을 사용해서 포복하지 않으며기 위하여 또는 특정한 페이지 그래서 아무도가 그 페이지에 도달할 수 있고 이와같이 그 페이지에 은밀한 자료가 안전할 것이라는 점을 색인을 붙이지 않기 위하여 크롤러 또는 거미를 제한해서 좋다.

웹사이트 또는 웹 페이지 검색 엔진 거미 또는 크롤러 포복하기 위하여 가고 있는 동안 수시로 그 웹사이트의 어느 웹 페이지가에 관하여 알기 위하여 포복하고는 또는 색인을 붙여야 하고 어느 웹 페이지가 묵살해야 하는지 robots.txt 파일 검색 엔진을 통해 거미 또는 크롤러가 오기 때문에 Robots.txt 파일에게 불리는 특수 자료를 찾으십시오.

Robots.txt 파일은 웹사이트의 루트 디렉토리에서 두어야 하는 간단한 본문 파일이다. 예를 들면:

Robots.txt 파일은 것과 같이 같이 있어야 한다

http://www.abc.com/robots.txt

Robots.txt 파일 창조:

위에서 말한 바와 같이, robots.txt 파일은 간단한 본문 파일이고 당신은 노트패드 같이 간단한 문서 편집기를 열어서 그것을 창조할 수 있다. "기록한다" 것과 같이 robots.txt 파일에서 언급된 자료 또는 명령은 불린다.

기록은 특정한 검색 엔진의 정보를 포함하고 각 기록에는 로봇 또는 거미 이름 및 다른 분야는 부인한ㄴ다는 것을 당신이 묵살되어야 페이지 또는 파일이 하는 그것을 언급해야 하는 곳에 한개 이상일지도 모른다 선을 다는 것을 당신이 언급하는 2개의 분야 사용자 에이전트가 있다. 예를 들면:

사용자 대리인: googlebot
부인하십시오: /cgi-bin/

위 보기 robots.txt에서 파일은 "cgi 궤" 전화번호부를의 파일의를 제외하고 웹사이트의 포복할 중요한 검색 엔진 Google의 검색 엔진 거미 각 페이지인 "googlebot" 허용한다. 방법 googlebot는 "cgi 궤" 전화번호부의 모든 파일을 묵살해야 한다.

그리고 당신이 아래에 같이 들어가는 경우에:

사용자 대리인: googlebot
부인하십시오: /support

Googlebot는 어떤 파일도 robots.txt 파일에는 googlebot에 지원 전화번호부의 포복하지 않기 지시가 어떤 파일든지 있기 때문에 지원 전화번호부의 포복하지 않을 것이다.

만일 당신이 허가 분야 공백을 그 후에 부인하면 googlebot에 웹사이트의 포복하기 위하여 모든 파일 나타낼 것이다. 그러나 어쨌든 당신은 각 사용자 에이전트를 위한 부인 분야가 있어야 한다.

모두는 googlebot를 위해서만 상기 보기 이었다 그러나 당신이 모든에 동일한 권리를 주고 싶은 경우에 다른 검색 엔진의 거미는 사용자 에이전트 분야에 있는 googlebot 대신에 그 후에 에스테리스크를 (*) 이용한다. 예를 들면:

사용자 대리인: *
부인하십시오: /cgi-bin/

상기 보기에서 * 모든 검색 엔진 거미를 대표하고 위 robots.txt 파일은 모든 검색 엔진 거미가 각 페이지 "cgi 궤" 전화번호부의 파일의를 제외하고 웹사이트의 포복하는 것을 허용한다. 다른 수색 엔진에서 모든 거미가 "cgi 궤" 전화번호부의 모든 파일을 묵살해야 한ㄴ다는 것을 의미한다.

당신이 그 후에 다른 수색 엔진의 사용자 에이전트 이름을 알고 싶은 경우에 당신은 robots.txt에 요구를 검사해서 당신의 기록 파일에서 그것을 찾아낼 수 있다. 수시로, 모든 검색 엔진 거미는 동일한 권리를 주어져야 한다. 그 케이스에서는, 사용자 대리인을 이용하십시오: * 위에서 말한 바와 같이.

Webexcel 해결책 (증명되는 ISO 9001:2000) 소프트웨어 개발 회사SEO 회사


키워드는 표를 붙인다: , ,

관련 포스트


"를 사용하는의 중요성에 무반응 Robots.txt 파일"를  

  1. 코멘트 없음

대답을 남겨두십시오