| Webmastering Diseño de un sitio web Realización Alojamiento Marketing Fidelización de los visitantes Medición de Tráfico Explotación Ver También: |
robots.txt es un archivo que contiene comandos para los robots que indizan motores de búsqueda y especifican qué páginas pueden o no pueden indizarse. Cuando un motor de búsqueda explora un sitio web lo primero que hace es buscar el archivo robots.txt en la raíz del sitio.
El archivo robots.txt es un archivo ASCII localizado en la raíz del sitio. Puede contener los siguientes comandos:
![]() |
El archivo robots.txt no debe contener ninguna línea vacía. |
Estos son algunos ejemplos de archivos robots.txt:
Usuario agente: * No permitir: /
Usuario agente: * No permitir:
Usuario agente: Nombre del robot No permitir: Usuario agente: * No permitir: /
Usuario agente: Nombre del robot No permitir: / Usuario agente: * No permitir:
Usuario agente: * No permitir: /directorio/ruta/página.html
Usuario agente: * No permitir: /directorio/
Estos son algunos ejemplos de usuarios agentes de los motores de búsqueda más populares:
| Nombre del motor de búsqueda | Usuario agente: |
|---|---|
| Alta Vista | Scooter |
| Excite | ArchitextSpider |
| Googlebot | |
| HotBot | Slurp |
| InfoSeek | InfoSeek Sidewinder |
| Lycos | T-Rex |
| Voilà | Echo |