# Robots.txt Optimizado para elsurfero.com
# Actualizado: Noviembre 2025
# Objetivo: Mejorar indexación y resolver pendientes

User-agent: *

# Permitir recursos esenciales
Allow: /wp-content/uploads/
Allow: /wp-content/*.js
Allow: /wp-content/*.css
Allow: /wp-content/*.ttf
Allow: /wp-includes/*.js
Allow: /wp-includes/*.css
Allow: /wp-includes/*.ttf
Allow: /wp-admin/admin-ajax.php

# Permitir archivos de estilo y scripts
Allow: /*.css$
Allow: /*.js$
Allow: /*.ttf$

# Permitir imágenes
Allow: /*.png$
Allow: /*.jpg$
Allow: /*.jpeg$
Allow: /*.gif$
Allow: /*.webp$
Allow: /*.svg$

# Bloquear áreas administrativas
Disallow: /wp-admin/
Disallow: /wp-includes/
Disallow: /cgi-bin/

# Bloquear archivos adjuntos (attachment pages)
Disallow: /*/attachment/
Disallow: /?attachment_id

# CAMBIO CRÍTICO: Ahora permitimos /tag/ principal pero bloqueamos feeds y paginación innecesaria
Disallow: /tag/*/page/
Disallow: /tag/*/feed/

# Bloquear paginación genérica (ej: /page/2/)
Disallow: /page/

# Bloquear comentarios standalone
Disallow: /comments/

# Bloquear XML-RPC (seguridad)
Disallow: /xmlrpc.php

# Bloquear búsquedas internas
Disallow: /?s=
Disallow: /search

# Bloquear trackbacks
Disallow: /trackback
Disallow: /*trackback

# Impedir el acceso a los diferentes feeds que genere la página
Allow: /feed/$
Disallow: /comments/feed   
Disallow: /*/feed/$   
Disallow: /*/feed/rss/$   
Disallow: /*/trackback/$   
Disallow: /*/*/feed/$   
Disallow: /*/*/feed/rss/$   
Disallow: /*/*/trackback/$   
Disallow: /*/*/*/feed/$   
Disallow: /*/*/*/feed/rss/$

# Bloquear parámetros de búsqueda y tracking (CORREGIDO)
Disallow: /*?s=
Disallow: /*?p=
Disallow: /*?attachment_id=

# Control de velocidad para bots agresivos
User-agent: noxtrumbot
Crawl-delay: 20

User-agent: msnbot
Crawl-delay: 20

User-agent: Slurp
Crawl-delay: 20

# Bloqueo de bots maliciosos
User-agent: MSIECrawler
Disallow: /

User-agent: WebCopier
Disallow: /

User-agent: HTTrack
Disallow: /

User-agent: Microsoft.URL.Control
Disallow: /

User-agent: libwww
Disallow: /

User-agent: Orthogaffe
Disallow: /

User-agent: UbiCrawler
Disallow: /

User-agent: DOC
Disallow: /

User-agent: Zao
Disallow: /

User-agent: sitecheck.internetseer.com
Disallow: /

User-agent: Zealbot
Disallow: /

User-agent: SiteSnagger
Disallow: /

User-agent: WebStripper
Disallow: /

User-agent: Fetch
Disallow: /

User-agent: Offline Explorer
Disallow: /

User-agent: Teleport
Disallow: /

User-agent: TeleportPro
Disallow: /

User-agent: WebZIP
Disallow: /

User-agent: linko
Disallow: /

User-agent: Xenu
Disallow: /

User-agent: larbin
Disallow: /

User-agent: ZyBORG
Disallow: /

User-agent: Download Ninja
Disallow: /

User-agent: wget
Disallow: /

User-agent: grub-client
Disallow: /

User-agent: k2spider
Disallow: /

User-agent: NPBot
Disallow: /

User-agent: WebReaper
Disallow: /

# Sitemap
Sitemap: https://elsurfero.com/sitemap_index.xml