AI Crawler Erişim Denetimi
GPTBot, OAI-SearchBot, anthropic-ai, PerplexityBot, YouBot — her botun amacı farklı. Eğitim verisi toplayan ile canlı arama yapan botu aynı kuralla yönetmek crawl bütçenizi ve hukuki pozisyonunuzu riske atar. Her bot için ayrı kural seti yazıyoruz.
User-agent: GPTBot Allow: /blog/ Allow: /hizmetler/ Disallow: /admin/ User-agent: OAI-SearchBot Allow: /