# Kodini Tools - robots.txt # https://kodinitools.top/robots.txt # Alle Suchmaschinen-Bots erlauben User-agent: * Allow: / # Spezielle Crawl-Anweisungen für Google User-agent: Googlebot Allow: / Crawl-delay: 1 # Spezielle Crawl-Anweisungen für Bing User-agent: Bingbot Allow: / Crawl-delay: 1 # Wichtige Bereiche explizit erlauben Allow: /mp3konverter/ Allow: /audioequalizer/ Allow: /equaliser19/ Allow: /modernermusikplayer/ Allow: /playlist_generator/ Allow: /audiokonverter/ Allow: /alarmtool/ Allow: /audionormaliser Allow: /bildkonverter/ Allow: /bilderseriebearbeiten/ Allow: /kontaktformular/ # Icons und Assets erlauben Allow: /icons/ Allow: /screenshots/ Allow: /assets/ Allow: /images/ Allow: /uploads/ # PWA-Dateien erlauben Allow: /site.webmanifest Allow: /sw.js Allow: /favicon.ico Allow: /*.png Allow: /*.jpg Allow: /*.jpeg Allow: /*.webp Allow: /*.svg # Admin-Bereich blockieren (falls vorhanden) Disallow: /admin/ Disallow: /api/admin/ # Temporäre Dateien blockieren Disallow: /tmp/ Disallow: /temp/ Disallow: /.git/ Disallow: /.env Disallow: /node_modules/ # Upload-Ordner für User-Dateien (Datenschutz) Disallow: /uploads/user-files/ Disallow: /uploads/private/ # Development-Dateien blockieren Disallow: /*.log Disallow: /*.bak Disallow: /*.old Disallow: /src/ Disallow: /dist/ Disallow: /build/ # Spezielle Bot-Anweisungen # Social Media Bots erlauben (für Preview-Cards) User-agent: facebookexternalhit Allow: / User-agent: Twitterbot Allow: / User-agent: LinkedInBot Allow: / User-agent: WhatsApp Allow: / # AI-Training Bots (optional - falls du KI-Training nicht willst) User-agent: ChatGPT-User Disallow: / User-agent: GPTBot Disallow: / User-agent: AI2Bot Disallow: / User-agent: Claude-Web Allow: / # Archive-Bots erlauben User-agent: archive.org_bot Allow: / User-agent: ia_archiver Allow: / # Sitemap-Referenz Sitemap: https://kodinitools.top/sitemap.xml # Crawl-Rate-Limits für Performance # Crawl-delay: 1 (bereits oben bei Googlebot/Bingbot gesetzt) # Zusätzliche Anweisungen für bessere SEO # Cache-freundliche Direktiven für statische Assets Allow: /*.css Allow: /*.js Allow: /*.woff Allow: /*.woff2 Allow: /*.ttf Allow: /*.eot # Host-Spezifikation (bevorzugte Domain) Host: https://kodinitools.top