NICT · Crawlers de treino
ICC-Crawler
Rastreador do Instituto Nacional de Tecnologias de Informação e Comunicação do Japão (NICT). As páginas recolhidas são usadas na investigação em tradução, análise de informação e IA, e podem ser partilhadas com terceiros em investigação conjunta.
- Nome no robots.txt
ICC-Crawler- User agent
ICC-Crawler/3.0 (Mozilla-compatible; ; https://ucri.nict.go.jp/en/icccrawler.html)- Categoria
- Crawlers de treino: Recolher páginas públicas que podem ser utilizadas para treinar modelos de IA.
- Respeita o robots.txt
- Sim
- Documentação oficial
- https://ucri.nict.go.jp/en/icccrawler.html
- Intervalos de IP publicados
- https://ucri.nict.go.jp/en/icccrawler.html
Verificado com a documentação oficial em 17 de outubro de 2026.
Bloqueie ou permita no robots.txt
Adicione estas linhas ao ficheiro robots.txt na raiz do seu domínio. Para bloquear em todo o lado:
User-agent: ICC-Crawler
Disallow: /
Para o permitir em todo o lado exceto numa pasta:
User-agent: ICC-Crawler
Disallow: /private/
É realmente este bot?
Qualquer pessoa pode copiar um user agent. Para ter a certeza de que um pedido provém da NICT, compare o seu endereço IP com os intervalos publicados pela empresa.
Veja que crawlers de IA leram o seu site
O Statsdot mantém os bots fora dos seus visitantes e, com a monitorização de crawlers de IA, mostra que crawlers leram as suas páginas e que páginas solicitaram. Sem cookies, sem dados pessoais.