我想提供一个Web应用程序,并使用双向数据绑定在JavaScript中编译模板。另一方面,我想为Web爬网程序生成现成的HTML内容。
如何知道请求是否来自流行的网络爬虫/机器人,例如Google,bing,facebook,twitter?
他们通常通过用户代理发送此类信息,例如
或类似的东西,在php中您可以找到用户代理
$_SERVER['HTTP_USER_AGENT'];
但是,您应该注意,可以欺骗用户代理。
本文收集自互联网,转载请注明来源。
如有侵权,请联系[email protected] 删除。
我来说两句