如何检查请求是否来自Google,Facebook,Twitter和Bing爬虫?

艾希德(Eahed Eid)

我想提供一个Web应用程序,并使用双向数据绑定在JavaScript中编译模板。另一方面,我想为Web爬网程序生成现成的HTML内容。

如何知道请求是否来自流行的网络爬虫/机器人,例如Google,bing,facebook,twitter?

艾波达克斯

他们通常通过用户代理发送此类信息,例如

  • Google搜寻器
  • 雅虎
  • ing

或类似的东西,在php中您可以找到用户代理

$_SERVER['HTTP_USER_AGENT'];

但是,您应该注意,可以欺骗用户代理。

本文收集自互联网,转载请注明来源。

如有侵权,请联系[email protected] 删除。

编辑于
0

我来说两句

0条评论
登录后参与评论

相关文章

来自分类Dev

如何检查ajax请求是否来自按钮

来自分类Dev

检查请求是否来自Rails中的android App

来自分类Dev

如何检测请求是否来自移动设备

来自分类Dev

Golang,Heroku-如何检查请求是否为https

来自分类Dev

如何检查Laravel请求是否没有输入

来自分类Dev

PHP-如何检查请求是否针对JS worker

来自分类Dev

如何检查AJAX请求是否调用了HTML内容?

来自分类Dev

检查ajax请求是否为空

来自分类Dev

WinJS检查xhr请求是否被取消

来自分类Dev

如何检查Google字体请求来自何处?

来自分类Dev

如何检查Google字体请求来自何处?

来自分类Dev

如何知道HTTP请求是否来自WebDav客户端?

来自分类Dev

iOS Parse SDK:如何检查登录来自Facebook还是Twitter?

来自分类Dev

检查浏览器和HTTP请求是否正在访问页面

来自分类Dev

播放2.2.x 2.3.x,检查http请求是否来自移动浏览器

来自分类Dev

如何检查请求是否在Total.js控制器中具有发布数据

来自分类Dev

Golang:如何检查HTTP请求是否在TCP有效负载字节中

来自分类Dev

在ASP.NET Core中,如何检查请求是否为本地?

来自分类Dev

如何检查POST请求是否以JSON Web服务发送到服务器

来自分类Dev

Laravel 如何检查数据表ajax发送的请求是否为空

来自分类Dev

快速检测请求是否来自子域?

来自分类Dev

Mongodb findOne,但请先检查请求是否为空

来自分类Dev

检查请求是否为获取并发布

来自分类Dev

Mongodb findOne,但请先检查请求是否为空

来自分类Dev

Grails-检查请求是否已被重定向

来自分类Dev

检查Windows用户登录密码请求是否已启用

来自分类Dev

在继续之前检查 .then() 中的 get 请求是否成功

来自分类Dev

NodeJS和Express:检查请求是针对CSS还是JavaScript

来自分类Dev

如何处理Twitter和Facebook请求代码

Related 相关文章

  1. 1

    如何检查ajax请求是否来自按钮

  2. 2

    检查请求是否来自Rails中的android App

  3. 3

    如何检测请求是否来自移动设备

  4. 4

    Golang,Heroku-如何检查请求是否为https

  5. 5

    如何检查Laravel请求是否没有输入

  6. 6

    PHP-如何检查请求是否针对JS worker

  7. 7

    如何检查AJAX请求是否调用了HTML内容?

  8. 8

    检查ajax请求是否为空

  9. 9

    WinJS检查xhr请求是否被取消

  10. 10

    如何检查Google字体请求来自何处?

  11. 11

    如何检查Google字体请求来自何处?

  12. 12

    如何知道HTTP请求是否来自WebDav客户端?

  13. 13

    iOS Parse SDK:如何检查登录来自Facebook还是Twitter?

  14. 14

    检查浏览器和HTTP请求是否正在访问页面

  15. 15

    播放2.2.x 2.3.x,检查http请求是否来自移动浏览器

  16. 16

    如何检查请求是否在Total.js控制器中具有发布数据

  17. 17

    Golang:如何检查HTTP请求是否在TCP有效负载字节中

  18. 18

    在ASP.NET Core中,如何检查请求是否为本地?

  19. 19

    如何检查POST请求是否以JSON Web服务发送到服务器

  20. 20

    Laravel 如何检查数据表ajax发送的请求是否为空

  21. 21

    快速检测请求是否来自子域?

  22. 22

    Mongodb findOne,但请先检查请求是否为空

  23. 23

    检查请求是否为获取并发布

  24. 24

    Mongodb findOne,但请先检查请求是否为空

  25. 25

    Grails-检查请求是否已被重定向

  26. 26

    检查Windows用户登录密码请求是否已启用

  27. 27

    在继续之前检查 .then() 中的 get 请求是否成功

  28. 28

    NodeJS和Express:检查请求是针对CSS还是JavaScript

  29. 29

    如何处理Twitter和Facebook请求代码

热门标签

归档