将数据从一个文件传输到另一个文件(Bash)-Web搜集

学习者

我正在使用进行网页抓取bash我将这些网址保存在名为的文件中URL.txt

?daypartId=1&catId=1
?daypartId=1&catId=11
?daypartId=1&catId=2

我想将这些URL传递到另一个文件中的数组,该文件main.sh将附加在基本URL中https://www.mcdelivery.com.pk/pk/browse/menu.html**(append here)**我想将所有UR1URL.txt文件一一追加到基本URL的末尾。

我想出了从中提取URL的代码,URL.txt但是无法将其一个接一个地添加到基本URL中。

#!/bin/bash
ARRAY=()
while read -r LINE
do
    ARRAY+=("$LINE")
done < URL.txt

for LINE in "${ARRAY[@]}"
do    
    echo $LINE
    curl https://www.mcdelivery.com.pk/pk/browse/menu.html$LINE | grep -o '<span class="starting-price">.*</span>' | sed 's/<[^>]\+>//g' >> price.txt 
done  

只需要循环的帮助,这样我就可以在URL.txt文件的基本URL末尾附加文件中的不同URL main.sh

亚历克斯

关于您的grep | sed无法帮助,因为不知道预期的输出

这是一个示例,以说明为什么将URL传递给curl而不附加URI

#!/bin/bash

# just for demo
> URI.txt
URI='?daypartId=1&amp;catId='
URL=https://www.mcdelivery.com.pk/pk/browse/menu.html

# just for demo
for id in 1 11 2
  do
    echo -e "${URI}${id}" | tee -a URI.txt
    # reason why it fails
    echo -e "\n\n\n" >> URI.txt
done

ARRAY=()
while read -r LINE || [[ -n $LINE ]]
do
    ## how to prevent
    #[ "$LINE" ] && \
    ARRAY+=("$LINE")
done < URI.txt

for LINE in "${ARRAY[@]}"
  do
    # just for demo
    echo -e "LINE='$LINE'"
    # skipt empty lines
    [ "$LINE" ] && curl "${URL}${LINE}" | grep -o '<span class="starting-price">.*</span>' | sed 's/<[^>]\+>//g' >> price.txt 
done

exit 0

本文收集自互联网,转载请注明来源。

如有侵权,请联系[email protected] 删除。

编辑于
0

我来说两句

0条评论
登录后参与评论

相关文章

来自分类Dev

R中的Web搜集教育数据

来自分类Dev

将创建日期从一个文件传输到另一个文件

来自分类Dev

将变量从一个文件传输到另一个文件

来自分类Dev

将ID从一个php文件传输到另一个

来自分类Dev

将文件从一个云存储传输到另一个

来自分类Dev

如何使用asp.net Web服务将文件从一个目录复制到IIS根目录下的另一个目录?

来自分类Dev

将数据从一个组件传输到另一个组件

来自分类Dev

我可以将文件从一个项目文件夹发送到 C# web 中的另一个项目文件夹吗

来自分类Dev

将一些API请求从一个Web应用重定向到另一个

来自分类Dev

Bash编程-如何将变量的内容传输到另一个bash文件

来自分类Dev

将Web文件夹目录重定向到另一个htaccess

来自分类Dev

将XAMPP的htdocs Web根文件夹更改为另一个

来自分类Dev

将XAMPP的htdocs Web根文件夹更改为另一个

来自分类Dev

将Web文件夹目录重定向到另一个htaccess

来自分类Dev

将一个文件传输到另一个文件

来自分类Dev

301使用asp.net web.config文件从一个网站重定向到另一个网站

来自分类Dev

web.config从一个目录重写到另一个目录

来自分类Dev

如何将数据从一页传输到另一个xamarin

来自分类Dev

在 Rails 中将数据从一个视图传输到另一个视图

来自分类Dev

将文本从一个堆栈面板传输到另一个

来自分类Dev

将数据从一个Cassandra群集传输到另一个的最佳方法

来自分类Dev

如何使用$ out聚合将多个数据从一个集合传输到另一个

来自分类Dev

使用 where 子句 mysql 将数据从一个表传输到另一个表

来自分类Dev

Excel,将数据从一个单元格传输到另一个单元格

来自分类Dev

使用 vba 将数据从一个工作簿传输到另一个工作簿

来自分类Dev

如何将数据从一个jsp表单传输到另一个

来自分类Dev

将Web流量从一个Azure Web应用程序转移到另一个Azure Web应用程序,而无需停机

来自分类Dev

使用WCF Web服务时无法将PDB文件复制到另一个目录

来自分类Dev

如何使用web.config文件301将ASP页面重定向到另一个域

Related 相关文章

  1. 1

    R中的Web搜集教育数据

  2. 2

    将创建日期从一个文件传输到另一个文件

  3. 3

    将变量从一个文件传输到另一个文件

  4. 4

    将ID从一个php文件传输到另一个

  5. 5

    将文件从一个云存储传输到另一个

  6. 6

    如何使用asp.net Web服务将文件从一个目录复制到IIS根目录下的另一个目录?

  7. 7

    将数据从一个组件传输到另一个组件

  8. 8

    我可以将文件从一个项目文件夹发送到 C# web 中的另一个项目文件夹吗

  9. 9

    将一些API请求从一个Web应用重定向到另一个

  10. 10

    Bash编程-如何将变量的内容传输到另一个bash文件

  11. 11

    将Web文件夹目录重定向到另一个htaccess

  12. 12

    将XAMPP的htdocs Web根文件夹更改为另一个

  13. 13

    将XAMPP的htdocs Web根文件夹更改为另一个

  14. 14

    将Web文件夹目录重定向到另一个htaccess

  15. 15

    将一个文件传输到另一个文件

  16. 16

    301使用asp.net web.config文件从一个网站重定向到另一个网站

  17. 17

    web.config从一个目录重写到另一个目录

  18. 18

    如何将数据从一页传输到另一个xamarin

  19. 19

    在 Rails 中将数据从一个视图传输到另一个视图

  20. 20

    将文本从一个堆栈面板传输到另一个

  21. 21

    将数据从一个Cassandra群集传输到另一个的最佳方法

  22. 22

    如何使用$ out聚合将多个数据从一个集合传输到另一个

  23. 23

    使用 where 子句 mysql 将数据从一个表传输到另一个表

  24. 24

    Excel,将数据从一个单元格传输到另一个单元格

  25. 25

    使用 vba 将数据从一个工作簿传输到另一个工作簿

  26. 26

    如何将数据从一个jsp表单传输到另一个

  27. 27

    将Web流量从一个Azure Web应用程序转移到另一个Azure Web应用程序,而无需停机

  28. 28

    使用WCF Web服务时无法将PDB文件复制到另一个目录

  29. 29

    如何使用web.config文件301将ASP页面重定向到另一个域

热门标签

归档