Snowflake-S3 : 두 가지 유형의 파일 (동일한 S3 버킷에서)을 두 개의 다른 테이블로 수집

애니

현재 두 가지 유형의 JSON 파일 인 resource.json 및 metadata.json이있는 S3 버킷이 있습니다. 다음은 버킷의 구조입니다.

버킷 foo :

  • a / b / resource.json
  • a / b / metadata.json
  • c / d / resource.json
  • c / d / metadata.json

각 유형 파일을 해당 테이블 (예 : resource.json-> 리소스 테이블, metadata.json-> 메타 데이터 테이블)에 수집하고 싶지만 버킷 당 하나의 SQS 대기열 만 사용할 수 있습니다.

버킷 1 개, 스테이지 2 개, 테이블 2 개, 파이프 2 개 (JSON 파일 유형 당 스테이지 / 파이프 / 테이블 1 개)가있는 경우 Snowflake가 S3 버킷에서 읽고 각 파일의 콘텐츠를 오른쪽에 배치하도록 구성하는 방법이 있습니까? 표?

지금 나는 이것을 가지고있다 :

눈송이의 리소스 테이블 :

  • a / b / resource.json의 항목
  • a / b / metadata.json의 항목
  • c / d / resource.json의 항목
  • c / d / metadata.json의 항목

눈송이의 메타 데이터 테이블 :

  • a / b / resource.json의 항목
  • a / b / metadata.json의 항목
  • c / d / resource.json의 항목
  • c / d / metadata.json의 항목

기울임 꼴 : 해당 테이블에서 원하지 않는 항목

나는 이것을 달성하고 싶습니다.

눈송이의 리소스 테이블 :

  • a / b / resource.json의 항목
  • c / d / resource.json의 항목

눈송이의 메타 데이터 테이블 :

  • a / b / metadata.json의 항목
  • c / d / metadata.json의 항목
애니

이 줄을 각 파이프의 SQL에 추가하면됩니다.
PATTERN='.*/<metadata or resource>[.]json'

따라서 Pipe의 SQL 문은 다음과 같습니다.

COPY INTO <table> FROM (
    SELECT <fields> FROM @<stage>
)
PATTERN='.*/<metadata or resource>[.]json';

이 기사는 인터넷에서 수집됩니다. 재 인쇄 할 때 출처를 알려주십시오.

침해가 발생한 경우 연락 주시기 바랍니다[email protected] 삭제

에서 수정
0

몇 마디 만하겠습니다

0리뷰
로그인참여 후 검토

관련 기사

분류에서Dev

AWS S3에 파일을 추가 한 후 Snowflake Snowpipe 파일이 자동 수집되지 않음

분류에서Dev

AWS Lambda를 사용하여 AWS의 한 s3 버킷에서 다른 버킷으로 파일 이동

분류에서Dev

s3 버킷이 퍼블릭 액세스 권한을 부여한 경우 사람이 s3 버킷의 다른 파일을 볼 수 있습니까?

분류에서Dev

Ruby를 사용하여 AWS S3의 동일한 디렉터리에있는 파일을 두 개 이상 업로드합니다.

분류에서Dev

S3 버킷에서 수십억 개의 파일 압축

분류에서Dev

MySQL은 여러 테이블을 사용하여 서로 다른 조건에서 동일한 데이터의 두 가지 다른 개수를 생성합니다.

분류에서Dev

동일한 WHERE 절을 가진 두 개의 다른 테이블에서 SELECT?

분류에서Dev

s3의 한 폴더에서 다른 폴더로 파일 이동

분류에서Dev

동일한 테이블의 두 열을 다른 테이블의 동일한 단일 열과 일치시킵니다 (총 3 개의 조인).

분류에서Dev

한 버킷에서 이미지를 가져와 S3 boto의 다른 버킷에 넣는 방법

분류에서Dev

Lambda가 15 분을 초과하는 S3의 두 폴더간에 csv 파일을 복사합니다.

분류에서Dev

bash, 파일 이름의 시작 부분에서 처음 3 개의 동일한 문자가있는 마지막 파일을 모두 가져옵니다.

분류에서Dev

동일한 테이블의 서로 다른 두 데이터

분류에서Dev

SQL : 서로 다른 테이블의 두 열이 동일한 SELECT

분류에서Dev

두 개의 다른 모델이 관리자 페이지 django에서 동일한 이름을가집니다.

분류에서Dev

다른 테이블에서 두 개의 서로 다른 ID 년대를 사용하여 동일한 열에서 다른 이름을 가지고

분류에서Dev

파이썬에서 두 개의 다른 변수에서 동일한 난수 두 개가 생성되는 것을 어떻게 방지합니까?

분류에서Dev

S3 버킷에 파일 접두사가 있는지 프로그래밍 방식으로 확인

분류에서Dev

동일한 SQL의 서로 다른 두 테이블에서 두 값을 가져 오는 방법

분류에서Dev

두 개의 다른 LuaScript에서 동일한 이름을 가진 두 함수를로드하는 LuaJ

분류에서Dev

AWS CLI가 s3 버킷의 파일을 검색하고 다른 폴더에 복사

분류에서Dev

Django의 S3 버킷에서 미디어 파일을 다운로드하는 방법

분류에서Dev

두 개의 다른 로거의 두 파일 핸들러가 동일한 내용을 얻습니다.

분류에서Dev

두 가지 다른 형태의 제출 버튼은 동일한 파일로 이동합니다.

분류에서Dev

mysql에서 동일한 테이블의 다른 열에 두 개 이상의 시간 데이터 유형을 추가하는 방법

분류에서Dev

AWS의 s3에서 sagemaker로 파일을 읽으면 403 금지 오류가 발생하지만 다른 작업이 파일에서 작동합니다.

분류에서Dev

두 개의 버튼과 단락을 테이블의 동일한 행에 동일한 수평선에 유지하려고합니다.

분류에서Dev

amazon s3 버킷의 파일을 바꿀 수 없습니다.

분류에서Dev

WPF 두 개의 다른 창에 동일한 이미지 표시

Related 관련 기사

  1. 1

    AWS S3에 파일을 추가 한 후 Snowflake Snowpipe 파일이 자동 수집되지 않음

  2. 2

    AWS Lambda를 사용하여 AWS의 한 s3 버킷에서 다른 버킷으로 파일 이동

  3. 3

    s3 버킷이 퍼블릭 액세스 권한을 부여한 경우 사람이 s3 버킷의 다른 파일을 볼 수 있습니까?

  4. 4

    Ruby를 사용하여 AWS S3의 동일한 디렉터리에있는 파일을 두 개 이상 업로드합니다.

  5. 5

    S3 버킷에서 수십억 개의 파일 압축

  6. 6

    MySQL은 여러 테이블을 사용하여 서로 다른 조건에서 동일한 데이터의 두 가지 다른 개수를 생성합니다.

  7. 7

    동일한 WHERE 절을 가진 두 개의 다른 테이블에서 SELECT?

  8. 8

    s3의 한 폴더에서 다른 폴더로 파일 이동

  9. 9

    동일한 테이블의 두 열을 다른 테이블의 동일한 단일 열과 일치시킵니다 (총 3 개의 조인).

  10. 10

    한 버킷에서 이미지를 가져와 S3 boto의 다른 버킷에 넣는 방법

  11. 11

    Lambda가 15 분을 초과하는 S3의 두 폴더간에 csv 파일을 복사합니다.

  12. 12

    bash, 파일 이름의 시작 부분에서 처음 3 개의 동일한 문자가있는 마지막 파일을 모두 가져옵니다.

  13. 13

    동일한 테이블의 서로 다른 두 데이터

  14. 14

    SQL : 서로 다른 테이블의 두 열이 동일한 SELECT

  15. 15

    두 개의 다른 모델이 관리자 페이지 django에서 동일한 이름을가집니다.

  16. 16

    다른 테이블에서 두 개의 서로 다른 ID 년대를 사용하여 동일한 열에서 다른 이름을 가지고

  17. 17

    파이썬에서 두 개의 다른 변수에서 동일한 난수 두 개가 생성되는 것을 어떻게 방지합니까?

  18. 18

    S3 버킷에 파일 접두사가 있는지 프로그래밍 방식으로 확인

  19. 19

    동일한 SQL의 서로 다른 두 테이블에서 두 값을 가져 오는 방법

  20. 20

    두 개의 다른 LuaScript에서 동일한 이름을 가진 두 함수를로드하는 LuaJ

  21. 21

    AWS CLI가 s3 버킷의 파일을 검색하고 다른 폴더에 복사

  22. 22

    Django의 S3 버킷에서 미디어 파일을 다운로드하는 방법

  23. 23

    두 개의 다른 로거의 두 파일 핸들러가 동일한 내용을 얻습니다.

  24. 24

    두 가지 다른 형태의 제출 버튼은 동일한 파일로 이동합니다.

  25. 25

    mysql에서 동일한 테이블의 다른 열에 두 개 이상의 시간 데이터 유형을 추가하는 방법

  26. 26

    AWS의 s3에서 sagemaker로 파일을 읽으면 403 금지 오류가 발생하지만 다른 작업이 파일에서 작동합니다.

  27. 27

    두 개의 버튼과 단락을 테이블의 동일한 행에 동일한 수평선에 유지하려고합니다.

  28. 28

    amazon s3 버킷의 파일을 바꿀 수 없습니다.

  29. 29

    WPF 두 개의 다른 창에 동일한 이미지 표시

뜨겁다태그

보관