VSCode拡張機能を使用して紺碧の関数にパンダエクストラを備えたpython-snowflakeコネクタを利用してPythonコードをデプロイしようとしています。関数をローカルで実行すると機能し、デプロイメント自体も機能します
デプロイ中にインストールされた依存関係のrequirements.txtは次のようになります。
azure-functions
xlrd
numpy
pandas
azure-storage-blob
snowflake-connector-python
コードのインポートは次のとおりです。
import numpy as np
import pandas as pd
import azure.storage.blob
from azure.storage.blob import BlobServiceClient, BlobClient, ContainerClient
import snowflake.connector
from snowflake.connector import DictCursor
#from snowflake.connector.pandas_tools import write_pandas
これらの要件により、すべてが機能します。
問題は、スノーフレークコネクタ用のパンダエクストラを含めるように変更するrequirements.txt
とすぐに(コードで必要です):
azure-functions
xlrd
numpy
pandas
azure-storage-blob
snowflake-connector-python[pandas]
関数を実行しようとすると、次のエラーメッセージが表示されます。
Result: Failure Exception: KeyError: 'snowflake-connector-python' Stack: File "/azure-functions-host/workers/python/3.8/LINUX/X64/azure_functions_worker/dispatcher.py", line 262, in _handle__function_load_request func = loader.load_function( File "/azure-functions-host/workers/python/3.8/LINUX/X64/azure_functions_worker/utils/wrappers.py", line 32, in call return func(*args, **kwargs) File "/azure-functions-host/workers/python/3.8/LINUX/X64/azure_functions_worker/loader.py", line 76, in load_function mod = importlib.import_module(fullmodname) File "/usr/local/lib/python3.8/importlib/__init__.py", line 127, in import_module return _bootstrap._gcd_import(name[level:], package, level) File "<frozen importlib._bootstrap>", line 1014, in _gcd_import File "<frozen importlib._bootstrap>", line 991, in _find_and_load File "<frozen importlib._bootstrap>", line 961, in _find_and_load_unlocked File "<frozen importlib._bootstrap>", line 219, in _call_with_frames_removed File "<frozen importlib._bootstrap>", line 1014, in _gcd_import File "<frozen importlib._bootstrap>", line 991, in _find_and_load File "<frozen importlib._bootstrap>", line 975, in _find_and_load_unlocked File "<frozen importlib._bootstrap>", line 671, in _load_unlocked File "<frozen importlib._bootstrap_external>", line 783, in exec_module File "<frozen importlib._bootstrap>", line 219, in _call_with_frames_removed File "/home/site/wwwroot/HttpTrigger1/__init__.py", line 23, in <module> import snowflake.connector File "/home/site/wwwroot/.python_packages/lib/site-packages/snowflake/connector/__init__.py", line 17, in <module> from .connection import SnowflakeConnection File "/home/site/wwwroot/.python_packages/lib/site-packages/snowflake/connector/connection.py", line 47, in <module> from .cursor import SnowflakeCursor, LOG_MAX_QUERY_LENGTH File "/home/site/wwwroot/.python_packages/lib/site-packages/snowflake/connector/cursor.py", line 48, in <module> from .arrow_result import ArrowResult File "arrow_result.pyx", line 16, in init snowflake.connector.arrow_result File "/home/site/wwwroot/.python_packages/lib/site-packages/snowflake/connector/options.py", line 35, in <module> _pandas_extras = pkg_resources.working_set.by_key['snowflake-connector-python']._dep_map['pandas']
関数を正しく実行する方法に関するヘルプやアイデアはありますか?ありがとうございました!
パンダツールのバグのようですが、同じ問題が発生しています。パンダツールを使用する予定があるものによっては、それを回避できる場合があります。
私の関数はSnowflakeにクエリを実行するときにfetch_pandas_all()関数に依存していましたが、基本のsnowflake-connector-pythonパッケージをインストールし、pandasの直接インストールを使用するだけで回避できました。その後、次のコードを使用するようにコードを変更しました。 :
import logging
import snowflake.connector
import pandas as pd
class SnowflakeReader(object):
def __init__(self, accnt: str, warehouse: str, dbuser: str, pw: str, db: str, dbschema: str):
self.accnt = accnt
self.warehouse = warehouse
self.db = db
self.dbschema = dbschema
self.dbuser = dbuser
self.pw = pw
def form_connection(self):
try:
ctx = snowflake.connector.connect(
user = self.dbuser,
password = self.pw,
account = self.accnt,
warehouse = self.warehouse,
database = self.db,
schema = self.dbschema
)
except Exception as e:
logging.error('Failed to connect to Snowflake: ' + str(e))
return ctx
def read_all(self, query: str, conn) -> pd.DataFrame:
self.query = query
self.conn = conn
try:
cs = conn.cursor()
sql_cmd = self.query
cs.execute(sql_cmd)
result = cs.fetchall()
result_df = pd.DataFrame(result)
except Exception as e:
logging.error('Failed to read from Snowflake: ' + str(e))
return result_df
write_pandasをインポートしようとしていたようです。これにより、DataFrameをSnowflakeのテーブルに直接書き込むことを望んでいるように思われます。その場合は、古いSQLAlchemyベースのアプローチを使用して同様の回避策を構築するか、DataFrameをdictに変換し、execute()関数を使用して挿入ステートメントに渡すことができる場合があります。
この記事はインターネットから収集されたものであり、転載の際にはソースを示してください。
侵害の場合は、連絡してください[email protected]
コメントを追加