Tensorflow에서 Tensor 마스킹 및 인덱싱을 정확히 어떻게 수행해야합니까?

저는 지금 2 년 동안 TF를 사용해 왔으며 각 프로젝트에서 마스킹에 대해 넌센스 오류가 많이 발생하는데, 일반적으로 도움이되지 않고 실제로 잘못된 것을 나타내지 않습니다. 또는 그보다 최악의 경우 결과는 잘못되었지만 오류는 없습니다. 나는 항상 더미 데이터로 훈련 루프 밖에서 코드를 테스트하고 괜찮습니다. 그러나 훈련 (적합이라고 부름)에서 TensorFlow가 정확히 무엇을 기대하는지 이해하지 못합니다. 예를 들어, 누군가이 코드가 바이너리 교차 엔트로피에서 작동하지 않는 이유를 알려주세요. 결과가 잘못되었으며 모델이 수렴되지 않지만이 경우 오류는 없습니다.

class MaskedBXE(tf.keras.losses.Loss):
    def __init__(self, **kwargs):
        super().__init__(**kwargs)
    def call(self, y_true, y_pred):
        y_true = tf.squeeze(y_true)
        mask = tf.where(y_true!=2)
        y_true = tf.gather_nd(y_true, mask)
        y_pred = tf.gather_nd(y_pred, mask)
        loss = tf.keras.losses.binary_crossentropy(y_true, y_pred)
        return tf.reduce_mean(loss)

이것이 올바르게 작동하는 동안 :

class MaskedBXE(tf.keras.losses.Loss):
    def __init__(self, **kwargs):
        super().__init__(**kwargs)
    def call(self, y_true, y_pred):
        mask = tf.where(y_true!=2, True, False)
        y_true = y_true[mask]
        y_pred = y_pred[mask]
        loss = tf.keras.losses.binary_crossentropy(y_true, y_pred)
        return tf.reduce_mean(loss)

그리고 범주 형 예의 경우 그 반대입니다. 마스크를 y_pred [mask], y_pred [mask [0]]와 같은 인덱스로 사용하거나 tf.squeeze () 등을 사용할 수 없습니다. 그러나 tf.gather_nd () 사용하면 작동합니다. 저는 항상 가능하다고 생각하는 모든 조합을 시도합니다. 왜 그렇게 단순한 것이 이렇게 힘들고 고통 스러워야 하는지를 이해하지 못합니다. Pytorch도 이와 같은가요? Pytorch에 유사한 성가신 세부 사항이 없다는 것을 알고 있으면 기꺼이 전환합니다.

편집 1 : 그들은 훈련 루프 밖에서 올바르게 작동하거나 더 정확하게 그래프 모드를 사용합니다.

y_pred = tf.random.uniform(shape=[10,], minval=0, maxval=1, dtype='float32')
y_true = tf.random.uniform(shape=[10,], minval=0, maxval=2, dtype='int32')

# first method
class MaskedBXE(tf.keras.losses.Loss):
    def __init__(self, **kwargs):
        super().__init__(**kwargs)
        
    def call(self, y_true, y_pred):
        y_true = tf.squeeze(y_true)
        mask = tf.where(y_true!=2)
        y_true = tf.gather_nd(y_true, mask)
        y_pred = tf.gather_nd(y_pred, mask)
        loss = tf.keras.losses.binary_crossentropy(y_true, y_pred)
        return tf.reduce_mean(loss)

    def get_config(self):
        base_config = super().get_config()
        return {**base_config}

# instantiate
mbxe = MaskedBXE()
print(f'first snippet: {mbxe(y_true, y_pred).numpy()}')


# second method
class MaskedBXE(tf.keras.losses.Loss):
    def __init__(self, **kwargs):
        super().__init__(**kwargs)
    def call(self, y_true, y_pred):
        mask = tf.where(y_true!=2, True, False)
        y_true = y_true[mask]
        y_pred = y_pred[mask]
        loss = tf.keras.losses.binary_crossentropy(y_true, y_pred)
        return tf.reduce_mean(loss)
    
    def get_config(self):
        base_config = super().get_config()
        return {**base_config}
    
# instantiate
mbxe = MaskedBXE()
print(f'second snippet: {mbxe(y_true, y_pred).numpy()}')

첫 번째 스 니펫 : 1.2907861471176147

두 번째 스 니펫 : 1.2907861471176147

편집 2 : @jdehesa가 제안한 것처럼 그래프 모드에서 손실을 인쇄 한 후에는 다릅니다.

class MaskedBXE(tf.keras.losses.Loss):
    def __init__(self, **kwargs):
        super().__init__(**kwargs)
    def call(self, y_true, y_pred):
        # first
        y_t = tf.squeeze(y_true)
        mask = tf.where(y_t!=2)
        y_t = tf.gather_nd(y_t, mask)
        y_p = tf.gather_nd(y_pred, mask)
        loss = tf.keras.losses.binary_crossentropy(y_t, y_p)
        first_loss =  tf.reduce_mean(loss)
        tf.print('first:')
        tf.print(first_loss, summarize=-1)
        # second
        mask = tf.where(y_true!=2, True, False)
        y_t = y_true[mask]
        y_p = y_pred[mask]
        loss = tf.keras.losses.binary_crossentropy(y_t, y_p)
        second_loss = tf.reduce_mean(loss)
        tf.print('second:')
        tf.print(second_loss, summarize=-1)
        return second_loss

먼저:

0.814215422

둘째:

0.787778914

먼저:

0.779697835

둘째:

0.802924752

. . .