Diffusers documentation
LatteTransformer3DModel
LatteTransformer3DModel
نموذج Latte لتحويل الانتشار (Diffusion Transformer) للبيانات ثلاثية الأبعاد.
LatteTransformer3DModel
فئة diffusers.LatteTransformer3DModel
< source >( num_attention_heads: int = 16attention_head_dim: int = 88in_channels: int | None = Noneout_channels: int | None = Nonenum_layers: int = 1dropout: float = 0.0cross_attention_dim: int | None = Noneattention_bias: bool = Falsesample_size: int = 64patch_size: int | None = Noneactivation_fn: str = 'geglu'num_embeds_ada_norm: int | None = Nonenorm_type: str = 'layer_norm'norm_elementwise_affine: bool = Truenorm_eps: float = 1e-05caption_channels: int = Nonevideo_length: int = 16 )
forward
< source >( hidden_states: Tensortimestep: typing.Optional[torch.LongTensor] = Noneencoder_hidden_states: typing.Optional[torch.Tensor] = Noneencoder_attention_mask: typing.Optional[torch.Tensor] = Noneenable_temporal_attentions: bool = Truereturn_dict: bool = True )
المعاملات
- hidden_states (
torch.Tensorمن الشكل(batch size, channel, num_frame, height, width)) — مدخلاتhidden_states. - timestep (
torch.LongTensor, اختياري) — يُستخدم للإشارة إلى خطوة إزالة الضوضاء. خطوة زمنية اختيارية تُطبَّق كتمثيل مضمّن فيAdaLayerNorm. - encoder_hidden_states (
torch.FloatTensorمن الشكل(batch size, sequence len, embed dims)، اختياري) — تضمينات شرطية لطبقة الانتباه المتقاطع. إذا لم تُقدَّم، فإن الانتباه المتقاطع يتحول افتراضيًا إلى الانتباه الذاتي. - encoder_attention_mask (
torch.Tensor, اختياري) — قناع الانتباه المتقاطع المطبّق علىencoder_hidden_states. يُقبل صيغتان:- قناع
(batcheight, sequence_length)True = احتفظ، False = استبعد. - الانحياز
(batcheight, 1, sequence_length)0 = الإبقاء، -10000 = التخلّي.
إذا كان
ndim == 2: سيتم تفسيره كقناع، ثم تحويله إلى انحياز متوافق مع التنسيق المذكور أعلاه. سيُضاف هذا الانحياز إلى درجات الانتباه المتقاطع. - قناع
- enable_temporal_attentions —
(
bool، اختياري، القيمة الافتراضيةTrue): ما إذا كان سيتم تفعيل الانتباه الزمني. - return_dict (
bool، اختياري، القيمة الافتراضيةTrue) — ما إذا كان يجب إرجاع~models.unet_2d_condition.UNet2DConditionOutputبدلاً من tuple عادي.
طريقة LatteTransformer3DModel الأمامية.