Lu D

Mỗi lớp Encoder và Decoder trong Transformer còn bao gồm một mạng nơ-ron hồi tiếp (feed-forward network) được áp dụng cho mỗi phần tử trong chuỗi. Mạng này giúp mô hình học được các biểu diễn phức tạp hơn