FFN（Feed-Forward Network）是前饋神經(jīng)網(wǎng)絡(luò)，是一種在深度學(xué)習(xí)模型中用于特征變換的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)。

FFN由線性變換和激活函數(shù)兩部分組成，通過(guò)增加模型深度和寬度，能夠更好地捕捉輸入序列的全局依賴性。在Transformer模型中，F(xiàn)FN層位于自注意力層之后，主要負(fù)責(zé)增強(qiáng)模型的表達(dá)能力，尤其適用于處理復(fù)雜序列的任務(wù)。