المحوّلات تزيل عنق زجاجة الشبكات العصبية المتكررة

المقصود

تُزيل بنية المحوّل الشبكات العصبية المتكررة (RNNs) وتتيح المعالجة المتوازية لرموز الإدخال، مما يسرّع معالجة الإدخال.

“a 7B-parameter model will be vastly easier to deploy than a 175B-parameter model.”

📕 من كتاب: AI Engineering بقلم Chip Huyen

يُثبت وجود فرق معماري أساسي بين المحوّلات وأنظمة التسلسل-إلى-تسلسل المعتمدة على الشبكات العصبية المتكررة.

لا يثبت أن المحوّلات أسرع في كل حالة أو لكل مهمة ممكنة.