حافظه بلند کوتاه مدت، که ابداع هوچریتر و اشمیت هابر در سال 1997 بود، یک ساختار شبکه عصبی است که برخلاف شبکه عصبی بازگشتی مشکل گرادیان محو شونده را ندارد. این حتی زمانی که تأخیرهای طولانی وجود داشته باشند، کار میکند، و این میتواند سیگنالهایی را کنترل کند که دارای ترکیبی از مؤلفههای فرکانس کوتاه و بلند هستند. LSTM RNN شبکه عصبی بازگشتی دیگر و سایر روشهای یادگیری رشته مانند HMM در کاربردهای متعدد مانند یادگیری زبان و شناسایی دست نوشته مربوطه را اجرا کرد.
شبکه عصبی بازگشت دو طرفه
شبکههای عصبی بازگشتی دو طرفه یا BRNNها، که ابداع اشوستر و پالیوال در سال 1997 بودند، از یک رشته متناهی برای پیشبینی یا برچسب زدن به هر عنصر رشته براساس زمینه گذشته و آینده عنصر استفاده میکنند. این کار با افزودن خروجیهای دو شبکه عصبی بازگشتی انجام میشود: اولی رشته را از چپ به راست و دیگری از راست به چپ پردازش میکند. خروجیهای ترکیبی پیشبینیهای سیگنالهای هدف فرضی آموزنده هستند. اثبات شد که این تکنیک به ویژه هنگام ترکیب با LSTM RNNها مفید است.
شبکه عصبی بازگشتی سلسله مراتبی
نمونههای زیادی از شبکه عصبی بازگشتی سلسله مراتبی وجود دارند که عناصرشان به روشهای مختلفی برای تجزیه رفتار سلسله مراتبی به زیربرنامههای مفید به هم متصل میشوند.
شبکههای عصبی تصادفی
یک شبکه عصبی تصادفی با شبکه عصبی نوعی متفاوت است چون این متغیرهای تصادفی را وارد شبکه میکند. در دیدگاه احتمالی شبکههای عصبی، این متغیرهای تصادفی را میتوان به شکل نمونه برداری آماری، مانند نمونه برداری مونته کارلو مشاهده کرد.
شبکههای عصبی پیمانهای
مطالعات بیولوژیکی نشان دادهاند که مغز انسان نه به عنوان یک شبکه انبوه یکتا، بلکه به صورت مجموعهای از شبکههای کوچک عمل میکند. این تحقق به مفهوم شبکههای عصبی پیمانهای تولد بخشید، که در آن، چندین شبکه کوچک برای حل مشکلات همکاری یا رقابت میکنند.
هیئت ماشینها
هیئتی از ماشینها مجموعهای از شبکههای عصبی مختلف است که با همدیگر روی یک نمونه فرضی «نظر میدهند». این به طور کلی در مقایسه با سایر مدلهای شبکه عصبی نتیجهای بسیار بهتر به دست میدهد. چون شبکههای عصبی دستخوش یک مینیمم محلی میشوند، با شروع از همان معماری و آموزش، اما با استفاده از وزنهای مختلف تصادفی اولیه اغلب به طور گسترده شبکههای متفاوتی به دست میدهد. یک هیئت ماشینها تمایل دارد تا نتیجه را به ثبات برساند.
هیئت ماشینها مشابه با روش کیسهای یادگیری ماشینی عمومی است، جز اینکه انواع و اقسام ضروری ماشینها در هیئت با ردیف کردن از وزنهای تصادفی آغازگر مختلف نه ردیف کردن روی زیرمجموعههای به طور تصادفی انتخاب شده از داده ردیفی به دست میآید.
شبکه عصبی تداعیگرایانه
یک شبکه عصبی تداعیگرایانه بسطی از هیئت ماشینهایی است که به فراسوی میانگین ساده/وزن دار مدلهای مختلف میرود. شبکه عصبی تداعیگرایانه (http://cogprints.soton.ac.uk/documents/disk0/00/00/14/41/index.html) نشان دهنده ترکیبی از مجموع شبکههای عصبی فیدفوروارد و تکنیک kامین همسایه نزدیک است. این از ارتباط میان پاسخهای مشابه به عنوان میزان فاصله میان موارد تحلیل شده برای تکنیک kامین همسایه نزدیک استفاده میکند. این بایاس مجموع شبکه عصبی را تصحیح میکند. یک شبکه عصبی تداعیگرایانه دارای حافظهای است که میتواند مصادف با مجموعه ردیفی باشد. اگر داده جدید موجود شود، شبکه فوراً توانایی پیشگویانه خود را بهبود میبخشد و تقریب داده (خودیادگیری داده) بدون نیاز به حفظ مجموعه را در اختیار میگذارد. ویژگی دیگر شبکه عصبی تداعیگرایانه احتمال تعبیر نتایج شبکه با تحلیل ارتباطات میان موارد داده در فضای مدلها است. روش در www.vcclab.org (http://www.vcclab.org/lab/asnn) نشان داده میشود، که در آن، میتواند به صورت آنلاین یا دانلود شده به کار رود.