Kā Lstm aprēķina parametru skaitu?
Kā Lstm aprēķina parametru skaitu?

Video: Kā Lstm aprēķina parametru skaitu?

Video: Kā Lstm aprēķina parametru skaitu?
Video: Анализируем отзывы YELP сетью LSTM | Нейросети для анализа текстов 2024, Novembris
Anonim

Tātad, atbilstoši jūsu vērtībām. Ievadot to formulā, iegūst:->(n=256, m=4096), kopā parametru skaits ir 4*((256*256) + (256*4096) + (256)) = 4*(1114368) = 4457472. numuru no svariem ir 28 = 16 (vienību_skaits * vienību_skaits) atkārtotiem savienojumiem + 12 (input_dim * vienību_skaits) ievadei.

Jautāja arī, kā jūs atrodat parametru skaitu?

Uz aprēķināt apgūstamais parametrus šeit viss, kas mums jādara, ir vienkārši reizināt ar platuma m formu, augstumu n un ņemt vērā visus šādus filtrus k. Neaizmirstiet par novirzes terminu katram filtram. Parametru skaits CONV slānī būtu: ((m * n)+1)*k), pievienots 1, jo katram filtram ir novirzes termins.

Tāpat, cik slēpto vienību ir Lstm? An LSTM tīkls. Tīklam ir piecas ieejas vienības , a slēptais slānis sastāv no diviem LSTM atmiņas bloki un trīs izejas vienības . Katram atmiņas blokam ir četras ieejas, bet tikai viena izeja.

Pēc tam var arī jautāt, kā jūs atrodat RNN parametru skaitu?

1 Atbilde. Entītijas W, U un V koplieto visos soļos RNN un šie ir vienīgie parametrus attēlā aprakstītajā modelī. Līdz ar to parametru skaits jāapgūst treniņa laikā = dim(W)+dim(V)+dim(U). Pamatojoties uz jautājuma datiem, šis = n2+kn+nm.

Cik slāņu ir Lstm?

Parasti, 2 slāņi ir izrādījušies pietiekami, lai atklātu sarežģītākas funkcijas. Vairāk slāņi var būt labāk, bet arī grūtāk trenēties. Parasti 1 slēpts slānis strādājiet ar vienkāršām problēmām, piemēram, šī, un pietiek ar divām, lai atrastu pietiekami sarežģītas funkcijas.

Ieteicams: