Question

Durante o treinamento de redes neurais profundas, a estratégia de inicialização dos pesos influencia diretamente o fluxo de gradientes ao longo das camadas e a eficiência do algoritmo de retropropagação (backpropagation). Diante do exposto, assinale a alternativa correta.

Accepted Answer

C) O desaparecimento do gradiente resulta da propagação sucessiva de derivadas de pequena magnitude, dificultando a atualização dos parâmetros das camadas iniciais.

Answer

A) A inicialização dos pesos com valores idênticos favorece a quebra de simetria entre os neurônios, permitindo que cada unidade aprenda representações distintas.

Answer

B) O algoritmo de backpropagation atualiza prioritariamente os parâmetros das camadas ocultas, preservando os pesos da camada de saída durante o treinamento.

Answer

D) A inicialização de Xavier (Glorot Initialization) foi proposta para eliminar o cálculo dos gradientes, simplificando o treinamento de redes profundas.

Answer

E) A inicialização He (He Initialization) foi desenvolvida para funções de ativação lineares, reduzindo a necessidade de retropropagação dos erros.

Mais questões de Inteligência artificial