camadas neurais recorrentes em Keras

votos
4

Estou aprendendo redes neurais através Keras e gostaria de explorar o meu conjunto de dados seqüencial em uma rede neural recorrente. Eu estava lendo os documentos e tentando fazer sentido do exemplo LSTM .

Minhas perguntas são:

  1. O que são o timestepsque são necessários para ambas as camadas?
  2. Como devo me preparar um conjunto de dados seqüencial que trabalha com Densecomo uma entrada para essas camadas recorrentes?
  3. O que a Embeddingcamada de fazer?
Publicado 10/08/2015 em 14:33
fonte usuário
Em outras línguas...                            


1 respostas

votos
0

  1. Timesteps são uma coisa bonita de se incomodar com Keras. Devido ao fato de que os dados que você fornecer como uma entrada para o seu LSTM deve ser uma matriz numpy é necessário (pelo menos para a versão Keras <= 0.3.3) para ter uma forma específica de dados - mesmo com uma dimensão "tempo". Você só pode colocar sequências que têm um comprimento especificado como uma entrada - e no caso de suas entradas variam em comprimento - você deve usar um de dados artificiais para "encher" as seqüências ou usar um modo "stateful" (leia atentamente Keras documentação para entender o que esta abordagem significa). Ambas as soluções podem ser unpleasent - mas é um custo que você paga que Keras é tão simples :) Espero que na versão 1.0.0 eles vão fazer alguma coisa com isso.

  2. Existem duas formas de aplicar camadas norecurrent após os LSTM:

    • você pode definir um return_sequences argumento como FALSO - então apenas os últimos ativações de cada seqüência será passada para uma camada de "estático".
    • você pode usar uma das camadas "de tempo distribuída" - para obter mais flexibilidade com o que você quer fazer com seus dados.
  3. https://stats.stackexchange.com/questions/182775/what-is-an-embedding-layer-in-a-neural-network :)

Respondeu 09/04/2016 em 22:38
fonte usuário

Cookies help us deliver our services. By using our services, you agree to our use of cookies. Learn more