Natürliche Sprachanweisungen induzieren kompositionelle Verallgemeinerung in Netzwerken von Neuronen
In dieser Studie wird eine Modellarchitektur namens Sensorimotor-RNN vorgestellt. Diese basiert auf gated recurrent units (GRU) mit ReLU-Nichtlinearitäten und 256 versteckten Einheiten. Die Netzwerke der Sensorimotor-Einheiten verwenden das gleiche Verfahren zur Initialisierung des versteckten Zustands. Die Eingaben für die Netzwerke ...