Ein Hidden Layer (verborgene Schicht) ist eine Schicht künstlicher Neuronen zwischen der Eingabe- und der Ausgabeschicht eines neuronalen Netzwerks, die Eingangsdaten schrittweise in abstraktere Merkmalsrepräsentationen umwandelt.
Erklärung
„Verborgen“ heißt die Schicht, weil ihre Aktivierungswerte weder direkt von außen vorgegeben noch als Endergebnis ausgegeben werden, sondern interne Zwischenzustände bilden. Jede Schicht gewichtet die Ausgaben der vorherigen Schicht über eine Matrixmultiplikation, addiert einen Schwellenwert (Bias) und wendet eine nichtlineare Aktivierungsfunktion wie ReLU oder GELU an. Erst diese Nichtlinearität versetzt mehrschichtige Netze in die Lage, Zusammenhänge jenseits einfacher linearer Trennlinien abzubilden: Frühe Schichten erfassen elementare Muster wie Wortkombinationen, Pixelkanten oder einzelne Zeitreihenschwankungen, während tiefere Schichten daraus semantische Bedeutungen oder komplexe Wechselwirkungen zusammensetzen. In tabellarischen B2B-Prognosemodellen oder Sprachmodellen bestimmt die Anzahl und Breite der Hidden Layers die Modellkapazität, erhöht aber zugleich den Speicherbedarf und das Risiko von Overfitting bei kleinen Datensätzen.