Der Aufbau der verschiedenen Behörden und Einrichtungen der Bundesländer ist streng hierarchisch organisiert und in den jeweiligen Landesorganisationsgesetzen festgelegt. Zu der Landesverwaltung gehören dabei nicht nur die „klassischen“ Behörden, sondern auch landeseigene Betriebe sowie Anstalten und Stiftungen des öffentlichen Rechts.
Landesbetriebe sind rechtlich unselbstständige, Organisationseinheiten, deren Tätigkeit erwerbswirtschaftlich oder zumindest auf Kostendeckung ausgerichtet ist. Beispielhaft kann der Landesbetrieb Straßenbau NRW (Straßen.NRW) genannt werden.
Stiftungen und Anstalten sind neben den Körperschaften Organisationstypen von juristischen Personen des öffentlichen Rechts, d. h. vereinfacht gesagt, öffentlich-rechtlich organisierte Einrichtungen, die einem bestimmten Zweck dienen, wie z. B. die Stiftung Preußischer Kulturbesitz, welche mit der Aufgabe der Bewahrung und Pflege der Kulturgüter Preußens betraut ist.
Der hierarchische Behördenaufbau bedeutet auch, dass die jeweils nachgeordneten Landesbehörden der sog. Dienst– und Fachaufsicht unterstehen. Unter der Dienstaufsicht versteht man die Aufsicht über den Aufbau, die innere Ordnung, die allgemeine Geschäftsführung und die Personalangelegenheiten einer Behörde, vgl. § 12 Abs. 1 LOG NRW. Die Fachaufsicht hingegen erstreckt sich auf die rechtmäßige und zweckmäßige Wahrnehmung der Aufgaben, vgl. § 13 Abs. 1 LOG NRW.