In den HowTos gibt es einige wichtige Informationen darüber, was man mit Make-Targets wie menuconfig, toolchain, precompiled, recover usw. erreichen kann beim Bau einer DS-Mod-Firmware. Trotzdem gibt es im Forum regelmäßig eine Menge Fragen zum Build-Prozeß - meistens, wenn der Prozeß nicht durchläuft und der betreffende Benutzer nicht weiß, woran das liegt. Der Grund ist meistens, daß es sich um einen unerfahrenen Benutzer handelt, der mit GNU make keine Erfahrung hat, weil er erstens nicht C/C++-Programmierer ist und/oder zweitens bereits die Linux-Kommandozeile per se ein Buch mit sieben Siegeln für ihn ist. Zumindest Ersteres trifft auf mich auch zu, und deshalb habe ich mich mal oberflächlich eingelesen, um das Makefile des DS-Mod besser (oder überhaupt) zu verstehen. Das Ergebnis meiner Arbeit dokumentiere ich hier.
Die Probleme der Hilfesuchenden im Forum hören nämlich nicht damit auf, daß der Build manchmal hängen bleibt. Da viele Fragen aus Sicht der Cracks „dumm“ klingen, sich häufig wiederholen - nicht jeder ist geschickt darin, die Suchfunktion des Forums oder Google zu benutzen, manche sind auch einfach zu faul - und somit manchen Profis lästig sind, fallen die Antworten entsprechend kurz aus, was wiederum zu Rückfragen und mehr „Müll“ im Forum führt. Wenn dann der Hilfesuchende die Ursache des Problems beseitigt hat (Linux-Package nachinstalliert, richtige Option in make menuconfig an-/abgewählt, Patch installiert), bekommt er oftmals den Build trotzdem nicht mehr ans Laufen, weil die Abhängigkeiten nicht hunderprozentig sauber gepflegt sind und er zunächst nochmal ein xy-clean und/oder xy-precompiled aufrufen müßte, ihm das aber keiner gesagt hat, weil es auch schwer vorherzusehen ist.
Der Traum vom perfekten Makefile, das bei jeder Dateiänderung genau das tut, was minimal zu tun wäre, um das aktuelle Target zu bauen, ist grundsätzlich erreichbar, bei uns aber nicht realisiert, obwohl man sagen muß, daß der Make-Prozeß des DS-Mod schon relativ gut ist - nur eben nicht idiotensicher. Das war wohl auch nicht das Ziel, denn ein „Idiot“ sollte keine Firmware für seinen DSL-Router bauen wollen. Andererseits ist es aber auch gut für unsere Gemeinschaft, wenn neuen Mitgliedern die Lernkurve etwas angenehmer gestaltet wird. Es ergibt keinen Sinn, daß jeder das Rad neu erfindet und sich alles selbst erarbeitet, nur weil andere das früher hatten tun müssen.
Nicht mehr aktuell:
Übrigens wird dieser Artikel vermutlich leider (oder Gott sei Dank) bald obsolet sein, denn Daniel (danisahne) arbeitet ja bereits am DS-Mod der nächsten Generation, welcher sowieso eine neue Struktur und vermutlich ein völlig anderes Makefile haben wird.
Basis dieser Dokumentation ist ds-0.2.9_26-13, der von Oliver (olistudent) gepflegte Entwicklungszweig des DS-Mod mit Kernel 2.6 (daher _26). Die 13 am Ende bezieht sich auf die Versionsnummer in Olivers (halb) privatem Subversion-Repository. Es gibt inzwischen neuere Versionen, im Freetz. Außerdem spielt das keine Rolle, da sich im Build-Prozeß nichts Prinzipielles geändert hat.
Das würde hier wirklich den Rahmen sprengen, daher nur ein paar Links. Sich einzulesen, lohnt sich - Bildung ist nie umsonst:
Die modifizierte Firmware wird zusammengebaut aus mehreren Komponenten:
Original-Firmware, bestehend aus Linux-Kernel und -Dateisystem. Sie bildet die Basis und das Grundgerüst für den Mod. Fälschlicherweise wird von vielen Einsteigern angenommen, die Original-Firmware werde weggeworfen und komplett durch etwas Selbstgebautes ersetzt. Dem ist nicht so. Viele wichtige Bestandteile werden übernommen, wie sie sind und um neue Funktionen ergänzt bzw. Einzelteile gezielt ausgetauscht. Wichtige Bestandteile der Original-FW sind
Kernel (früher 2.4, aktuell 2.6). Für Daniels Mod konnte ein 2.4er Kernel übernommen werden, für Olivers Version muß er durch einen selbst gebauten 2.6er ersetzt werden. Nimmt man als Basis eine Original-FW mit 2.6er Kernel, kann man diesen übernehmen oder wahlweise ebenfalls ersetzen.
Dateisystem mit Standard-UNIX-Tools und AVM-spezifischen Werkzeugen (z.B. Web-Oberfläche). Wird (fast) unverändert übernommen mit einer wichtigen Ausnahme (siehe nächster Punkt).
Busybox: Sammlung der wichtigsten Kommandozeilenwerkzeuge, optimiert für Embedded-Systeme und enthalten in einer einzigen ausführbaren Datei. Die einzelnen Werkzeuge werden über symbolische Links auf die
Busybox als scheinbar eigenständige Namen realisiert.
Der DS-Mod selbst präsentiert sich nach dem Auspacken des entsprechenden Archivs (z.B. ds-0.2.9_26-13.tar.bz2) entsprechend der folgenden alphabetisch, nicht nach Wichtigkeit, sortierten Liste. (Die Unterverzeichnisse build, packages, source werden erst beim ersten Make-Lauf erzeugt.)
Es dürfte allgemein bekannt sein, daß die drei wichtigsten Make-Targets - in dieser Reihenfolge aufzurufen - lauten:
make menuconfig - interaktiv Pakete zusammenstellen, zusätzliche Bibliotheken auswählen, Konfiguration speichern
make precompiled - Toolchains bauen (sofern kein externer Compiler ausgewählt wurde), danach Bibliotheken, Linux-Kernel und Packages bauen.
make (Standard-Target) - Tools und Firmware bauen
Daneben gibt es eine beträchtliche Anzahl weiterer Make-Targets, die teilweise nicht direkt im Makefile sichtbar sind, sondern durch automatisierte Ersetzungsvorgänge erzeugt werden. Das hat den Vorteil, daß es z.B. pro Package jeweils die gleichen Sub-Targets gibt und man somit immer die Möglichkeit hat, durch einen Make-Aufruf direkt Einfluß auf einzelne Pakete zu nehmen (z.B. aufräumen, nochmal neu übersetzen). Wenn also make precompiled beispielsweise im Paket mc hängen geblieben ist, weil ein zum Bauen notwendiges Linux-Paket in unserer Distribution gefehlt hat, das wir erst noch per Paketmanager installieren mußten, kann es sein, daß ein erneuter Aufruf des globalen precompiled anschließend trotzdem nicht durchläuft, weil es Inkonsistenzen im Package-Build gibt. Da hilft dann meistens eine Sequenz wie make <Paket>-clean, make <Paket>-precompiled, also z.B. mc-clean und mc-precompiled. Wie die Pakete heißen, sieht man an den Namen der Unterverzeichnisse im Verzeichnis make.
Es gibt generell zwei Arten, Make für hierarchisch strukturierte Builds zu benutzen. Die eine, althergebrachte, geht von einem Makefile im Hauptverzeichnis und jeweils einem weiteren Makefile pro Unterverzeichnis aus. Daß dies keine gute Idee ist, wird in Recursive Make Considered Harmful überzeugend dargelegt. Die gute Nachricht ist: Der DS-Mod verwendet die zweite Methode, und zwar Include-Dateien in den Unterverzeichnissen. D.h., das Makefile lädt die für das aktuelle Target notwendigen Includes dynamisch nach und erzeugt so ein einziges, großes, virtuelles Makefile, welches dann abgearbeitet wird. Das ist schön, führt aber dazu, daß wir im Makefile sehen, wie Dinge aufgerufen und abgearbeitet werden, deren Herkunft nicht ganz so leicht festzustellen ist, wenn man sich nicht im Detail die Verzeichnisstruktur ansieht. Ich versuche hier, das ein wenig transparenter zu machen.
Zunächst inkludiert das Makefile die Konfigurationsdatei .config im Hauptverzeichnis. Sie wiederum enthält die in make menuconfig festgelegten Optionen für die Zusammenstellung des Firmware-Images. Damit wird schon klar, weshalb wir make menuconfig immer als erstes aufrufen sollten. Die Datei existiert übrigens direkt nach dem Auspacken des Mod-Archivs auch noch gar nicht. Ausnahme für den Include: Sofern wir nur Targets aus der Gruppe menuconfig, config, oldconfig, defconfig, tools bauen wollen, erfolgt kein Include an dieser Stelle, da diese Targets ihn nicht benötigen.
Etwas später erfolgt das Inkludieren von tools/make/Makefile.in sowie tools/make/*.mk, was dazu führt, daß die einzelnen Tool-Targets (find-squashfs, lzma, squashfs, tichksum, makedevs, fakeroot, tar) der Variablen TOOLS hinzugefügt werden. Anschließend wird pro Tool-Target noch eine Liste von Sub-Targets erzeugt:
<tool>: Baut das Tool.
<tool>-source: Packt die Quelldateien aus, damit anschließend das Tool gebaut werden kann.
<tool>-clean: Ruft im Tool-Unterverzeichnis das eigene Makefile des Tools mit make clean auf. Das Target clean löscht meistens sämtliche generierten Dateien und Verzeichnisse, um anschließend sauber neu aufsetzen zu können.
<tool>-dirclean: Löscht das gesamte Tool-Unterverzeichnis. Das ist praktisch, wenn man eine neuere Version auspacken und die alte vorher komplett wegräumen möchte.
<tool>-distclean: Löscht im Tool-Unterverzeichnis das Distributions-Verzeichnis, in dem die gebauten Dateien installationsfertig liegen.
Jetzt ist .config.cmd dran. Dadurch werden rekursiv Konfigurations-Schalter diverser Pakete eingelesen, die später dem Build zur Verfügung stehen.
Richtig rund geht es jetzt, denn include make/Makefile.in, make/*/Makefile.in, toolchain/make/Makefile.in und die entsprechenden *.mk-Dateien sorgen für noch mehr Informationen im virtuellen Makefile. Anschließend haben wir, analog zu den Tools oben, folgende Targets zur Verfügung, die sich in die Gruppen TARGETS, PACKAGES, LIBS, TOOLCHAIN aufteilen:
<target>-precompiled: Baut ein Target, das nicht zu einem Package, zur Gruppe der Bibliothekten-Targets oder zur Toolchain gehört. Darunter fallen z.B. der Linux-Kernel, der
CGI-Mod (Web-Oberfläche des
DS-Mods), die Busybox, das
CGI-Tool Haserl (momentan kein Package), iptables sowie die AVM-
GPL-Quellen.
<target>-source: Packt die Quelldateien aus, damit anschließend das Target gebaut werden kann.
<target>-clean: Ruft im Target-Unterverzeichnis das eigene Makefile des Targets mit make clean auf. Das Target clean löscht meistens sämtliche generierten Dateien und Verzeichnisse, um anschließend sauber neu aufsetzen zu können.
<target>-dirclean: Löscht das gesamte Target-Unterverzeichnis. Das ist praktisch, wenn man eine neuere Version auspacken und die alte vorher komplett wegräumen möchte.
<package>-precompiled: Baut ein Package.
<package>-source: Packt die Quelldateien aus, damit anschließend das Package gebaut werden kann.
<package>-clean: Ruft im Package-Unterverzeichnis das eigene Makefile des Packages mit make clean auf. Das Target clean löscht meistens sämtliche generierten Dateien und Verzeichnisse, um anschließend sauber neu aufsetzen zu können.
<package>-dirclean: Löscht das gesamte Package-Unterverzeichnis. Das ist praktisch, wenn man eine neuere Version auspacken und die alte vorher komplett wegräumen möchte.
<package>-package: Habe ich mir nicht komplett angeschaut, scheint aber für das Erzeugen eines Package-Archivs (tar.bz2) zuständig zu sein, wie man es dann später für andere zum Download bereitstellt.
<package>-list: Fügt das Package entweder der Liste der statischen oder der dynamischen Pakete hinzu.
<lib>-precompiled: Baut eine Bibliothek, z.B. uClibc, ncurses, libcrypt, openSSL.
<lib>-source: Packt die Quelldateien aus, damit anschließend die Bibliothek gebaut werden kann.
<lib>-clean: Ruft im Bibliotheks-Unterverzeichnis das eigene Makefile der Bibliothek mit make clean auf. Das Target clean löscht meistens sämtliche generierten Dateien und Verzeichnisse, um anschließend sauber neu aufsetzen zu können.
<lib>-dirclean: Löscht das gesamte Bibliotheks-Unterverzeichnis. Das ist praktisch, wenn man eine neuere Version auspacken und die alte vorher komplett wegräumen möchte.
<toolchain>: Baut eine Toolchain (Kernel- oder Target-Toolchain).
<toolchain>-source: Packt die Quelldateien aus, damit anschließend die Toolchain gebaut werden kann.
<toolchain>-clean: Ruft im Toolchain-Unterverzeichnis das eigene Makefile der Toolchain mit make clean auf. Das Target clean löscht meistens sämtliche generierten Dateien und Verzeichnisse, um anschließend sauber neu aufsetzen zu können.
<toolchain>-dirclean: Löscht das gesamte Toolchain-Unterverzeichnis. Das ist praktisch, wenn man eine neuere Version auspacken und die alte vorher komplett wegräumen möchte.
<toolchain>-distclean: Löscht im Toolchain-Unterverzeichnis das Distributions-Verzeichnis.
Im vorigen Schritt kamen noch zwei weitere Targets hinzu, die es ermöglichen, zwei zentrale Teile der Firmware noch individueller zu gestalten:
kernel-menuconfig: Auch der Linux-Kernel hat eine hübsche Konfigurationsoberfläche, in der man allerhand einstellen kann. Ich halte es persönlich für wenig empfehlenswert, hier etwas zu ändern - es sei denn, man kennt sich wirklich gut damit aus. Es wird sehr schwierig, im Forum Hilfe zu finden, wenn man einen anders konfigurierten Kernel hat als der Rest der Welt.
busybox-menuconfig: Auch die Busybox kann man an diversen Stellen um Features ergänzen auf Kosten ihrer Größe. Die Besitzer der 8-
MB-Boxen (z.B. 7170) haben in der Regel noch genug Platz, um hier das eine oder andere Feature hinzuzufügen. Hier empfehle ich, nichts wegzulassen, was standardmäßig enthalten ist, damit auch wieder die Vergleichbarkeit bei Diskussionen im Forum da ist. Es bringt nichts, das
Gunzip-Feature in
Tar zu deaktivieren und hinterher dann im Forum zu fragen, weshalb ein
Gzip-Archiv nicht entpackt werden konnte. Hingegen stört es wenig, wenn man zusätzlich
Bunzip2 aktiviert, weil es ja nur ein Zusatz ohne Seiteneffekte (nach menschlichem Ermessen) ist.
Direkt im Top-Level-Makefile, also nicht inkludiert, sind weitere Targets enthalten.
Teilweise handelt es sich um Hilfs-Targets, welche man selten manuell aufrufen wird, weil sie hauptsächlich zur Verwendung seitens übergeordneter Targets gedacht sind. Beispiele hierfür sind config, oldconfig, defconfig.
Desweiteren gibt es das Utility-Target recover, mit welchem man eine zerschossene Box wiederbeleben kann (Details würden den Rahmen des Artikels sprengen).
Dann gibt es noch Sammel-Targets wie sources, precompiled, libs, packages-precompiled, welche eine ganze Gruppe ähnlich lautender oder dem Zweck nach verwandter Sub-Targets aufrufen.
Wenn man nur eine Firmware zusammenbauen möchte und alle dafür notwendigen Vorarbeiten (Toolchains bauen, make precompiled) bereits erledigt sind, kann man das Target firmware benutzen. Es baut bei Bedarf noch die Tools (nicht mit den Toolchains zu verwechseln) und macht sich dann ans Werk. Am Ende hat man ein Firmware-Image im Hauptverzeichnis mit dem Namen *.image. Das Target wird implizit aufgerufen, wenn mann einfach make aufruft, also das Default-Target baut. Übrigens erledigt das Skript fwmod im Wurzelverzeichnis die ganze Arbeit des Firmware-Bauens. Es ist sicher interessant, sich dieses Skript mal im Detail anzusehen, wenn man wissen möchte, was da so alles passiert.
So, ich hoffe, dieser Artikel bringt dem einen oder anderen Modder etwas. Diskussionen, Feedback, Korrekturen hierzu sind wie immer willkommen und können im zugehörigen Forums-Thread eingebracht werden.
Alexander Kriegisch (kriegaex)