Teile und Herrsche 2 SS09
Inhaltsverzeichnis |
Diese Seite stellt eine inhaltliche Fortsetzung des Themas Teile und Herrsche 1 dar.
Wichtig! Die Seite ist noch NICHT FINAL es können sich noch Fehler und unsauberkeiten finden lassen, erst wenn dieser Text hier nicht mehr zu lesen ist, wird die Seite von Uns als fertig betrachtet!
Zusammenfassung
Auf dieser Seite soll versucht werden, die Algorithmen Binäre Suche, Strassens-Matrix-Multiplikation und den Multiplikations Algorithmus von Karatsuba in Hinblick auf die Arbeitsweisen und den Aufwand (Effiziensanalyse) der einzelnen Verfahren vorzustellen. Dabei findet ihr verschiedene Implementierungen der Algorithmen in Java und Scheme.
Die Übungsaufgaben zu diesen Themen findet ihr hier Aufgaben - TuH2. Ihr findet aber auch im Text Hinweise und Hilfestellungen zu etwaigen Problemen auf die man während der Bearbeitung stoßen könnte.
Binäre Suche
Wie funktionierts?
Jeder war bestimmt schon einmal in einer Situation, in der man aus einer großen Menge von Informationen eine Bestimmte wiederfinden musste. Als Beispiel dient das Suchen einer Seite anhand Ihrer Seitenzahl in dicken Büchern. Die meisten Menschen schauen in das Inhaltsverzeichnis und erhält die Seitenzahl der gesuchten Information. Dann schlägt man das Buch in der Mitte auf und schaut ob die Seiteanzahl der Seite, auf der man sich nun befindet, größer oder kleiner ist, als die Seitenzahl unserer gesuchten Seite. Abhängig vom Ergebnis nimmt man die vordere oder hintere Hälfte des Buches und schlägt man von dieser die Hälfte auf und vergleicht wieder... das wiederholt man solange bis die gesuchte Seite auftaucht.
Der Trick besteht also darin, den Suchraum stets zu halbieren und festzustellen, in welcher Hälfte unsere gesuchte Information wohl zu finden ist. Diese Hälfte wird dann wieder halbiert und es wird wieder verglichen und so weiter... . Um nun auf einen konkreten Algorithmus und dessen Effizienzanalyse hinzuarbeiten, reduzieren wir das Problem auf eine aufsteigend sortierte Liste mit Integerzahlen.
Also nun zu unserer Liste:
$$L= \{ e_{1}, e_{2}, ... , e_{n} \}$$Wie erwähnt, muss die Liste bereits zu begin geteilt werden, dies geschieht beim Element mit dem Index k, die Mitte der Liste ist also k = \frac{n}{2}. Wobei man ja davon ausgehen kann, das die Liste nicht zwangsläufig ungerad zahlig viele Elemente besitzt, sodass man ein Element in der Mitte ausmachen kann. Also müssen wir unser k folgendermassen korrigieren k = \lfloor\frac{n}{2}\rfloor somit nehmen wir bei der Division den ganzzahligen Wert, nach unten gerundet.
Nun haben wir eine linke Teilliste L_{l}=\{e_{1}, e_{2}, ... a_{k}\} und eine rechte Teilliste L_{r}=\{e_{k+1}, e_{k+2}, ... e_{n}\} oder anders dargestellt:
L = \underbrace{e_{1}, e_{2}, ... e_{k}}_{L_{\text{l}}}, \underbrace{e_{k+1}, e_{k+2}, ... e_{n}}_{L_{\text{r}}}Jetzt wird unser Zielwert x mit dem ersten Element der rechten Liste x < a_{k+1} verglichen, abhängig vom Ergebnis wird mit L_{r} oder L_{l} weiter gearbeitet bzw. das Element ausgegeben. Natürlich kann bereits zu Begin der Elementarfall eintreten das a_{k} = x ist.
Fassen wir es noch einmal zusammen:
BinSuch = \left\{% \begin{array}{ll} BinSuch(L_{\text{l}}) &\textrm{wenn }x<a_{k},\\ BinSuch(L_{\text{r}}) &\textrm{wenn }x>a_{k},\\ print(a_{k}) &\textrm{wenn } x = a_{k}, \\ \textrm{"nicht Enthalten"} &\textrm{sonst }} \end{array}% \rightVergleich mit der herkömlichen sequenziellen Suche
Betrachten wir nun noch die einfachste Art des Suchens. Man nimmt eine Liste L mit der Länge n, ein gesuchtes Element x und beginnt dieses mit jedem Element der Liste zu vergleichen. Dieses Verfahren besitzt linearen Aufwand. Wobei davon auszugehen ist, das die Wahrscheinlichkeit, das x mit dem Element a aus L übereinstimmt für jedes Element gleich ist.
Wie sieht der Algorithmus aus?
Im folgenden wird der Algorithmus, im Code als BinSuch betitelt, in Scheme und Java gezeigt. Man kann den Algorithmus in iterativer und rekursiver Form angeben.
In Java
Siehe TuH2 java
In Scheme
Siehe TuH2 scheme
Komplexitätsverhalten
Best Case
Es liegt nahe dass es sich bei beiden Suchalgorithmen im besten Fall um einen konstanten Aufwand \mathcal{O}(1) handelt. Beim sequenziellen Suchen finden wir das Element am Anfang der zu durchsuchenden Liste und bei der binären Suche in der Mitte der Liste.
Diese Erkenntnis ist für die Praxis eher irrelevant von daher sollte man sich das Verhalten im Average- und Worst Case genauer betrachten.
Average Case & Worst Case
Wir wollen in diesem Abschnitt die Binäre Suche in der iterativen als auch rekursiven Variante Untersuchen, zuvor wollen wir kurz abschweifen und die squenzielle Suche kurz untersuchen.
Bei der sequenziellen Suche fällt bereits durch scharfes Hinsehen auf, das es sich im schlechtestem Fall um linearen Aufwand handelt. Den die Laufzeit hängt von der Anzahl der Elemente n innerhalb der Liste ab. Also \mathcal{O}(n) egal ob das Element gefunden wird. Im Durschnitt hingegen kann die Suche lediglich \dfrac{n}{2} Vergleiche benötigen, wobei man die Gleichverteilung aller Listen Elemente annehmen muss. Somit kommt ebenfalls ein linearer Aufwand \Theta(n) zustande.
Die Rekursions Gleichung für die binäre Suche sieht folgender Massen aus.
Betrachten wir nun die iterative Variante der binären Suche. Dazu betrachten wir das Intervall in welchem gesucht wird und das Verhalten dessen Größe während der Suche. Unsere Variablen für die Positionen im zu durchsuchenden Feld verantwortlich sind haben beim Start folgende Belegungen:
\begin{array}{lcl} \text{Start} & = & 0 \\ \text{Ende} & = & Feldleange - 1 \\ \text{Feldleange zu Begin} & = & \text{start} + \text{Ende} \\ \text{Mitte des Feldes} & = & \dfrac{\text{Start} + \text{Ende}}{2} \\ \end{array}Das Intervall ändert sich wie folgt:
\begin{array}{lcl} \text{Neue Feldlaenge} & = & \text{Ende} - \text{Start} + 1 \\ & = & \text{Ende} - (\text{Mitte} + 1) + 1 \\ & = & \text{Ende} - \text{Mitte des Feldes} \\ & = & \text{Ende} - \dfrac{\text{Start} + \text{Ende}}{2} \\ & = & \dfrac{2 \cdot \text{Ende}}{2} - \dfrac{\text{Start} + \text{Ende}}{2} \\ & = & \dfrac{\text{Ende} - \text{Start}}{2} \end{array}Kurz gefasst ändert sich das Intervall in jedem Durchlauf der Schleife von der Länge n auf \dfrac{n - 1}{2}. Was heist das nun konkret? Wir haben 2 Intervalle zwischen denen es sich jeweils zu entscheiden gilt und dafür brauchen wir k durchläufe. Somit haben 2^k Operationen um n Elemente zu durchsuchen.
2^k = n Das lässt sich mit dem Logarithmus zur Basis 2 errechnen.
\log_{2} n = k \curvearrowright \mathcal{O}(\log_2 n)
Dieses Ergebnis zaubert ein grinsen ins Gesicht,
da ein Algorithmus mit logarithmischer Laufzeit äußerst Effizient arbeitet.Den Unterschied zwischen linearem und logarithmischen Aufwand kann man sich mittels empirischer Analyse vor Augen halten, dazu findet ihr zwei Aufgaben auf der Übungsseite http://www.michael-hielscher.de/wiki/index.php/Aufgaben - TuH2#Aufgaben zur Bin.C3.A4ren Suche.
die Multiplikation nach Karatsuba und Offman
Wir kennen die Multiplikation aus der Schule und haben die sog. Russische Bauernmultiplikation (Multiplikation à la Russe) kennengelernt. Infolge dessen, wollen wir hier noch ein anderes Multiplikationsverfahren analysieren. Zunächst ist die Frage interessant warum man überhaupt noch einen Multipliaktionsalgorithmus benötigt, wir haben ja alle in der Schule eine ganz brauchbare Lösung kennengelernt. Doch leider hat dieser Quadratischen Aufwand sprich \mathcal{O}(n^2). Das heißt konkret das wir für die Multiplikation von sehr sehr großen Zahlen Unmengen von Operationen benötigen. Wir gehen an dieser Stelle nicht weiter darauf ein in der Übung könnt ihr mit der Analyse der Schulbuchmultiplikation auseinander setzen.
Wie funktionierts?
Wir nehmen 2 Zahlen a und b, wir vereinbaren das deren Stelligkeit n gleich und gerade ist. Dann zerlegen wir diese beiden Zahlen in jeweils 2 gleiche Teile. Im einfachsten Fall n = 1 haben entsprechend nur eine Operation nämlich a \cdot b. Betrachten wir n = 2, als Beispiel dienten uns die Zahlen 14 und 73. Die beiden Faktoren werden wie folgt zerlegt,
x = x_{1} \cdot B + x_{0}Wobei B für die Basis der Zahlendarstellung steht. In unserm Fall 10.
a = 14 =1 \cdot 10 + 4 b = 73 = 7 \cdot 10 + 3Im nächsten Schritt schau wir uns an wie die Multiplikation von a und b mit Hilfe der Ziffern aussieht.
\begin{array}{ccl} a \cdot b & = & (a_{1} \cdot 10 + a_{0}) \cdot (b_{1} \cdot 10 + b_{0}) \\ & = & (a_{1} \cdot b_{1}) \cdot 100 + (a_{1} \cdot b_{0} + a_{0} \cdot b_{1}) \cdot 10 + a_{0} \cdot b_{0}\\ & = & (1 \cdot 7) \cdot 100 + (1 \cdot 3 + 4 \cdot 7) \cdot 10 + 4 \cdot 3 \\ & = & 1022 \end{array}Ruft man sich das Verfahren ins Gedächtnis, welches wir einmal in der Schule gelernt haben, stellen wir schnell fest das uns unser neuer Algorithmus kein besseres Verfahren liefert.
Wir haben nach wie vor lediglich 4 Multiplikationen und die Addition der Ergebnisse. Die Trick den Karatsuba entdeckt hat sieht wie folgt aus, er nutzt lediglich 3 Multiplikationen um folgende Werte zu berechnen,
An dieser Stelle wird auch die Absicht deutlich die Karatsuba verfolgt! Die aufwendigeren Multiplikations Operationen in weniger Aufwendige Additions bzw. Subtraktions- Operationen aufzuspalten. Dies ist aber noch nicht alles was den Algorithmus so beschleunigt!\begin{array}{ccl} m & = & a_{1} \cdot b_{1}\\ n & = & (a_{0} - a_{1}) \cdot (b_{0} - b_{1}) \\ o & = & a_{0} \cdot b_{0} \end{array}
Zusätzliche Betrachtung
Nehmen wir uns die Aufwände der eben genannten Multiplikationsverfahren noch einmal zu Brust um zu sehen wie diese sich verhalten.
- Aufwand für die Schulbuchmultiplikation = \mathcal{O}(n^2)
- Aufwand für Multiplikation à la Russe = \mathcal{O}(n^2)
- Aufwand für Karatsubas Algorithmus = \Theta(n^{1,585})
Wie kann man Karatsubas Idee Programmieren?
Eine Implementation in JAVA
Die schnelle Matrix Multiplikation
Ein weiteres Beispiel für den Nutzen der "Teilen und Herrschen"-Strategie ist die Matrixmultiplikation.
Die Schulbuchmethode
Beschreibung
Die Schulbuchmethode dafür sieht vor, Jedes Element der ersten Zeile der ersten Matrix, mit der ersten Spalte der zweiten Matrix zu multiplizieren und die Produkte zu Summieren. Damit erhält man das Element der ersten Zeile und ersten Spalte der Ergebnismatrix. Diesen Vorgang wiederholt man nun für alle weiteren Kombinationen von Zeilen und Spalten. (Korrekt so?) Beispiel:
A = \left( \begin{array}{cccc} 2 & 4 & 6 & 5 \\ 3 & 6 & 9 & 3 \\ 1 & 2 & 3 & 4 \\ 4 & 5 & 3 & 7 \\ \end{array} \right)Für einfache, d.h. kleine Matrizen ist diese Berechnungsvorschrift für den Menschen einfach zu merken und zu benutzen. Wenn jedoch die größe der Matrizen wächst, erkennt man schnell, dass sehr viele Einzelberechnungen durchgeführt werden müssen.
Aufwandsanalyse
Man erkennt, dass für eine (n,n)-Matrix für jede Element der Ergebnismatrix jeweils jedes Element der entsprechenden Zeile der ersten Matrix, mit jedem Element der entsprechenden Spalte der zweiten Matrix multipliziert werden muss. Daraus ergibt sich ein Aufwand von \mathcal{O}(n^3)
Strassen-Algorithmus
Beschreibung
Einen anderen Ansatz wählt der nach Volker Strassen benannte STRASSEN-Algorithmus. Bei diesem müssen die Ausgangsmatritzen zuerst in Teilmatrizen nach folgendem Muster zerlegt werden:
C = A * B = \left( \begin{array}{cc} A_{1,1} & A_{1,2} \\ A_{2,1} & A_{2,2} \\ \end{array} \right) * \left( \begin{array}{cc} B_{1,1} & B_{1,2} \\ B_{2,1} & B_{2,2} \\ \end{array} \right) = \left( \begin{array}{cc} C_{1,1} & C_{1,2}\\ C_{2,1} & C_{2,2}\\ \end{array} \right)Die Teilmatrizen sehen folgender Maßen aus:
Die Teilmatrizen der Lösungsmatrix C erhält man durch folgende Berechnungen:
Dies alleine stellt aber noch keine Effizienzverbesserung dar, da immernoch 8 (aufwandsmäßig ungünstige) Matrizenmultiplikationen mit einem Aufwand von T(n/2) durchgeführt werden müssen. Die eigentliche Leistung des STRASSEN-Algorithmus liegt in der Berechnung von Hilfsmatrizen nach folgendem Muster:
Die Ergebnismatrix C ergibt sich durch:
Aufwandsanalyse
Strassens Algorithmus benötigt zur Berechnung des Produkts nun nur noch 7 Matrizenmultiplikationen statt 8 wie das oben gezeigte Verfahren. Die Aufwandsanalyse ergibt:
T(n) = 7* T(\frac{n}{2}) + O(n^2) -> T(n) = O(n^{log_{2}(7)}) = O(n^2,81)Für die klassische Methode ergibt ein Aufwand von T(n) = O(n^{log_{2}(8)}) = O(n^3)
Es wird ein ähnliches Ziel wie auch schon beim Karatsuba-Algorithmus verfolgt: Nach möglichkeit "kostspielige" Multiplikationen durch "günstige" Additionen bzw. Subtraktionen zu ersetzen. So benötigt der STRASSEN-Algoritmus ganze 18 Additionen/Subtraktionen wärend die oben gezeigte Variante mit nur 4 Stück auskommt. Da der Aufwand dieser Matrizenadditionen aber lediglich in O(n^2) liegt, stellt dieser Tausch bei großen n einen Effizenzgewinn dar.
Der Praktische Nutzen des Algorithmus ist allerdings beschränkt, da die numerische Stabilität, d.h. die empfindlichkeit gegenüber Rundungsfehlern, schlechter ist als bei der klassischen Methode.
Vergleich
ToDo