Greedy-Algorithmen SS09

Inhaltsverzeichnis 1 Einführung 2 Bruchteilrucksack-Problem 3 Aufbau-Template 4 Beispiel (Geldwechsel) 5 Verschiedene Greedy-Algorithmen 5.1 Dijkstra 5.1.1 Kürzeste Wege in Graphen 5.1.2 Dijkstras Algorithmus 5.2 Kruskal 5.3 Prim 6 Übung 6.1 Teilrucksack-Problem 6.2 Geldwechsel (Euro) 6.3 Geldwechsel (US Dollar) 6.4 Geldwechsel (Polski Złoty) 6.5 Prim-Algorithmus 6.6 Prim-Algorithmus (Scheme) 7 Kommentare

Dev Status

Einführung

Greedy (engl. gefräßig) - eine gefräßige Strategie für Algorithmen. Sie funktioniert nach der Methode:

"Nimm immer den besten Happen, den du kriegen kannst."

Das geschieht durch eine rechnerische Entscheidung. Die Berechnung erfolgt auf der Basis lokaler Information, also ohne Rückgriff auf vorher ermittelte Werte. Es wird also keine Tabelle, die alle Teilproblemlösungen bereithält, mitgeführt, wie dam beim dynamisches Programmieren der Fall ist.

Beim Greedy-Algorithmen gibt es kein Zurücknehmen und Erproben von Alternativen, wie bei systematischen Probieren mit Backtracking. Eine einmal getroffene Entscheidung wird nicht revidiert.

Der Aufwand eines Greedy-Verfahrens ist sicher nicht exponentiell. Allerdings ist die Anwendbarkeit dieses Superverfahrens sehr in Frage gestellt.

Greedy-Algorithmen brauchen um die beste Auswahl zu treffen eine vorsortierte Kandidatenliste. Die neu aufnehmende Elemente werden immer gleich an der richtigen Stelle eingefügt, so dass die Sortierung erhalten bleibt.

Der zugehörige Datentyp ist eine Prioritätswarteschlange (priority queue). Sie kann mit einem heap sehr effizient implementiert werden.

Bruchteilrucksack-Problem

Bruchteilrucksack-Problem unterscheidet sich von dem 0/1 Rucksackproblem. Man hat die Möglichkeit, Gegenstände auch teilweise einzupacken. Hinsichtlich der Gegenstandeswerte gehen wir von einer homogenen Verteilung aus. Das heißt, dass ein zu 80% eingepackter Gegenstand, einen Wertzuwachs von 80% seines vollen Wertes erbringt.

Die Kandidatenliste wird nach dem Quotient aus:

• w_i - Wert des i-ten Gegenstandes
• g_i - Gewicht des i-ten Gegenstandes

absteigend sortiert.

\frac{w_1}{g_1}\geq\frac{w_2}{g_2}\geq\hdots\geq\frac{w_n}{g_n}

Der Gegenstand mit dem größten spezifischen Wert erhält die Nummer 1, danach folgen 2, 3, \hdots, n in dieser Reihenfolge.

K sei die Kapazität des Rucksacks.

Nach der Greedy-Strategie stecken wir nun die ersten j Gegenstände in den Rucksack. j ergibt sich, wenn Gegenstand j + 1 der erste ist, der nicht vollständig in den Rucksack passt. Die eventuell vorhandene Restkapazität kann aber durch einen Teil t mit 0 \leq t < 1 des Gegenstandsgewichtes g_{j+1} ausgefüllt werden.

K - \left(g_1 + g_2 + \hdots + g_j\right) = t \cdot g_{j+1}

Der Gesamtwert W des so gefüllten Rucksacks beträgt

W = w_1 + w_2 + \hdots + w_j + t \cdot w_{j+1}

Kann man wirklich sicher sein, dass auf diese weise der größtmögliche Gesamtwert erreicht wird? Könnte es nicht besser sein, von einem der ursprünglich vollständig eingepackten Gegenstände, sagen wir e (mit 1 \leq e \leq j) nur einen Teil, sagen wir y (mit 0 < y < 1) zu nehmen. Dann hat man so viel Platz, dass ein Teil z eines Gegenstandes r (e < r \leq n) mit kleinerem spezifischem Wert als der von e eingepackt werden kann. Dies ergibt den folgenden Gesamtwert.

W' = \left(w_1 + w_2 + \hdots + w_e + \hdots + w_j + t \cdot w_{j+1}\right) - \left(1 - y\right) \cdot w_e + z \cdot w_r

Da das Gewicht des z-ten Teiles von r gerade mit dem Restgewicht \left(1 - y\right) \cdot g_e übereinstimmt, d.h. z \cdot g_r = \left(1 - y\right) \cdot g_e, gilt

z = \frac{\left(1 - y\right) \cdot g_e}{g_r}.

Dann kann man für den Gesamtwert

W' = \left(w_1 + w_2 + \hdots + w_e + \hdots + w_j + t \cdot w_{j+1}\right) - \left(1 - y\right) \cdot w_e + \frac{\left(1 - y\right) \cdot g_e \cdot w_r}{g_r}

schreiben. Eine einfache Umformung ergibt

W' = W - \frac{\left(1 - y\right) \cdot g_e \cdot w_e}{g_e} + \frac{\left(1 - y\right) \cdot g_e \cdot w_r}{g_r}

Da \left(1 - y\right) \cdot g_e > 0 ergibt sich wegen

W' = W + \underbrace{\left(1 - y\right) \cdot g_e}_{>0} \cdot \underbrace{\left(\frac{w_r}{g_r} - \frac{w_e}{g_e}\right)}_{<0}

kein Wertzuwachs. Ganz im gegenteil, es gilt sogar W' < W.

Wir können also sicher sein, dass die Greedy-Methode das Bruchteil-Rucksackproblem effizient löst.

Hier unten ist die Prozedur teil_rucksack zu sehen, die nimmt als Eingabe die Rucksack-Kapazität und liefert die beste Einpackungsmöglichkeit aus der vorgegebenen Kandidatenliste (Wert . Gewicht). Gesamtwert, Gesamtgewicht und Bruchteil des letztes Elements werden auch ausgegeben.

<eval>(teil_rucksack 13)</eval>

Aufbau-Template

Bestandteile des Algorithmus:

• eine (sich verbrauchende) Kandidatenliste,
• eine (sich aufbauende) Resultatliste,
• Funktionen:
  • loesung?, die überprüft, ob die aktuelle Resultatliste eine Lösung des Problems darstellt,
  • okay?, die überprüft, ob die Erweiterung einer Resultatliste durch den nächsten Kandidaten zulässig ist,
  • naechster, die den besten Kandidaten aus der Liste auswählt,
  • modify+, die die Kandidatenliste im positiven Fall modifiziert,
  • modify-, die die Kandidatenliste im negativen Fall modifiziert,
  • ziel, die die Lösung angibt.

(define greedy
 (lambda (vorgabewert) ; z.B.: Kapazitaet der Rucksacks
  (let
      ((kandidatenliste '(......))
       (loesung? (lambda (ls) ... ))
       (okay? (lambda (ls) ... ))
       (naechster (lambda (ls) ... ))
       (modify+ (lambda (x ls) ... ))
       (modify- (lambda (x ls) ... ))
       (ziel (lambda (ls) ... ))
   (letrec
        ((helfer
           (lambda (kandidaten resultat)
            (cond
             ((loesung? resultat)(ziel resultat))
             ((and (null? kandidaten)(not (loesung? resultat)))
              (error 'greedy "Es gibt keine Loesung."))
             (else
              (let* ((neuer-kandidat (naechster kandidaten))
                     (neues-resultat (cons neuer-kandidat resultat)))
                 (if (okay? neues-resultat)
                     (helfer (modify+ neuer-kandidat kandidaten) neues-resultat)
                     (helfer (modify- neuer-kandidat kandidaten) resultat))))))))
        (helfer kandidatenliste '())))))

Beispiel (Geldwechsel)

Einem Kunden wird Wechselgeld herausgegeben, wobei möglichst wenige Münzen verwendet werden sollen.

• Zur Verfügung haben wir alle Euro-Münzen: 1, 2, 5, 10, 20, 50, 100 (1 Euro), 200 (2 Euro).
• Die Münzen werden mit absteigendem Cent-Wert vorsortiert.
• Die Prozedur geldwechsel ergibt Resultatliste und Anzahl der Münzen.

Die Prozedur wird benutzt um 12,93 Euro (1293 Euro-Cent) herauszugeben. <eval> (geldwechsel 1293) </eval>

Verschiedene Greedy-Algorithmen

Dijkstra

[[Bild:Dijksta_Anim.gif|thumb|284px|Bild 6.1: Dijkstras Algorithmus
(Quelle: Wikipedia)]]

Edsger W. Dijkstra auf Wikipedia

Kürzeste Wege in Graphen

Die Suche nach der kürzesten Rundreise, die n gegebene Städte genau einmal besucht, gehört zu den schwierigsten Problemen, für die bisher nur Lösungsverfahren mit exponentieller Rechenzeit bekannt sind (siehe: Verzweigen und beschränken: Rundreiseproblem).

Das folgende Problem klingt noch schwieriger. Gesucht ist der kürzeste Weg von Stadt A zu Stadt B, wobei für die n betrachteten Städte eine Entfernungsmatrix gegeben ist. Man muss alle Zwischenstädtefolgen (Wege) betrachten, auch solche, die nicht alle Städte enthalten.

Dijkstra fand 1959 einen Algorithmus zur Lösung des Kürzeste-Wege-Problems dessen Rechenzeit in \mathcal{O}(n^2) liegt. Ein nach Floyd und Warshall benanntes Verfahren löst eine etwas weiter gehende fragestellung in \mathcal{O}(n^3). Dabei werden die kürzesten Wege für alle Städtpaare bestimmt.

Das Problem ist, mathematisch gesehen, eine Sache der Graphentheorie.

Unter einem endlichen Graph G versteht man ein Paar (V, E), wobei V eine endliche Knotenmenge (Knoten = vertex) und E eine endliche Menge von Kanten (edges) bezeichnet. Eine Kante verbindet genau zwei Knoten. Es ist nicht verlangt, dass alle Knotenpaare durch je eine Kante verbunden sind. Es kann Mehrfachkanten geben.

Zur Speicherung von Graphen verwendet man Matrizen. Eine gängige Form sind sog. Adjazenmatrizen, die für jedes Knotenpaar vermerken, ob die durch die aktuelle Zeile bzw. Spalte bestimmten Knoten durch eine Kante verbunden sind.

Handelt es sich um einen gewichteten Graph, dessen Kanten z.B. mit je einer Zahl für eine bestimmte Länge, Masse oder einen Euro-Betrag markiert sind, werden diese Gewichte in der Adjazenmatrix angegeben. Nicht vorhandene Kanten werden durch einen vereinbarten Wert, meist 0, x oder eine sehr große Zahl, beschrieben.

Wir sprechen von einem gerichteten Graph (engl. directed graph, Digraph), wenn die Kanten einseitig gerichtete Pfeile sind.

Dijkstras Algorithmus

Gegeben sei der Bild in Bild 6.2 modellierter Stadplan mit 7 markanten Punkten A, B, C, D, E, F und G.
Gesucht ist die kürzeste Strecke von A (Airport) zum Stadthotel D.

Die Grundidee des Algorithmus ist, ab einem Startknoten die kürzest möglichen Wege weiter zu verfolgen und längere Wege beim Updaten auszuschließen. Er besteht aus diesen Schritten:

1. Initialisiere eine Menge von Startknoten mit einem Element (A).
2. Weise allen Knoten die beiden Eigenschaften "Distanz" und "Vorgänger" zu. Initialisiere die Distanz im Startknoten mit 0 und in allen anderen Knoten mit ∞.
3. Solange es noch unbesuchte Knoten gibt wähle darunter denjenigen mit minimaler Distanz aus und
   1. Speichere, dass dieser Knoten schon besucht wurde
   2. Berechne für alle noch unbesuchten Nachbarknoten die Summe des jeweiligen Kantengewichtes und der Distanz im aktuellen Knoten
   3. Ist dieser Wert für einen Knoten kleiner als die dort gespeicherte Distanz, aktualisiere sie und setze den aktuellen Knoten als Vorgänger.
      Dieser Schritt wird auch als Update bezeichnet und ist die zentrale Idee von Dijkstra.

S:={s};
Distanz(s):=0;
for all v\inV\{s} do {
    Distanz(v)=Kante(s,v);
    Vorgaenger(v)=s;
}
while z\notinS do {
    Finde v'\inV\S mit Distanz(v')=min{Distanz(v) | v\inV\S};
    S:=S\cup{v'};
    for all v\inV\S do {
        if Distanz(v')+Kante(v',v) < Distanz(v)
        then {
            Distanz(v):=Distanz(v')+Kante(v' ,v);
            Vorgaenger(v):=v'
        }
    }
}

Kruskal

Joseph Kruskal auf Wikipedia

Prim

Minimaler Spannbaum Algorithmus, der eine Alternative zu Kruskal-Algorithmus ist. Prim stellt eine kleine Modifikation von Dijksrta-Algorithmus vor, die sich im vergleich zu Dijkstra, nur an 3 Stellen unterscheidet.

Der Prim-Algorithmus ist effizienter bei Graphen mit vielen Kanten als Kruskal-Algorithmus.

S:={s};
Distanz(s):=0;
for all v\inV\{s} do {
    Distanz(v)=Kante(s,v);
    Vorgaenger(v)=s;
}
while S!=V do {
    Finde v'\inV\S mit Distanz(v')=min{Distanz(v) | v\inV\S};
    S:=S\cup{v'};
    for all v\inV\S do {
        if Kante(v',v) < Distanz(v)
        then {
            Distanz(v):=Kante(v' ,v);
            Vorgaenger(v):=v'
        }
    }
}

Die folgende Scheme-Prozedur versucht die Zahlen in Primfaktoren zu zerlegen, die sich in der Kandidatenliste befinden. In der Lösung wird auch die Anzahl der Primfaktoren ausgegeben.

<eval>(prim 234)</eval>

Übung

Teilrucksack-Problem

Gegeben sei:

• Rucksackkapazität: 60kg
• Material 1:
  • Wert: 200 000
  • Gewicht: 35
• Material 2:
  • Wert: 103 000
  • Gewicht: 25
• Material 3:
  • Wert: 92 543
  • Gewicht: 14

Berechnen Sie die absteigende Kandidatenliste (schriftlich). Benutzen Sie die Scheme-Prozedur um die beste Rucksackseinpackung zu finden.

Geldwechsel (Euro)

Berechnen Sie schriftlich, wieviele Münzen heraugegeben werden müssen, um den Betrag 15,61 Euro auszuzahlen.

Überprüfen Sie das Ergebnis mit hilfe von der Prozedur geldwechsel.

Geldwechsel (US Dollar)

Berechnen Sie schriftlich, wieviele Münzen heraugegeben werden müssen, um den Betrag 15,61 US Dollar auszuzahlen.

Beachten Sie darauf, dass US Dollars folgende Münzen haben:

Überprüfen Sie das Ergebnis mit hilfe von der Prozedur geldwechsel.

Hinweis: die Kandidatenliste soll im Quellcode angepasst werden.

Geldwechsel (Polski Złoty)

Berechnen Sie schriftlich, wieviele Münzen heraugegeben werden müssen, um den Betrag 15,61 PLN auszuzahlen.

Beachten Sie darauf, dass Polski Złoty folgende Münzen hat:

Überprüfen Sie das Ergebnis mit hilfe von der Prozedur geldwechsel.

Hinweis: die Kandidatenliste soll im Quellcode angepasst werden.

Prim-Algorithmus

Verwenden Sie den Bsp. aus der Vorlesung, wählen Sie jetzt als den Startknoten: D.

Ermitteln Sie eine Reihenfolgenliste für alle Knoten.

Prim-Algorithmus (Scheme)

Experimentieren Sie mit dem Scheme-Code für Prim-Algorithmus.

Versuchen Sie die folgenden Zahlen in Primfaktoren zu zerlegen:

• 24
• 76
• 98
• 437
• 667

Hinweis: Denken Sie auch an Erweiterung der Kandidatenliste, wenn die Prozedur einen Fehler ausgibt.

Kommentare