Systematische Suche SS10

Autoren:

Daniel Horbach (sidahorb@stud.hs-zigr.de)

Richard Hettmann (sirihett@stud.hs-zigr.de)

Rucksackproblem

Das Rucksackproblem ist ein Optimierungsproblem der Kombinatorik. Aus einer Menge von Objekten, die jeweils ein Gewicht und einen Wert haben, soll eine Teilmenge ausgewählt werden, deren Gesamtgewicht eine vorgegebene Gewichtsschranke nicht überschreitet. Unter dieser Bedingung soll der Wert der ausgewählten Objekte maximiert werden. Zur Veranschaulichung dieses klassischen Problems wird auch gerne der Dieb herangezogen, der nur einen kleinen Teil der Beute im Rucksack abtransportieren kann und nun versucht, den größtmöglichen Wert herauszuschlagen.

Grundsätzliches

Gegeben sei eine nichtleere Menge von n Gegenständen, von denen jeder einen Wert w_i und ein Gewicht g_i hat. Da unser Rucksack nicht unbegrenzt belastbar ist, brauchen wir noch die Aufnahmekapazität K, welche keinesfalls durch das aktuelle Gesamtgewicht überschritten werden darf.

Unser Ziel ist es nun, den Rucksack so zu füllen, dass die Wertsumme der eingepackten Gegenstände maximal ist und die Aufnamekapazität nicht überschritten wird.

Man unterscheidet diese zwei grundsätzlich veschiedenen Arten von Rucksackproblemen.

Bruchteilrucksackproblem

Ein beliebiger Teil t eines jeden Gegenstandes darf eingepackt werden.

t , 0 \% <= t <= 100 \%

Nähere Erläuterungen zum Bruchteilrucksackproblem.

0/1 Rucksackproblem

Jeder einzelne Gegenstand wird entweder vollständig (1) oder garnicht (0) in den Rucksack aufgenommen.

Wir befassen uns hier nur mit dem 0/1 Rucksackproblem.

Ziel

Unser Ziel ist das Erreichen der maximalen Wertsumme ohne die Aufnahmekapazität zu überschreiten.

\sum \limits _{i =1}^n {x_i w_i} \to max , wobei \sum \limits _{i =1}^n {x_i g_i} \leq K , mit x_i \in \{0,1\}

Teilmengen-Summen-Problem

Das Teilmengen-Summen-Problem ist ein Spezialfall des Rucksackproblems. Aus einer Menge natürlicher Zahlen M wird eine Teilmenge gesucht, deren Elementensumme möglichst nahe an die Kapazitätsgrenze K herankommt und diese auch erreichen darf. Dieser Spezialfall ergibt sich immer dann, wenn Gewicht und Wert eines jeden Gegenstandes zahlenmäßig überein stimmen.

M = \{ a_i | 1 \leq i \leq n und a_i, n \in N \}

g_i = w_i , mit g_i,w_i \in N

Dieses Problem entsteht beispielsweise in Transportunternehmen, wenn in einem LKW, dessen Ladekapazität natürlich beschränkt ist, unterschiedliche Frachtgüter befördert werden sollen. Um die Transportkapazität optimal nutzen zu können, also das Fahrzeug nicht zu überlasten oder Transportkapazität zu vergeuden, ist eine sorgfältige Auswahl der Transportgüter nötig.

Intuitives Verfahren

Welche Möglichkeiten haben wir um das Rucksackproblem zu lösen? Natürlich könnte man den Rucksack mit zufällig ausgewählten Gegenständen füllen und danach den einen oder anderen Gegenstand austauschen bis man der Meinung ist das man das globale Wertmaximum erreicht hat. Da dieses Verfahren aber weder systenmatisch noch zielführend ist, kann man sich dessen niemals sicher sein. Der bessere Weg ist die Benutzung von Suchstrategien, die dafür sorgen das sämtliche Packmöglichkeiten des Rucksacks erzeugt und anschließend bewertet werden. Mit zwei dieser Strategien werden wir uns näher beschäftigen, der Tiefensuche und der Breitensuche.

Die Graphentheorie

Bevor wir näher auf die Tiefesuche und Breitensuche eingehen, befassen wir uns ersteinmal mit der Graphentheorie. Bei der Graphentheorie handelt es sich um ein Teilgebiet der Mathematik, welches die Eigenschaften von Graphen und deren Beziehung zueinander untersucht. Die Graphentheorie ist in der Hinsicht für die Informatik von Bedeutung, da algorithmische Probleme auf Graphen zurückgeführt werden können.

Ein Graph ist eine Menge von Punkten, diese werden auch als Knoten oder Ecken bezeichnet. Diese Knoten und Ecken sind in der Regel durch Linien miteinander verbunden, diese Linien nennt man auch Kanten oder Bögen.

Vom Knoten 1, welcher der Startknoten ist, gehe ich zum Knoten 2 und von dort zum Knoten 4. Diese 3 Knoten werdn der Prewalkliste hinzugefügt. Nach 2 erfolglosen Versuchen Knoten 4 zu expandieren, füge ich ihn auch der Central- und Poswalkliste hinzu. Da keine weitere Expansion erfolgen kann gehe ich mittles Backtracking zu Knoten 2 zurück, berühre ihn zum zweiten Mal und füge ihn der Centalwalkliste hinzu. Knoten 2 kann noch expandiert werden, so komme ich zu Knoten 5 , füge ihn der Prewalkliste, und nach zwei erfolglosen Expansionsversuchen auch der Central- und Postwalkliste hinzu. Ich gehe zurück zu Knoten 2 und nach dem Hinzufügen zur Postwalkliste gehe ich wieder auf den Knoten 1, welcher der nächste in der Centralwalkliste ist. Dasselbe mache ich auch mi dem rechten Teil des Graphen. Ist der Graph vollständig durchlaufen, erhalten ich meine vollständigen Durchlauflisten. Das kann man sich auch im Code-Beispiel unten nochmal genauer ansehen.

<eval id="4bd0806483afa"> (walk tree) </eval>

<eval id="4bd08064846b3"> (walk tree2) </eval>

Tiefensuche

Die Depth-First-Search ist ein Verfahren zum Suchen eines Knotens in einem Graphen und gehört zu den uniformierten Suchalgorithmen. Expandiert wird der jeweils zuerst auftretende Nachfolgeknoten des Startknotens bis entweder das gesuchte Element gefunden wurde, oder keine weiteren Knoten für die Expansion vorhanden sind. In diesem Fall kehrt der Algorithmus zum zuletzt expandierten Knoten zurück und sucht einen alternativen Nachfolger. Sollte es keinen Nachfolger mehr geben, geht der Algorithmus Schritt für Schritt zum jeweiligen Vorgänger zurück und versucht es dort erneut, bis auf diese Weise entweder ein Ergebnis gefunden oder der komplette Graph einmal durchlaufen wurde.

Algorithmus

1. Bestimmung des Startknotens
2. Expandieren des ersten Knotens und speichern sämtlicher Nachfolger in einem Stack
3. Rekursiver Aufruf der Tiefensuche für jeden Knoten im Stack
4. Abbruch bei leerem Stack oder wenn das gesuchte Element gefunden wurde

Eigenschaften

Der Speicherplatzbedarf bei der Tiefensuche ist linear. Da im schlimmsten Fall alle möglichen Knoten betrachtet werden müssen lässt sich der Zeitaufwand durch \mathcal{O} (|V|+|E|) beschreiben, wobei |V| für die Anzahl der Knoten und |E| für die Anzahl der Kanten steht. Bei einem unendlichen Graphen ist Tiefensuche nicht vollständig, es ist möglich das ein existierendes Ergebnis nicht gefunden wird. Tiefensuche ist nicht optimal, weil möglicherweise ein Ergebnis gefunden wird, welches tiefer im Graphen liegt als ein anderes, da die Tiefensuche den Graphen erst komplett auf der linken Seite durchsucht.

Anwendung

Tiefensuche findet indirekt Anwendung bei vielen komplexen Algorithmen für Graphen, zum topologischen Sortieren und in Expertensystemen.

Aufbau des Suchbaumes

Bei der Tiefensuche ist der Baum von links aufgebaut und wird als eine Art Protokoll generiert. Da wir hier nur das 0/1 Rucksackproblem behandeln ist an jedem Knoten auch nur eine JA/NEIN Entscheidung möglich. Man spricht hier von einem dynamischen Baum, d.h. jeder Gegenstand wird eingepackt und am nächsten Knoten wird wieder anders entschieden als vorher. Das sogenannte Backtracking bedeutet das Zurückspuren zum letzten Entscheidungspunkt. Alle Knoten werden in ihrer Reihenfolge besucht, den erstmaligen Besuch nennt man den prewalk, den zweiten nennt man centralwalk und der dritte und letzte ist der postwalk. Bei der Tiefensuche hat man einen aktuellen Rucksackinhalt, dieser wird beschrieben mit s-ls (). Eine Gegenstandsliste mit den Werten (30 50 10) diese wird mit g-ls beschrieben. Den aktuellen Packzustand des Rucksacks beschreiben wir durch (g-ls s-ls).

Berechnungen

Für n Gegenstände ergeben sich im allgemeinen 2^n Blätter.

\sum_{k=0}^n {n\choose k} z^k = {n\choose 0} z^0 + {n\choose 1} z^1 + . . . + {n\choose n} z^n = (1+z)^n, für z = 1

Hierdurch ergibt sich ein exponentieller Aufwand \mathcal {O} (2^n).

Die Anzahl der Knoten lässt sich durch folgende Formel berechnen: \sum_{k=0}^n 2^k = 2^n^+^1 - 1 Knoten

Die rekursive Tiefensuche mit Scheme

Im folgenden Beispiel ohne eine gesetzte Kapazitätsgrenze. Somit bekommen wir alle möglichen Ergebnisse geliefert.

Die Werte sind hier keine Vorgabe, es können andere und mehr gewählt werden.

<eval id="4bd08064852f1"> (rucksack1 '(30 50 10) '()) </eval>

Breitensuche

Im Gegensatz zur Tiefensuche wird bei der Breadth-First-Search der Baum schichtenweise abgearbeitet.

Auf das Rucksackproblem bezogen hat der Baum gerade soviel Äste wie sich Gegenstände in der Liste befinden.

Algorithmus

1. Bestimmung des Startknotens und Speicherung dieses Knotens in einer Warteschlange
2. Entnahme des ersten Knotens der Warteschlange und dessen Markierung
   Abruch der Suche bei gefundenem Element
   Anhängen aller bisher unmarkierten Nachfolger dieses Knotens an das Ende der Warteschlange
3. Wiederholung von Schritt 2
4. Abbruch bei leerer Warteschlange = Kein Ergebnis gefunden

Eigenschaften

Der Speicherplatzbedarf bei der Breitensuche ist exponentiell. Der Zeitaufwand lässt sich wie bei der Tiefensuche durch \mathcal{O} (|V|+|E|) beschreiben. Im Bezug auf die Vollständigkeit und die Optimalität trifft dieses im Gegensatz zur Tiefensuche zu. Vollständigkeit und Optimalität werden erfüllt.

Anwendung

Die Breitensuche findet Anwendung bei der Suche nach allen Zusammenhangskomponenten in einem Graphen. Desweiteren des Findens aller Knoten in der Zusammenhangskomponente, sowie dem kürzesten Pfad zwischen zwei Knoten und dem kürzeste Kreise Problem.

Aufbau des Breitensuchbaumes

Wie auch bei der Tiefensuche hat man hier eine Rucksackliste s-ls () und eine Gegenstandsliste g-ls hier beispielsweise mit (30,50,10). Beim Beginn der Suche ist die s-ls leer und die g-ls enthält die Gegenstände. Der erste Gegenstand wird entnommen und der Rest verbleibt in der Warteschlange. Es wird wieder ein neuer Knoten gebildet dieses wiederholt sich solange bis die g-ls leer ist.

Berechnung

Die Anzahl der Knoten lässt sich durch folgende Formel berechnen.

Beschränkung des Breitensuchbaumes

Einige der Knoten sind überflüssig, da die Reihenfolge des Einpackens bei der Breitensuche keine Rolle spielt. beispielsweise beschreiben die Listen (30, 50, 10) und (30, 10, 50) denselben Packzustand. Es wird der Suchbaum um die Elemente mit gleicher Bedeutung reduziert.

Beschränkte Tiefensuche

Durch das Setzen einer Kapazitätsgrenze lässt sich der Tiefensuchbaum beschränken. Nimmt man die g-ls mit folgendem Inhalt (30, 50, 10) und setzt die Kapazitätsgrenze auf (42). So bekommt man dann nur noch die Werte die \leq42 sind ausgegeben.

Es kann anstatt der 42 auch eine beliebige andere Kapazität gewählt werden. Auch hier können für die 30, 50 und 10 andere Werte gewählt werden.

<eval id="4bd0806485ea5"> (rucksack2 '(30 50 10) '() 42) </eval>

Beschränkte Tiefensuche mit Ergebnisliste:

In diesem Codebeispiel wird nun auch die optimale Lösung angezeigt.

<eval id="4bd0806486a5e"> (rucksack3 '(30 50 10) 42) </eval>

Eigenschaften

Wie auch bei dem nicht reduzierten Tiefensuchbaum ist der Speicherplatz linear. Der Zeitaufwand lässt sich ebenfalls durch \mathcal{O} (|V|+|E|) berechnen. Optimalität und Vollständigkeit sind auch hier nicht gegeben.

Vergleich beider Suchstrategien

Stellt man die Suchstrategien einander gegenüber, so wird man feststellen das ja nach Suche beide ihre Vor- und Nachteile haben. Bei der Tiefensuche wird das Ergebnis schneller gefunden wenn sich dieses in der linken Baumhälfte befindet. Was bei der Breitensuche genau das Gegenteil ist. Betrachtet man beide an einem endlichen Baum so kann man sehen das beide vollständig sind. Hinsichtlich des Speicheraufwandes ist die Breitensuche nicht gerade optimal da bei dieser der gesamte Graph gespeichert wird. Ein Vorteil der Breitensuche ist wiederrum das alle möglichen Ergebnisse gefunden werden. Bei der Tiefensuche hingegen wird nur der besuchte Pfad gespeichert und die zuerst gefundene Lösung ausgeben. Die Beste Strategie ist somit eine Kombination aus Breiten- und Tiefensuche.

Iterative Tiefensuche

Die iterative Suche ist eine Kombination aus den wünschenswerten Eigenschaften von Breiten- und Tiefensuche, das heisst der geringe Speicherplatzverbrauch der Tiefensuche und die Optimalität der Breitensuche.

Algorithmus

1. Bestimmung des Startknotens
2. Aufruf von reduzierter Tiefensuche mit aktueller Suchtiefe
3. Erhöhung der Suchtiefe um 1
4. Wiederholung von Schritt 2

Eigenschaften

Der Speicherplatzbedarf ist linear. Die iterative Tiefensuche ist vollständig und optimal. Zeitsaufwandsberechnung wieder mit der alt bekannten Formel \mathcal{O} (|V|+|E|).

Das Damenproblem

Bei dem Damenproblem geht es darum das auf einem handelsüblichen Schachbrett mit 8*8 Feldern, acht Damen so positioniert werden das sich diese nicht gegenseitig schmeißen können. Das Problem wurde erstmals 1848 vom bayrischen Schachmeister Max Bezzel(1824-1871) betrachtet. 1850 fand Franz Nauck erstmals alle 92 Lösungen, wobei man hier sagen muss das nur 12 davon eindeutig sind.

Hier eine Tabelle für verschiedene n.

Nichtdeterminismus

Bei der Baumdarstellung handelt es sich um eine strukturierte Darstellungsform des Suchprozesses. Die rekursive Baumstruktur kann unmittelbar auf die rekursive Programmstruktur abgebildet werden. Die Formulierung eines Suchziels von der Angabe des zugehörigen Suchprozesses zu entkoppeln führt zu einer deskriptiven Programmierung. Dies bedeutet das potenzielle Resultat so zu beschreiben das die Software selbst den Prozess zu dessen Bestimmung erzeugt. Den Wunsch das ein solches Programm den Pfad treffsicher erahnt falls er existiert führt uns zu einem nichtdeterministischem Algorithmus. Nichtdeterminismus beschreibt eine übernatürliche Fähigkeit das richtige vorherzusehen. Weder Mensch noch Maschine sind dazu in der Lage. Deshalb ist es sinnvoll Algorithmen zu betrachten.

Um mit einem nichtdeterministischen Algorithmus experimentieren zu können, müssen wir diesen implementieren. Wir laden hierfür die Datei ambiguos.ss in Scheme. Danach stehen uns 5 wichtige und erforderliche Sprachelemente zur Verfügung.

• choice gibt aus einer Liste das "richtige Element" zurück
• bag of gibt aus einer Liste eine Liste aller richtigen Elemente zurück
• initialize-amb-fail nullstellige Prozedur zur Initialisierung des Ambiguous Systems
• multichoice nimmt eine Liste ls und eine natürliche Zahl n und gibt die richtigen Elemente aus (LOTTO 6 aus 49)
• randomchoice nimmt eine Zahl n und berechnet (choice '(1 2 3 . . . n))

In diesem Beispiel wird gefragt ob ein Element das <4 enthalten ist.

<eval id="4bd033189f795">(&lt; ( choice '(1 2 3 4 5 6 ) ) 4)</eval>

Bei bag-of bekommen wir eine Liste mit #t für die Elemente <4 und für die Elemente \geq 4 ein#f.

<eval id="4bd033189ff67">( bag-of (&lt; ( choice '(1 2 3 4 5 6 ) ) 4 ) )</eval>

Das folgende Beispiel gibt durch #t oder #f aus ob das Element eine Liste ist.

<eval id="4bd03318a06ba">(bag-of (list? ( choice '(a () 2 (5) #t ))))</eval>

Im nächsten Beispiel liefert uns die Prozedur als Ergebnis eine Liste mit Summanden welche wenn man sie adddiert mit dem Eingabewert übereinstimmen.

<eval id="4bd03318a0e8c">(summandensuche1 '(0 1 2 3 4 5) 6)</eval>

Hier wieder mit bag-of.

<eval id="4bd03318a1657">(bag-of (summandensuche1 '(0 1 2 3 4 5) 6))</eval>

Die nachfolgende Prozedur prüft die Teilbarkeit der Summe von zwei Zahlen aus der Liste.

<eval id="4bd08064881d0">(teilbar_x '(1 2 3 4 5 6 7 8 9) 6)</eval>

Nun noch ein Beispiel für multichoice und randomchoice. Diese Elemente nutzen wir nun um sie auf das Rucksackproblem anzuwenden.

Der folgende Aufruf liefert uns alle Packzustände die 42 nicht überschreiten.

<eval id="4bd0806488d87">(bag-of (rucksack4 '(30 50 10) 42))</eval>

Jetzt haben wir alle Packzustände aber welcher ist nun am Besten? Die nächste Prozedur gibt uns darüber Auskunft.

Hier können wir uns nun den Packzustand und sein Gewicht anzeigen lassen.

<eval id="4bd080648993d">(rucksack5 '(30 50 10) 42)</eval>

Übungsaufgaben

1. Erstellen Sie die Prewalk-, Centralwalk- und Postwalkliste fürdiesen Graphen

2. Erstellen Sie einen kompletten Tiefensuchbaum mit der Gegenstandslste (9,2,5,7)

3. Erstellen Sie einen reduzierten Breitensuchbaum mit derGegenstandsliste (9,2,5,7)

4. Experimentieren Sie mit diesem Programm und finden so verschiedene Lösungen für das 8-Damenproblem.

Hier finden Sie die Lösungen: SystematSuche Loesung

Quellen

[1] Wagenknecht, Christian

Algorithmen und Komplexität.- Fachbuchverlag Leipzig, 2003.- ISBN 3-446-22314-2

[2] http

//de.wikipedia.org/wiki/Breitensuche

[3] http

//kik.informatik.fh-dortmund.de/visual/kurs_breitensuche.html

[4] http

//www.tilman.de/uni/ws03/alp/tiefen-breitensuche.php

[5] http

//de.wikipedia.org/wiki/Tiefensuche

[6] http

//de.wikipedia.org/wiki/Iterative_Tiefensuche

[7] http

//de.wikipedia.org/wiki/Damenproblem

[8] http

//de.wikipedia.org/wiki/Graphentheorie

[9] http

//www.tinohempel.de/info/info/sonstiges/expertensystem.pdf

Weblinks

http://de.wikipedia.org/wiki/Suchalgorithmus#Heuristische_.28Informierte.29_Suchalgorithmen

http://de.wikipedia.org/wiki/Topologische_Sortierung