Hilfsmittel Mathematik 1 SS09

Aus ProgrammingWiki
< AuK
Archivierte Version vom 2010-03-26T10:17:05+00:00. Aktuelle Version

Inhaltsverzeichnis

Autoren

Michael Gäbler, Daniel Glaser

Approximation von Funktionen

Was bedeutet Approximation?

Approximation bezeichnet ein Näherungsverfahren im mathematischen Sinn. Dabei ist Sie ein Hilfsmittel, die computergesteuerte Lösungsverfahren beschleunigen oder erst möglich machen kann.


Abbild eines Näherungsverfahrens mit gegebenen Messwerten:

Test2.jpg

Exponentialfunktionen

Bei der Analyse von Algorithmen führen diese immer zu Kurven. Dabei tritt beim Näherungsverfahren eine Punktmenge im Kartesischen Koordinatensystem auf, die einer Exponentialfunktion angenähert werden kann. Um jedoch den Aufwand eines Algorithmus exakt bestimmen zu können, wird eine Gerade benötigt. Diese besitzt einen exakten Anstieg bzw. eine exakte Funktion.

Damit eine Exponentialfunktion als Gerade dargestellt werden kann, wird diese in ein kartesisches Koordinatensystem mit einer logarithmischen y-Achse überführt.


Diese Funktionen besitzen im Allgemeinen folgende Form:

y = T \left(n \right) = a \cdot b^n , mit b \geq 1


Der konstante Faktor a ist dabei der Schnittpunkt mit der y-Achse.


Nach einer Umformung dieser Allgemeinen Funktion ergibt sich die Gleichung:

log\ y\ = f \left(n \right) = log\ \left(a \cdot b^n \right) = n \cdot log\ b\ + log\ a\


Aus dieser Gleichung wird die Funktion als Gerade z = f \left(n \right) = n \cdot \alpha + \beta , mit z = log\ y\ , \alpha = log\ b\ (ist der Anstieg der Geraden) und \beta = log\ a\ (Ist der Schnittpunkt mit der y-Achse), dargestellt.


Wie geht man nun in der Praxis vor?

In der Praxis macht man dies genau umgekehrt. Zuerst zeichnet man die ermittelten Daten der Wertepaare in ein Koordinatensystem mit logarithmisch eingeteilter y-Achse ein. Wenn sich dabei eine Gerade ergibt, so kann daraus die Funktion y = T \left(n \right) = a \cdot b^n bestimmt werden.


Mit Hilfe von Gnuplot kann man diese Funktionen grafisch darstellen.

Beispiel:

Darstellung der Funktionen T \left(n \right)= 10 \cdot 2^n; T \left(n \right)=10000 \cdot 2^n und T \left(n \right)=10^n

Gnuplot-Diagramm

Effizienz von Algorithmen: Exponentieller Aufwand

Des Weiteren stellen Exponentielle Funktionen mit der Form:

T= f \left(x \right) = a^b^ \cdot ^x

in einem kartesischen Koordinatensystem mit einer logarithmischen y-Achse eine Gerade dar.

Beispiel: Darstellung der Funktionen: T \left(x \right)= exp x; T \left(x \right)=exp 4^ \cdot ^x; T \left(x \right)=3^x; T \left(x \right)=10 \cdot 3^x; T \left(x \right)=10^2^ \cdot ^x

Gnuplot-Diagramm

Lineare Regression

Im Logarithmischen Koordinatensystem ist es viel einfacher eine Gerade anhand der eingetragenen Punkte zu verlegen als eine Exponentialfunktion im normalen Koordinatensystem zu bestimmen.

Als Lineare Regression bezeichnet man die mathematische Methode zur Bestimmung einer Geraden anhand der verstreuten Messpunkte. Dabei wird die Gerade y = f \left(n \right) = a \cdot n+b gesucht.
Ziel der Linearen Regression ist es dabei, die Gerade so zu bestimmen, dass der maximale Abstand zwischen der Geraden und den Messpunkten möglichst klein ist.


Bei der Linearen Regression geht man wie folgt vor:


max|T \left(n \right)- \left(a \cdot n+b \right)| \rightarrow minimal


Durch diese Formel besteht die Gefahr, dass wenn nur ein einziger Messpunkt erheblich daneben liegt, die Gerade sehr ungenau wird. Da es Allerdings für jeden Messpunkt gelten muss, so wird die gesuchte Funktion als Summe der Abstände der einzelnen Messpunkte dargestellt:


\sum \limits _{n} {|T \left(n \right)- \left(a \cdot n+b \right)|} \rightarrow minimal


Durch diese Formel kommt allerdings das Problem auf, dass zur Bestimmung des Minimums die erste Ableitung benötigt wird. Allerdings ist die Betragsfunktion an der Stelle x = 0 nicht differenzierbar.


Bei der Methode der kleinsten Fehlerquadrate von Gauss, wird die Formel Quadriert. Dadurch ist diese Differenzierbar, aber die Suche nach dem Minimum wird dadurch nicht beeinflusst.

\sum \limits _{n}{(T \left(n \right)- \left(a \cdot n+b \right))^{2}} \rightarrow minimal

Um das Minimum zu bestimmen, wird nun die erste Ableitung gebildet.

f' \left(x \right)=0

Da man das Minimum nach a und b benötigt, so muss jeweils nach a und b abgeleitet werden.

Ableitung nach a:

2 \cdot \sum \limits _{i=1}^r {\left(T \left(i \right)-a \cdot i-b \right) \left(-i \right)} \rightarrow 0

Ableitung nach b:

2 \cdot \sum \limits _{i=1}^r {\left(T \left(i \right)-a \cdot i-b \right) \left(-1 \right)} \rightarrow 0


Durch Vereinfachung erhält man die sogennante Normalengleichung:


a \cdot \sum \limits _{i=1}^r {i^{2}+b} \cdot \sum \limits _{i=1}^r {i} = \sum \limits _{i=1}^r {i+T \left(i \right)}


a \cdot \sum \limits _{i=1}^r {i+r \cdot b} = \sum \limits _{i=1}^r {i} = \sum \limits _{i=1}^r {T \left(i \right)}


Durch Umstellen nach a bzw. b erhält man nun die gewünschten Parameter für die Regressionsgerade:


a \cdot \sum \limits _{i=1}^r {i+r \cdot b} = \sum \limits _{i=1}^r {i} = \sum \limits _{i=1}^r {T \left(i \right)}


r \cdot b = \sum \limits _{i=1}^r {T \left(i \right)-a \cdot \sum \limits _{i=1}^r {i}


b=\frac{\sum \limits _{i=1}^r {T \left(i \right)-a} \cdot \sum \limits _{i=1}^r {i}} r


a \cdot \sum \limits _{i=1}^r {i^{2}}+ \left(\frac{\sum \limits _{i=1}^r {T \left(i \right)-a} \cdot \sum \limits _{i=1}^r {i}}r \right)\cdot \sum \limits _{i=1}^r {i} = \sum \limits _{i=1}^r {i \cdot T \left(i \right)}


\frac{r \cdot a \cdot \sum \limits _{i=1}^r {i^{2}} + \sum \limits _{i=1}^r {i \cdot \left(\sum \limits _{i=1}^r {T \left(i \right)-a} \cdot \sum \limits _{i=1}^r {i} \right)}}r = \sum \limits _{i=1}^r {i \cdot T \left(i \right)


r \cdot a \cdot \sum \limits _{i=1}^r {i^{2}} + \sum \limits _{i=1}^r {i \cdot \left(\sum \limits _{i=1}^r {T \left(i \right)-a} \cdot \sum \limits _{i=1}^r {i} \right) = r \cdot \sum \limits _{i=1}^r {i \cdot T \left(i \right)}


a \cdot \left(r \cdot \sum \limits _{i=1}^r {i^{2}}- \left(\sum \limits _{i=1}^r {i} \right)^{2} \right) = r \cdot \sum \limits _{i=1}^r {i \cdot T \left(i \right) - \sum \limits _{i=1}^r {i \cdot \sum \limits _{i=1}^r {T \left(i \right)}


Daraus entstehen folgende Endformeln:


a=\frac{r \cdot \left(\sum \limits _{i=1}^r {i \cdot T \left(i \right)} \right)- \left(\sum \limits _{i=1}^r {i} \right) \cdot \left(\sum \limits _{i=1}^r {T \left(i \right)} \right)}{r \cdot \sum \limits _{i=1}^r {i^{2}}- \left(\sum \limits _{i=1}^r {i} \right)^{2}}


b=\frac{ \left(\sum \limits _{i=1}^r {i^{2}} \right) \cdot \left(\sum \limits _{i=1}^r {T \left(i \right)} \right)- \left(\sum \limits _{i=1}^r {i \cdot T \left(i \right)} \right) \cdot \sum \limits _{i=1}^r {i}}{r \cdot \sum \limits _{i=1}^r {i^{2}}- \left(\sum \limits _{i=1}^r {i} \right)^{2}}


Anhand verschiedener Messpunkte kann nun die Funktion bestimmt werden, damit eine Gerade entsteht. Um dies zu verdeutlichen, folgt nun ein Beispiel:

Beispielrechnung:

Folgende Messwerte sind gegeben:


T(1) = 8

T(2) = 3

T(3) = 5

T(4) = 7

T(5) = 9


Nun werden die verschiedenen Größen für a und b berechnet.


Vorgehensweise, um Summen, z.B.:\sum \limits _{i=1}^r {i \cdot T \left(i \right) ausrechnen zu können:

r ist die Anzahl der Messwerte. Daher ist r = 5

i gibt den Startwert an. i ist im Beispiel 1, daher wird die Formel wie folgt ausgerechnet:

\sum \limits _{i=1}^r {i \cdot T \left(i \right)= \left(1 \cdot 8 \right) + \left(2 \cdot 3 \right) + \left(3 \cdot 5 \right) + \left(4 \cdot 7 \right) + \left(5 \cdot 9 \right) = 102 \sum \limits _{i=1}^r {i} = 1+2+3+4+5 = 15 \sum \limits _{i=1}^r {T \left(i \right)= 8+3+5+7+9 = 32 \sum \limits _{i=1}^r {i^{2}}= 1^2 + 2^2 + 3^2 + 4^2 + 5^2 = 55 \left(\sum \limits _{i=1}^r {i} \right)^{2}= \left(1+2+3+4+5 \right)^2 = 225


Nun werden die berechneten Größen in die Formeln für a und b eingesetzt:


\frac{ \left(5 \cdot 102 \right)- \left(15 \cdot 32 \right)}{ \left(5 \cdot 55 \right)-225}= \frac {30}{50} = 0,6


\frac{ \left(55 \cdot 32 \right)- \left(102 \cdot 15 \right)}{ \left(5 \cdot 55 \right)-225}= \frac {230}{50} = 4,6


Parameter für die Regressionsgerade im kartesischen Koordinatensystem:


a=0,6 b=4,6


Die Regressionsgerade lautet: f(n)=0,6n + 4,6

Diese kann man nun einfach mithilfe von Gnuplot zeichnen:

Gnuplot-Diagramm

Polynomfunktion

Was entsteht, wenn eine Potenzfunktion in der Form T \left(n \right) = c \cdot n^k, k \geq 1, z.B. T \left(n \right)=10n^2 in einem Koordinatensystem mit logarithmisch eingeteilter y-Achse dargestellt wird?

Es entsteht eine Kurve.


Polynome des Grades:

- 0 werden konstante Funktionen genannt. z.B.: T \left(n \right) = - 1
- 1 werden lineare Funktionen genannt. z.B.: T \left(n \right) = 3n + 5
- 2 werden quadratische Funktionen genannt. z.B.: T \left(n \right) = - 3n^2 - 4n + 1
- 3 werden kubische Funktionen genannt. z.B.: T \left(n \right) = 4n^3 - 2n^2 + 7n + 2
- 4 werden quartische Funktionen genannt. z.B.: T \left(n \right) = 6n^4 - n^3 + 4n + 2


In der folgenden Rechnung soll nachgewiesen werden, dass nur dann eine Gerade entsteht, wenn beide Achsen logarithmisch eingestellt sind.

Dabei wird aus:

z = f \left( log\ n\ \right) = \alpha \cdot log\ n\ + \beta , mit z = log\ y, \ \alpha = k und \beta = log\ c\ .


Daraus folgt: log\ y\ = f \left(n \right) = log\ \left(c \cdot n^k \right) = k \cdot log\ n\ + log\ c\ , für n>0.


Nun zeichnet man wiederum die ermittelten Daten der Wertepaare in das Koordinatensystem ein.

Der Schnittpunkt der Gerade mit der y-Achse gibt bei n=1 wegen log 1 = 0 den konstanten Faktor c an. Der Exponent k ist der Anstieg der Geraden.

Der Graph wird also tatsächlich zu einer Geraden, wenn beide Achsen logarithmisch eingestellt sind.


Um den Unterschied grafisch zu sehen, folgen nun ein paar Potenzfunktionen mit logarithmischer y-Achse:

Gnuplot-Diagramm


Und nun mit logarithmischer x-und y-Achse:

Gnuplot-Diagramm


Wie sieht das ganz nun bei Polynomfunktionen aus:

Gnuplot-Diagramm


Bei diesen Graphen handelt es sich um keine Gerade, weil eine Summe gebildet wird.

Schließlich kann man davon ausgehen das nicht bei jeder Funktion eine Gerade entsteht.

Deshalb sind andere Untersuchungsmethoden notwendig um auf das gewünschte Ergebnis zu kommen.

Approximation von Polynomfunktionen

Damit bei Polynomfunktionen eine Gerade entstehen kann, muss ein Näherungsverfahren angewendet werden.

Polynomfunktionen bestehen aus mehreren Basisfunktionen der folgenden Form:


f(x)=c_0*g_0(x)+c_1*g_1(x)+ ... +c_m*g_m(x)


Ziel ist es, die Methode der kleinsten Fehlerquadrate auf Polynomfunktionen der Form:

f(c_0,c_1,...,c_m,x)=\sum_{i=0}^{m}c_ig_i(x), mit Basisfunktionen gi:x\rightarrow x^i

anzuwenden.


Nun werden die Koeffizienten c_i , für i = 0,1,...,m gesucht.

Dabei wird die Methode der kleinsten Fehlerquadrate angewendet auf die Formel:


F(c_0,c_1,...,c_m)=\sum_{k=1}^{n}(\sum_{i=0}^{m}c_ig_i(x_k)-y_k)^2\rightarrow min


Das bedeutet, dass die Summe der Abstände zwischen der gesuchten Funktion und den Messwerten minimal sein soll. Dazu bildet man die Ableitung für sämtliche c_i und setzt diese gleich null.


\frac{\delta F}{\delta c_i}=2\sum_{k=1}^{n}(\sum_{i=0}^{m}c_ig_i(x_k)-y_k)*g_i(x_k)=0


Nun multipliziert man die Ableitung aus und bringt y_k auf die rechte Seite.

Die Normalengleichungen für 0 ≤ j ≤ m lauten:


\sum_{i=0}^{m}(\sum_{k=1}^{n}c_ig_i(x_k)*g_j(x_k))=\sum_{k=1}^{n}y_k*g_j(x_k)


g_j geben Basisfunktionen zwischen 0 und m an. Nun trägt man die Formeln in ein lineares Gleichungssystem ein. Dabei erhält man für alle c (=konstante Faktoren) eine Lösung.

Um dieses Gleichungssystem zu lösen, werden für g_j alle Basisfunktionen angenommen.


Um das veranschaulichen zu können, benutzt man Matrizen:

Mit \vec y = (y_1,...,y_n)^T und der Matrix:


A=\begin{pmatrix} g_0(x_1) & g_1(x_1) & \cdots & g_m(x_1) \\ g_0(x_2) & g_1(x_2) & \cdots & g_m(x_2) \\ \vdots & \vdots & \cdots & \vdots \\ g_0(x_n) & g_1(x_n) & \cdots & g_m(x_n)\end{pmatrix}


ergibt sich die Normalgleichung in der Form:

A^TA\vec c = A^T \vec y

Der reellwertige Vektor \vec c=(c_0,c_1,...,c_m)^T bezeichnet die gesuchten Koeffizienten.


Dadurch kann man dieses Gleichungssystem lösen und als Ergebnis erhält man die Faktoren für die einzelnen Polynome.


Um die Koeffizienten der wählbaren Basisfunktionen bestimmen zu können, bedient man sich dem Computerprogramm „Maple“.


Approximation mit Basisfunktionen (Mithilfe von Maple)


Für die Approximationsfunktion h sind die Koeffizienten: c_0,c_1,...,c_m gesucht.


h(x) = c_0 * g_0(x) + c_1 * g_1(x) + ... + c_m * g_m(x_m).


Die Approximationsfunktion h soll die aus den Messwerten entstehende Funktion nach der Methode der kleinsten Fehlerquadrate annähern.

Dabei sind die Funktionen g_i beliebige Basisfunktionen.


Wie funktioniert diese Approximation?

Um die Approximationsfunktion zu bestimmen ist immer folgendes gegeben:

- Die Messwerte von x und y
- Die Basisfunktionen g_0, g_1,...,g_m


Gesucht sind die Koeffizienten c_0,c_1,...,c_m

Mithilfe von Maple kann man die Koeffizienten bestimmen lassen.


Maple-Worksheet (Maple 13)

restart: 
with(linalg):
with(plots): 
x := [0, 1, 2, 3, 4, 5, 6, 7, 8, 9]; 
y := [0, 4, 9, 16, 25, 36, 49, 64, 81, 100];
g := x->x^0, x->x, x->x^2, x->x^3; 
n := nops(x); 
m := nops([g])-1; 
A := matrix(n, m+1, 0): 
c := vector(m, 0): 

for k to n do 
  for i to m+1 do 
    A[k, i] := g[i](x[k]);
  od:
od:
evalm(A); 
AT := transpose(A):
left := evalm(AT&*A): 
right := (AT&*y): 
c := evalf(linsolve(left, right));
h := 0:
for i from 0+1 to m+1 do h := h+c[i]*g[i] od:
pkt := [seq([x[i], y[i]], i = 1 .. n)]:
bild1 := plot(pkt, 0 .. x[n], 0 .. y[n], style = point, symbol = diamond); 
bild2 := plot(h(xx), xx = x[1] .. x[n], color = BLACK); 
display(bild1, bild2, labels = ['x', 'h(x)']);


Wenn man dies in Maple eingibt, so werden folgende Koeffizienten ausgegeben:


                c:=[0.1762237762,2.635198135,0.8671328671,0.008158508158]

Übungsaufgaben

Aufgaben


Lösungen

Loesungen.pdf

Folien

  • Hier sind die Folien zur Vorlesung
Hilfsmittel_Mathematik1_v1.pdf