AuK/Hilfsmittel Mathematik 1 SS09

Wiki-Quelltext dieser Seite.

== Exponentialfunktionen und Lineare Regression [Igor Geiger] ==

Bei der Analyse von Algorithmen zur Bestimmung des  Aufwandes ,für eine bestimmte 
Anzahl an Eingabegrößen,die von der Anwendung des Algorithmus abhängt,tritt eine Punktmenge 
im Kartesischen Koordinatesystem auf,die exponentiel beschrieben werden kann.
In realen Meßungen ergibt sich aber meistens eine verworfene Punktmenge die einer Exponentialfunktion angenährt werden kann.Jedoch lässt sich anhand dieser Kurve  der 
Aufwand des Algorithmus nicht exakt bestimmen da man dazu einen exakten Anstieg braucht bzw. eine exakte Funktion.
Dazu würd die entstandene Punktmenge in ein kartesiches Koordinatensystem mit einer 
logarithmischen y-Achse überführt.


Darstellung von <math> T(n)=10*2^n </math> im neuen System nach Gnuplot.
Es entsteht folgende Gerade,Schnittpunkt bei y=10 mit der y-Achse:



Darstellung von <math>T(n)=10*2^n</math> im logarithmischen System:

<gnuplot>
set logscale y
set ytics(0,1,10,100,1000,10000,100000,1000000,10000000)
plot [n=0:8]10*2**n,10*n**10
</gnuplot>




Dies entspricht,vom Aussehen,der Geraden im normalen kartesischen Koordinatensystem:
<math>T(n)=log(T(n))</math>
<math>=log(2)*n+log(10)</math>

Desweiteren hat sich gezeigt das es viel einfacher ist eine Gerade im dargestellten Logarithmischen
Koordinatensystem anhand der eingetragenen Punkte zu verlegen als eine Exponentialfunktion im normalen Koordinatensystem zu bestimmen.

Die mathematische Methode zur Bestimmung einer Geraden im logarithmischen Koordinatensystem,anhand der verstreuten Messpunkte,nennt man '''Lineare Regression'''.
Die Gerade <math> f(n)=a*n+b </math> soll so bestimmt werden das der maximale Abstand zwischen der Geraden und den Messpunkten möglichst klein wird.

Mathematische Vorgehensweise:

<math>max|T(n)-(a*n+b)|->minimal</math>

Da es für jeden Messpunkt gelten muß,würd die gesuchte Funktion als Summe der Abstände der einzelnen Messpunkte dargestellt:

<math>\sum_{n}|T(n)-(a*n+b)|->minimal </math>

Von der entstandenen Funktion wird aber zur Bestimmung des Minimums die erste Ableitung benötigt
jedoch ist die Betragsfunktion an der Stelle  <math>x=0</math> nicht stetig differenzierbar.
Dazu Quadriert man sie nach der Methode der kleinsten Fehlerquadrate von Gauss,dadurch wird sie 
Differenzierbar aber die Suche nach dem Minimum wird dadurch nicht beeinflußt.


<math>\sum_{n}(T(n)-(a*n+b))^{2}->minimal </math>

Für das Minimum muß die erste Ableitung der obigen Funktion Null gesetzt werden.
<math>f'(x)=0</math>
Da man aber das Minimum nach a und b haben will muß man auch jeweils nach a und b ableiten.

Ableitung nach a:

<math>2*\sum_{i=1}^{r}(T(i)-a*i-b)(-i)->0 </math>

Ableitung nach b:

<math>2*\sum_{i=1}^{r}(T(i)-a*i-b)(-1)->0 </math>

Durch Vereinfachung erhält man die sogennante Normalengleichung:


<math>a*\sum_{i=1}^{r}i^{2}+b*\sum_{i=1}^{r}i=\sum_{i=1}^{r}i+T(i)</math>


<math>a*\sum_{i=1}^{r}i+r*b=\sum_{i=1}^{r}i=\sum_{i=1}^{r}T(i)</math>

Durch weiteres Umstellen nach a bzw. b erhält man die gewünschten Parameter für
die Regresionsgerade.

Umformung nach a:


<math>a*\sum_{i=1}^{r}i+r*b=\sum_{i=1}^{r}i=\sum_{i=1}^{r}T(i)</math>


<math>r*b=\sum_{i=1}^{r}T(i)-a*\sum_{i=1}^{r}i</math>


<math>b=\frac{\sum_{i=1}^{r}T(i)-a*\sum_{i=1}^{r}i}{r}</math>


<math>a*\sum_{i=1}^{r}i^{2}+(\frac{\sum_{i=1}^{r}T(i)-a*\sum_{i=1}^{r}i}{r})\sum_{i=1}^{r}i
=\sum_{i=1}^{r}i*T(i)</math>

<math>\frac{r*a*\sum_{i=1}^{r}i^{2}+\sum_{i=1}^{r}i*(\sum_{i=1}^{r}T(i)-a\sum_{i=1}^{r}i)}{r}=\sum_{i=1}^{r}i*T(i)</math>

<math>r*a*\sum_{i=1}^{r}i^{2}+\sum_{i=1}^{r}i*(\sum_{i=1}^{r}T(i)-a\sum_{i=1}^{r}i)=r\sum_{i=1}^{r}i*T(i)</math>


<math>a*(r*\sum_{i=1}^{r}i^{2}-(\sum_{i=1}^{r}i)^{2}))=r*\sum_{i=1}^{r}i*T(i)-\sum_{i=1}^{r}i*\sum_{i=1}^{r}T(i)</math>


<math>a=\frac{r*(\sum_{i=1}^{r}i*T(i))-(\sum_{i=1}^{r}i)*(\sum_{i=1}^{r}T(i))}{r*\sum_{i=1}^{r}i^{2}-(\sum_{i=1}^{r}i)^{2}}</math>



<math>b=\frac{(\sum_{i=1}^{r}i^{2})*(\sum_{i=1}^{r}T(i))-(\sum_{i=1}^{r}i*T(i))*\sum_{i=1}^{r}i}{r*\sum_{i=1}^{r}i^{2}-(\sum_{i=1}^{r}i)^{2}}</math>


Somit erhält man die Parameter a und b für die Regressionsgerade:

'''Beispielrechnung:'''

folgende Meßwerte:

T(1)=3

T(2)=6

T(3)=7

T(4)=9

T(5)=11

In die Gleichung für a und b einsetzen!

<math>\sum_{i=1}^{r}i*T(i)=127</math>

<math>\sum_{i=1}^{r}i=15</math>

<math>\sum_{i=1}^{r}T(i)=36</math>

<math>\sum_{i=1}^{r}i^{2}=55</math>

<math>(\sum_{i=1}^{r}i)^{2}=225</math>


<math>\frac{(5*127)-(15*36)}{(5*55)-15^{2}}=1.9</math>


<math>\frac{(36*55)-(127*15)}{(5*55)-15^{2}}=1.5</math>


Parameter für die Regressionsgerade im kartesischen Koordinatensystem.


<math>a=1.9</math>

<math>b=1.5</math>


<math>f(n)=1.9n+1.5</math>

== Polynomfunktion ==

Ein Graph wird zur Gerade wenn beide Achsen logarithmisch eingestellt sind.
<br>Bei Funtionen folgender Gestalt:

* <math>T(n) = c*n^k, k \geq 1</math>

Diese Funtion kann weiter beschrieben werden als:

* <math>T(n) = c_1*n^{k_1} + c_2*n^{k_2} + ... + c_i*n^{k_i}</math>

Daraus ergibt sich folgender Funktionsgraph mit '''normaler''' Achseneinteilung für:
<br>* <math>2*n^{12}+10*x^2+1234*x</math>

<gnuplot>
set xrange [0:10]
set xlabel "n"
set ylabel "T(n)"
plot 2*x**12+10*x**2+1234*x
</gnuplot>

Dieser Graph ist keine Gerade, deshalb müssen wir die logarithmische Achseneinteilung für x-Achse und y-Achse wählen um auf das gewünschte Ergebnis zu kommen.<br>
Funktionsgraph mit '''logarithmischer''' Achseneinteilung:

<gnuplot>
set xrange [1:10]
set yrange [1:100000]
set log xy
set xlabel "n"
set ylabel "T(n)"
plot 10*x**2, 100*x**3, 100*x**4
</gnuplot>

Geht man bei der obrigen Abbildung non '''einer''' Geraden aus erhält man einen Schnittpunkt mit der y-Achse für n=1 wegen log1 = 0

Zum ersten Beispiel zurück zu kommen:

<gnuplot>
set xrange [1:10]
set yrange [1000:1*10**13]
set log xy
set xlabel "n"
set ylabel "T(n)"
plot 2*x**12+10*x**2+1234*x
</gnuplot>

Bei diesen Graphen handelt es sich um keine Gerade weil eine Summe gebildet wird.
Schließlich kann man davon ausgehen das nicht bei jeder Funktion eine Gerade ensteht.