Startseite Mathematik C Optimierung
Kapitel
Lizenziert
Nicht lizenziert Erfordert eine Authentifizierung

C Optimierung

Veröffentlichen auch Sie bei De Gruyter Brill
Erkunden Sie dieses Fachgebiet So veröffentlichen Sie bei uns
Maschinelles Lernen
Ein Kapitel aus dem Buch Maschinelles Lernen
C OptimierungIn diesem Anhang sind die grundlegenden Optimierungsver-fahren zusammengestellt, die beim maschinellen Lernen Ver-wendung finden.C.1 EinführungEin Optimierungsproblem wird in der folgenden Form geschrieben:minimieref(w1,...,wd).(C.1)Dabei istf:Rd→RdieZielfunktionundw1,...,wdsind dieEntschei-dungsvariablen.Ein speziellesw∗= [w∗1,...,w∗d]Tist eineLösung,fallssie den kleinsten Wert der Zielfunktion hat.Optimierung ist ein wesentlicher Aspekt des maschinellen Lernens, beidem wir ein Modell definieren, das bis auf eine Menge von Parameternfestgelegt ist. Unser Ziel ist es, denjenigen Satz von Parametern zu finden,für den das Modell am besten zu den Trainingsdaten passt. Dies ist einOptimierungsproblem, bei dem die Zielfunktion die Abweichung von denDaten ist. Diese Abweichung nennen wir Fehler- oder Verlustfunktion.Die Entscheidungsvariablen sind die Modellparameter.Jedes Maximierungsproblem kann in ein Minimierungsproblem umfor-muliert werden, indem man ein Minuszeichen davor schreibt. Beim ma-schinellen Lernen wird beispielsweise ein Maximum-Likelihood-Problemin ein Fehlerminimierungsproblem überführt, indem man den negativenLogarithmus der Likelihood bildet – der Logarithmus führt bei manchenModellen zu einer einfacheren Zielfunktion.Manchmal umfasst die Definition auchNebenbedingungen(NB), die denWertebereich der Entscheidungsvariablen einschränken. Beispielsweisekönnten wir fordern, dass einige Entscheidungsvariablen nichtnegativ seinmüssen oder dass ihre Norm kleiner als ein bestimmter Wert sein muss.Im allgemeinen Fall haben wirminimieref0(w)(C.2)unter NBfi(w)≤0,i= 1,...,mhi(w) = 0,i= 1,...,p .https://doi.org/10.1515/9783110740196-023
© 2021 Walter de Gruyter GmbH, Berlin/Boston

C OptimierungIn diesem Anhang sind die grundlegenden Optimierungsver-fahren zusammengestellt, die beim maschinellen Lernen Ver-wendung finden.C.1 EinführungEin Optimierungsproblem wird in der folgenden Form geschrieben:minimieref(w1,...,wd).(C.1)Dabei istf:Rd→RdieZielfunktionundw1,...,wdsind dieEntschei-dungsvariablen.Ein speziellesw∗= [w∗1,...,w∗d]Tist eineLösung,fallssie den kleinsten Wert der Zielfunktion hat.Optimierung ist ein wesentlicher Aspekt des maschinellen Lernens, beidem wir ein Modell definieren, das bis auf eine Menge von Parameternfestgelegt ist. Unser Ziel ist es, denjenigen Satz von Parametern zu finden,für den das Modell am besten zu den Trainingsdaten passt. Dies ist einOptimierungsproblem, bei dem die Zielfunktion die Abweichung von denDaten ist. Diese Abweichung nennen wir Fehler- oder Verlustfunktion.Die Entscheidungsvariablen sind die Modellparameter.Jedes Maximierungsproblem kann in ein Minimierungsproblem umfor-muliert werden, indem man ein Minuszeichen davor schreibt. Beim ma-schinellen Lernen wird beispielsweise ein Maximum-Likelihood-Problemin ein Fehlerminimierungsproblem überführt, indem man den negativenLogarithmus der Likelihood bildet – der Logarithmus führt bei manchenModellen zu einer einfacheren Zielfunktion.Manchmal umfasst die Definition auchNebenbedingungen(NB), die denWertebereich der Entscheidungsvariablen einschränken. Beispielsweisekönnten wir fordern, dass einige Entscheidungsvariablen nichtnegativ seinmüssen oder dass ihre Norm kleiner als ein bestimmter Wert sein muss.Im allgemeinen Fall haben wirminimieref0(w)(C.2)unter NBfi(w)≤0,i= 1,...,mhi(w) = 0,i= 1,...,p .https://doi.org/10.1515/9783110740196-023
© 2021 Walter de Gruyter GmbH, Berlin/Boston

Kapitel in diesem Buch

  1. Frontmatter I
  2. Inhaltsverzeichnis V
  3. Vorwort XV
  4. Notationen XIX
  5. 1 Einführung 1
  6. 2 Überwachtes Lernen 25
  7. 3 Bayessche Entscheidungstheorie 53
  8. 4 Parametrische Methoden 71
  9. 5 Multivariate Methoden 101
  10. 6 Dimensionalitätsreduktion 125
  11. 7 Clusteranalyse 173
  12. 8 Nichtparametrische Methoden 199
  13. 9 Entscheidungsbäume 227
  14. 10 Lineare Diskriminanz 255
  15. 11 Mehrlagige Perzeptronen 285
  16. 12 Tiefes Lernen 327
  17. 13 Lokale Modelle 375
  18. 14 Kernel-Maschinen 409
  19. 15 Graphenmodelle 447
  20. 16 Hidden-Markov-Modelle 479
  21. 17 Bayessche Schätzung 507
  22. 18 Kombination mehrerer Lerner 551
  23. 19 Bestärkendes Lernen 581
  24. 20 Experimente mit maschinellem Lernen 617
  25. A Wahrscheinlichkeit 663
  26. B Lineare Algebra 675
  27. C Optimierung 685
  28. Index 693
Readers are also interested in:
https://doi.org/10.1515/9783110740196-023

Kapitel in diesem Buch

  1. Frontmatter I
  2. Inhaltsverzeichnis V
  3. Vorwort XV
  4. Notationen XIX
  5. 1 Einführung 1
  6. 2 Überwachtes Lernen 25
  7. 3 Bayessche Entscheidungstheorie 53
  8. 4 Parametrische Methoden 71
  9. 5 Multivariate Methoden 101
  10. 6 Dimensionalitätsreduktion 125
  11. 7 Clusteranalyse 173
  12. 8 Nichtparametrische Methoden 199
  13. 9 Entscheidungsbäume 227
  14. 10 Lineare Diskriminanz 255
  15. 11 Mehrlagige Perzeptronen 285
  16. 12 Tiefes Lernen 327
  17. 13 Lokale Modelle 375
  18. 14 Kernel-Maschinen 409
  19. 15 Graphenmodelle 447
  20. 16 Hidden-Markov-Modelle 479
  21. 17 Bayessche Schätzung 507
  22. 18 Kombination mehrerer Lerner 551
  23. 19 Bestärkendes Lernen 581
  24. 20 Experimente mit maschinellem Lernen 617
  25. A Wahrscheinlichkeit 663
  26. B Lineare Algebra 675
  27. C Optimierung 685
  28. Index 693
Jetzt anmelden und 20% sparen
Institutioneller Zugang
Wie funktioniert Authentifizierung?
Haben Sie eine Idee, wie wir unsere Website verbessern können?
Bitte schreiben Sie uns.
© 2025 De Gruyter Brill
Heruntergeladen am 24.9.2025 von https://www.degruyterbrill.com/document/doi/10.1515/9783110740196-023/html?lang=de&srsltid=AfmBOopUNmHz6U3cwEQYLNa5SY6uYJjlJXVTIyYo5Pg9xWwZsZvt0BsV
Button zum nach oben scrollen