Lokálně adaptivní spliny

Abstract

Cílem diplomové práce je představení semiparametrických metod sloužících k nalezení odhadu neznámé regresní funkce. Minimalizace účelové funkce, jenž je součtem ztrátové a penalizační funkce, je propojujícím tématem, kterým se budeme zabývat. Ukážeme reformulace zprvu neřešitelných minimalizačních úloh z důvodu nekonečné dimenze, pře- vedením na úlohy konečně-dimenzionální ve tvaru klasické penalizované ridge a lasso re- grese. Důležitou roli při řešení těchto úloh plní penalizační parametr, sloužící k nalezení vhodné rovnováhy mezi variabilitou a vychýlením výsledných odhadů. Metody k nale- zení vhodné hodnoty penalizační parametru jsou rovněž prezentovány. V simulační studii se zaměříme na početní náročnost a přesnost vyhlazování společně s nově prezentovanou metodou sloužící k určení hodnoty penalizačního parametru. 1

The aim of this thesis is to present some semiparametric methods used for estimating an unknown regression function. All approaches are based on a minimization of an ob- jective function, which is formulated as the sum of a loss and a penalization function. We present a reformulation of unsolvable problems due to infinite dimensionality as problems which are of finite dimensions, in the form of classical ridge or lasso regression. A crucial part in these methods plays a penalization parameter used to obtain a balance between the bias and the variability of the estimate. Techniques devoted to finding the optimal values of the penalization parameter are shown. Finally, applications of the mentioned methods on two simulated datasets are displayed. We focus on the local adaptivity of in- dividual approaches, as well as the computational intensity, which we shall compare. In addition, we analyse a new method proposed to find the optimal value of the penali- zation parameter. 1