Extending Joint Models and Quantile Regression - New Bayesian Approaches to Estimation and Effect Selection

Objectives: Joint models are an established tool to analyse simultaneously collected longitudinal and time-to-event data. Quantile regression is the method of choice, when the research aim is on the effects of the more extreme observations within the data or when the distributional form of the data is unknown. Recent research of the former has concentrated on exploring the capabilities on this model type and the focus with the latter was on integrating complex effects and regularization. For joint models various forms and estimation methods exist as do approaches to estimating very complex effects, yet a comparison of those methods is still lacking and the estimation of complex effects is still sensitive and computationally expensive. Variable selection in quantile regression is either achieved through regularization or gradient boosting, but gradient boosting is a prediction- not analysis-optimized approach and neither support the researcher in effect selection. This thesis aims at comparing different estimation methods and model variations for joint models, proposes the use of the piecewise additive representation of time-to-event data to increase stability and speed in complex Bayesian joint models and explores the use of the Normal-Beta-Prime-Spike-and- Slab (NBPSS) prior for variable as well as effect selection in Bayesian quantile regression. Methods: Different model formulations, estimation methods (likelihood-based, Bayesian and gradient boosting) and available software for joint models are contrasted by means of theoretical comparison and a simulation study before being applied to an example of “Healthy Ageing” in Germany. With the help of a simulation study the estimation accuracy and run times of the Bayesian Structured Piecewise Additive Joint Model (SPAJM) as implemented in the software BayesX are compared to those of the current available Bayesian approach implemented in the R package bamlss and highlighted again on the example of “Healthy Ageing” in Germany. The effect selection and prediction capabilities in Bayesian quantile regression are examined by analysing the NBPSS prior approach available in BayesX against gradient boosting for quantile regression available in the R package mboost and illustrating both approaches on data on malnutrition in children in Nigeria. Results: From the four software instances and three joint model types tested the Bayesian and likelihood-based approaches to estimating joint models yield good to very good results irrespective of the simulated and implemented model, while gradient boosting is better used for variable selection. The Bayesian SPAJM outperformed the established approach in estimation accuracy as well as run time and proofed insensitive to unbalanced data. The Bayesian approach to effect 1selection via the NBPSS prior proofed comparable or better to the benchmark gradient boosting in quantile regression, but is also sensitive to the choice of hyperparameters. Conclusion: Comparing different model types and estimation approaches has the potential to simplify the use of joint models for applied researchers. The piecewise additive approach to joint models enlarged the application scope of this model type and might prove even more flexible in future research. As an effect selection tool the NBPSS prior showed good performance in a complex regression type and might in the future proof applicable in other complex model types such as joint models. Hintergrund und Ziele: Verbundene Modelle sind ein etabliertes Werkzeug zur Analyse von Daten, die eine gleichzeitig erhobene longitudinale sowie eine Über- lebenszeitkompente aufweisen. Quantilregression wird benutzt, wenn Effekte in den eher extremeren Beobachtungen von Interesse sind oder die parametrische Verteilung der Zielvariable unbekannt ist. Bei ersterem lag der Forschungsfokus in jüngerer Zeit auf der Erforschung der Eigenschaften dieser Modellklasse, während bei letzterem die Erweiterung hin zu komplexen Modellen und Regularisierung im Vordergrund stand. Für verbundene Modelle existieren verschiedene Herange- hensweisen zu Modellformulierung und Schätzung, die auch die Schätzung von komplexen Effekten erlauben. Jedoch steht eine Übersicht über diese Herange- hensweisen noch aus und die Schätzung von komplexen verbundenen Modellen ist bisher instabil und rechenintensiv. Variablenselektion in Quantilregression wird entweder durch Regularisierung oder gradient boosting erreicht, wobei gra- dient boosting ein vorhersageorientiertes und kein analyseorientiertes Verfahren ist und keine der beiden Methoden bieten Hilfestellung bei der Effektselektion in der Anwendung. Diese Dissertation zielt darauf ab verschiedene Herange- hensweisen in der Modellformulierung und Schätzung von verbundenen Modellen zu vergleichen, regt die Nutzung von abschnittsweise-additiver Darstellung von Überlebenszeitdaten in komplexen Bayesianischen verbundenen Modellen an, um Stabilität und Geschwindigkeit in der Schätzung zu erhöhen, und untersucht die Anwendung der Normal-Beta-Prime-Spike-and-Slab (NBPSS) priori-Verteilung zur Variablen- und Effektselektion in Bayesianischer Quantilregression. Methoden: Verschiedene Herangehensweisen zu Modellformulierung und Schätzung (likelihood-basiert, Bayesianisch und per gradient boosting) und dazu verfügbare Software für verbundene Modelle werden einander theoretisch und in einer Simulationsstudie gegenübergestellt, bevor sie an einem Beispiel zu “gesundem Altern” in Deutschland angewandt werden. Mithilfe einer Simulationsstudie werden die Schätzgenauigkeit und Laufzeit der Bayesianischen abschnittsweise-additiven verbundenen Modelle, wie sie in der Software BayesX implementiert sind, verglichen mit einer ähnlich flexiblen Variante implementiert im R Paket bamlss. Anschließend wird damit das Beispiel zum “gesunden Altern” in Deutschland erweitert. Die Effektselektions- und Vorhersagegüte in Bayesianischer Quantilregression werden mit dem Verfahren über die NBPSS priori in BayesX verglichen mit gradient boosting für Quantilregression aus dem R Paket mboost und mit einem Beispiel zur Unterernährung von Kindern in Nigeria illustriert. Ergebnisse: Aus den vier getesteten Softwarevarianten und drei verschiedenen 3Formulierungen für verbundene Modelle lieferten die likelihood-basierten und Bayesianischen Methoden die besten Ergebnisse völlig unabhängig vom imple- mentierten Modell, während gradient boosting für verbundene Modelle eher für Variablenselektion geeignet ist. Das Bayesianische abschnittsweise-additive verbundene Modell hat sich in Schätzgenauigkeit und Laufzeit als dem etablierten Modell überlegen und darüber hinaus als unempfindlich bei unbalancierten Daten erwiesen. Bayesiansiche Effektselektion über die NBPSS priori war vergleichbar oder besser als gradient boosting für Quantilregression, zeigte sich allerdings auch sensibel gegenüber der Hyperparameterwahl. Praktische Schlussfolgerungen: Der Vergleich verschiedener Herange- hensweisen in Schätzung und Modellformulierung kann die Nutzung verbundener Modelle für Forschende vereinfachen. Die abschnittsweise-additive Herange- hensweise an verbundene Modelle erweitert den Anwendungsbereich dieser Modellklassn und dürfte auch für zukünftige Forschung an flexibleren Versionen dieses Modells als Ausgangspunkt dienen. Bei der Effektselektion hat die NBPSS piori respektable Ergebnisse in einer komplexen Regressionsart erzielt und eignet sich als Effektselektionsmechanismus auch potentiell für andere komplexere Modelltypen wie verbundene Modelle.