Dr. Sven Weinzierl ist akademischer Rat a. Z. an der Friedrich-Alexander-Universität (FAU) Erlangen-Nürnberg. Er studierte Wirtschaftsinformatik an der Otto-Friedrich-Universität Bamberg und promovierte 2022 an der FAU Erlangen-Nürnberg. Seit Beginn seiner Promotion befasst er sich mit der Entwicklung von Machine-Learning-basierten Lösungen für Unternehmen. Seine Forschungsergebnisse sind in international anerkannten Fachzeitschriften wie European Journal of Operational Research, Decision Support Systems und Business & Information Systems Engineering erschienen. Seine Forschung wurde durch Programme wie FAUnext, ETI und Software Campus gefördert.
Erklärung Interner Mechanismen von Large Language Modellen: Methodische Gestaltung, Empirische Evaluation und Implikationen für die Gesellschaft
Large Language Modelle (LLM) wie GPT haben beeindruckende Fähigkeiten in der algorithmischen Sprachverarbeitung gezeigt und entwickeln sich zunehmend zu einem integralen Bestandteil unserer Gesellschaft. Trotz des Hypes um LLM sind deren interne Mechanismen weitestgehend intransparent. Dieser Mangel an Transparenz birgt unerwünschte Risiken für nachgelagerte Anwendungen, wie ChatGPT. Zum Beispiel kann nicht nachvollzogen werden, in welchen Situationen Anwendungen fiktive Inhalte erzeugen, also halluzinieren. Das Forschungsprojekt zielt daher darauf ab, eine Methode zur Erklärung interner Mechanismen von LLM zu gestalten und zu evaluieren sowie Implikationen für die Gesellschaft abzuleiten.