Veronika Solopova hat ihre Promotion in NLP an der FU Berlin mit Bestnote verteidigt: Hybride KI-Systeme in der automatisierten Inhaltsmoderation und -analyse

Veronika Solopova, die Mitglied des AISE-Teams von Prof. Christoph Benzmüller an der U Bamberg war, hat im Juli 2024 ihre Promotion am Fachbereich Mathematik und Informatik der FU Berlin mit der h?chstm?glichen Note verteidigt und den Titel Dr. rer. nat. erhalten.  Inzwischen ist Veronika weitergewandert und arbeitet als PostDoc an der TU Berlin.

Thema ihrer Dissertation: Hybride KI-Systeme in der automatisierten Inhaltsmoderation und -analyse

Zusammenfassung: Automatisierte Inhaltsmoderation im modernen Sinne nimmt viele Formen an: Moderation von sozialen Medien, Debatten, Therapietagebüchern und studentischen Lernprozessen wie dem Schreiben von Aufs?tzen. Zur Bew?ltigung dieser Aufgaben k?nnen verschiedene KI-Techniken eingesetzt werden, wie z. B. Klassifizierungen, Information Retrieval, Chatbots, symbolisch-logische Reasoner und manchmal auch alle diese Techniken, die zu sogenannten hybriden KI-Systemen kombiniert werden. Die Kombination und der vernetzte Betrieb mehrerer KI-Komponenten mit unterschiedlichen Eigenschaften oder die Verwendung eines Modells zur Erl?uterung eines anderen stellt eine praktikable Alternative zu durchg?ngigen Systemen dar. Dies liegt vor allem daran, dass sie überschaubar und transparent sind und eine potenzielle Verbesserung gegenüber End-to-End-Systemen bieten. Darüber hinaus k?nnen sie die verschiedenen Elemente der menschlichen Kognition genauer abbilden, indem sie belastbares Lernen mit schneller Mustererkennung und logischen Operationen kombinieren. In dieser Arbeit werden zwei Beispiele für hybride KI-Systeme in Kombination mit zwei Anwendungsf?llen der Inhaltsmoderation entwickelt. ?Check News in One Click“ ist eine Webanwendung, die für eine vereinfachte ?berprüfung von Nachrichten entwickelt wurde. Sie beinhaltet eine Verschmelzung von statistischen linguistischen, transformatorischen und regelbasierten Komponenten, die ich entwickelt und in ein produktives System mit einer benutzerfreundlichen Schnittstelle integriert habe. Konkret ist diese Anwendung auf die ?berprüfung von Inhalten aus konventionellen Nachrichtenquellen und Social-Media-Nachrichtenkan?len spezialisiert, wobei der Schwerpunkt auf der Erkennung von manipulativer Sprache und kremlfreundlicher Propaganda liegt, was angesichts der russischen Invasion in der Ukraine zu einem gro?en Problem wurde. PapagAI ist eine Online-Plattform für Hochschulstudenten, auf der ich ein KI-Modul für die automatische Moderation von reflektierenden Essays entwickelt, kombiniert und implementiert habe, das überwachte Modelle, ein Clustering, ein linguistisches Verarbeitungsmodul und einen heuristischen Determinator verwendet, der eine Prompt-Datenbank nach geeigneten Fragen und Verbesserungsvorschl?gen durchsucht. Mit dieser Anwendung wollte ich der Forderung des deutschen Bildungssystems nachkommen, die Verbleibsquote von Lehramtsstudenten an den Universit?ten zu verbessern und die Arbeitsbelastung der Tutoren durch eine Vereinfachung des Feedback-Prozesses zu verringern. Neben den Nutzertests zur Evaluierung der entwickelten Systeme diskutiere ich hier auch Fragen zur Ethik der KI, zum rechtlichen Rahmen der Europ?ischen Union in Bezug auf automatisierte Inhaltsmoderation sowie zur Interpretierbarkeit und Nachhaltigkeit von Deep-Learning-Modellen.