The Maximum-Margin Approach to Learning Text Classifiers: Methods, Theory, and Algorithms

Abstract

Diese Dissertation entwickelt und erforscht einen neuen Ansatz zum Lernen von Textklassifikationsregeln aus Beispielen. Der Ansatz stutzt sich auf die Einsicht, dass bei der Textklassifikation nicht die Anzahl der Attribute die Schwierigkeit einer Lernaufgabe bestimmt, sondern dass dimensionsunahangige Komplexitatsmase notwendig sind. Die Dissertation zeigt den Zusammenhang dieser Mase mit den statistischen Eigenschaften von Text, deren Umsetzung in effektiven und praktikablen Methoden zur Textklassifikation und ihre Implementierung in effizienten Algorithmen. 1E inleitung und Motivation Mi td er rasanten Zunahme von Email, World Wide Web (WWW) und Intranets, hat sich die Klassifikation von naturlichsprachlichen Dokumenten in vordefinierte Klassen zu einer zentralen Methode bei der Verwaltung von online Informationen entwickelt. Diese Aufgabe wird als Textklassifikation bezeichnet und erscheint in vielen unterschiedlichen Einsatzgebieten. Zum Beispiel klassifizieren Verzeichnisse wie Yahoo! WWW-Seiten nach Thema, online Zeitungen passen sich den Lesegewohnheiten einzelner Leser an und intelligente Agenten fur Service-Hotlines leiten Emails automatisch an den passenden Experten weiter. All diese Aufgaben konnen im Kern als Textklassifikationsprobleme modelliert werden. Wahrend in der Vergangenheit solche und ahnliche Aufgaben manuell erledigt wurden, verlangen das stark gestiegene Volumen und moglichst schnelle Bearbeitungszeite nn ach automatischen Methoden. Ein erster Schritt zur Automatisierung von Textklassifikation ist die manuelle Generierung von automatischen Klassifikationsregeln. Hierbei programmieren Experten Regeln, die dann neue Dokumente klassifizieren konnen. Dieser Ansatz hat sich jedoch als schwierig und zeitintensiv herausgestellt [HW90]. In vielen Situationen ist eine manuelle Modellierung zu ineffizient und unpraktikabel, insbesondere, wenn die Anzahl der Klassen und somit die Anzahl der Regeln gros ist. Noch problematischer ist der manuelle Ansatz, wenn Textklassifikationsregeln als benutzeradaptiver Teil z. B. einer Desktopanwendung benotigt werden. In solchen Fallen ist ein Modellierungsexperte schlicht nicht verfugbar.