Sprachverarbeitung: Grundlagen und Methoden der Sprachsynthese und Spracherkennung (Springer-Lehrbuch)

Citation preview

Springer-Lehrbuch

Beat Pfister · Tobias Kaufmann

Sprachverarbeitung Grundlagen und Methoden der Sprachsynthese und Spracherkennung

123

Dr. Beat Pfister Tobias Kaufmann Institut für Technische Informatik und Kommunikationsnetze ETH Zürich CH-8092 Zürich www.tik.ee.ethz.ch/∼pfister

Extras zum Buch online verfügbar unter: www.springer.com/978-3-540-75909-6

ISBN 978-3-540-75909-6

e-ISBN 978-3-540-75910-2

DOI 10.1007/978-3-540-75910-2 Bibliografische Information der Deutschen Nationalbibliothek Die Deutsche Bibliothek verzeichnet diese Publikation in der Deutschen Nationalbibliografie; detaillierte bibliografische Daten sind im Internet über http://dnb.d-nb.de abrufbar. © 2008 Springer-Verlag Berlin Heidelberg Dieses Werk ist urheberrechtlich geschützt. Die dadurch begründeten Rechte, insbesondere die der Übersetzung, des Nachdrucks, des Vortrags, der Entnahme von Abbildungen und Tabellen, der Funksendung, der Mikroverfilmung oder der Vervielfältigung auf anderen Wegen und der Speicherung in Datenverarbeitungsanlagen, bleiben, auch bei nur auszugsweiser Verwertung, vorbehalten. Eine Vervielfältigung dieses Werkes oder von Teilen dieses Werkes ist auch im Einzelfall nur in den Grenzen der gesetzlichen Bestimmungen des Urheberrechtsgesetzes der Bundesrepublik Deutschland vom 9. September 1965 in der jeweils geltenden Fassung zulässig. Sie ist grundsätzlich vergütungspflichtig. Zuwiderhandlungen unterliegen den Strafbestimmungen des Urheberrechtsgesetzes. Die Wiedergabe von Gebrauchsnamen, Handelsnamen, Warenbezeichnungen usw. in diesem Werk berechtigt auch ohne besondere Kennzeichnung nicht zu der Annahme, dass solche Namen im Sinne der Warenzeichen- und Markenschutz-Gesetzgebung als frei zu betrachten wären und daher von jedermann benutzt werden dürften. Text und Abbildungen wurden mit größter Sorgfalt erarbeitet. Verlag und Autor können jedoch für eventuell verbliebene fehlerhafte Angaben und deren Folgen weder eine juristische Verantwortung noch irgendeine Haftung übernehmen. Herstellung: LE-TEX Jelonek, Schmidt & Vöckler GbR, Leipzig Einbandgestaltung: eStudioCalamar S.L., F. Steinen-Broo, Girona, Spain Gedruckt auf säurefreiem Papier 987654321 springer.com

Vorwort Das vorliegende Buch ist aus den Skripten zur zweisemestrigen Vorlesung Sprachverarbeitung an der ETH Z¨ urich entstanden. Am Aufbau dieser Vorlesung haben etliche fr¨ uhere Mitarbeiter der Gruppe f¨ ur Sprachverarbeitung mitgewirkt, insbesondere Hans-Peter Hutter, Christof Traber und Ren´e Beutler. Der Aufbau der Skripte war konsequent auf den zeitlichen Ablauf der Vorlesung ausgerichtet. Die Vorlesung ist so konzipiert, dass Studierende, die nur ein Semester lang die Vorlesung belegen, trotzdem von fast allen wichtigen Aspekten der Sprachsynthese und der Spracherkennung mindestens einen gro¨ ben Uberblick erhalten. Das f¨ uhrte zwangsl¨ aufig dazu, dass mehrere Gebiete im Band I des Vorlesungsskripts nur eingef¨ uhrt und erst im Band II eingehend behandelt oder vertieft wurden. Inhaltlich deckt das Buch den Vorlesungsstoff ab, aber es ist neu gegliedert worden, sodass nun Grundlagen, Sprachsynthese und Spracherkennung je einen Block bilden. Wir m¨ ochten an dieser Stelle allen, die zu diesem Buch beigetragen haben, bestens danken. Es sind dies zur Hauptsache die Mitglieder der Gruppe f¨ ur Sprachverarbeitung, n¨ amlich Thomas Ewender, Michael Gerber, Sarah Hoffmann und Harald Romsdorfer. Insbesondere Sarah und Thomas haben sich als kritische Leser intensiv mit dem Inhalt und der Form des Buches auseinandergesetzt und zu vielen fruchtbaren Diskussionen beigetragen. Z¨ urich, Januar 2008

Beat Pfister und Tobias Kaufmann

Inhaltsverzeichnis Einf¨ uhrung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1

1 1.1 1.1.1 1.1.2 1.2 1.2.1 1.2.2 1.2.3 1.2.4 1.3 1.3.1 1.3.2 1.3.3 1.4 1.4.1 1.4.2 1.4.3 1.4.4 1.4.5 1.5

Grunds¨ atzliches zur Sprache Sprache als Kommunikationsmittel ......................... Lautsprachliche Kommunikation ............................ Geschriebene vs. gesprochene Sprache ..................... Die Beschreibung von Sprache .............................. Die linguistischen Ebenen .................................... Die phonetische Schrift ....................................... Die akustisch-phonetische Ebene............................ Die Prosodie der Sprache ..................................... Die menschliche Sprachproduktion ......................... ¨ Ubersicht u ¨ber den Sprechapparat .......................... Die Funktion des Sprechapparates .......................... Die Artikulation der Sprachlaute ............................ Das menschliche Geh¨ or ....................................... Wahrnehmung der Schallintensit¨ at ......................... Periodizit¨ at und Tonh¨ ohe..................................... Die Phasenwahrnehmung ..................................... Der Verdeckungseffekt ........................................ Wahrnehmung der Sprachlaute .............................. Verarbeitung nat¨ urlicher Sprache ...........................

5 5 6 8 8 10 11 11 12 12 12 14 15 16 17 18 18 19 21

2 2.1 2.2 2.3 2.4 2.5 2.6 2.7 2.8 2.8.1 2.8.2

¨ Ubersicht uber die Sprachverarbeitung ¨ Was in einem Sprachsignal steckt........................... Teilgebiete der Sprachverarbeitung ......................... Sprachsynthese.................................................. Spracherkennung ............................................... Sprecheridentifikation.......................................... Sprachidentifikation ............................................ Sprechertransformation ....................................... Sprachsignalcodierung ......................................... Signalformcodierung ........................................... Modellierung von Sprachsignalen ...........................

25 26 27 28 29 29 30 30 32 35

3 3.1 3.1.1 3.1.2 3.1.3

Darstellung und Eigenschaften des Sprachsignals Digitalisieren von Sprachsignalen ........................... Bandbegrenzungsfilter ......................................... Zeit- und Amplitudendiskretisierung........................ Rekonstruktionsfilter ...........................................

39 39 41 41

VIII

Inhaltsverzeichnis

3.2 3.3 3.4 3.5 3.6 3.6.1 3.6.2 3.6.3 3.6.4

Darstellung digitaler Sprachsignale im Zeitbereich ...... Darstellung im Frequenzbereich ............................. Kombinierte Zeit-Frequenz-Bereichs-Darstellungen...... Darstellung der Phase eines Sprachsignals ................ Sprachmerkmale und ihre Darstellung...................... Grundfrequenz .................................................. Formanten ....................................................... Dauer der Laute ................................................ Intensit¨ at der Laute ............................................

4 4.1 4.2 4.2.1 4.2.2 4.2.3 4.2.4 4.2.5 4.3 4.4 4.4.1 4.4.2 4.4.3 4.5 4.5.1 4.5.2 4.5.3 4.6 4.6.1 4.6.2 4.6.3 4.6.4 4.6.5 4.6.6 4.6.7 4.6.8 4.7 4.7.1 4.7.2

Analyse des Sprachsignals Kurzzeitanalyse ................................................. 59 Sch¨ atzung des Kurzzeitspektrums .......................... 60 Diskrete Fouriertransformation .............................. 60 Eigenschaften der DFT ....................................... 64 Fensterfunktionen .............................................. 64 Die Frequenzaufl¨ osung der DFT ............................ 66 Zeitabh¨ angige Fouriertransformation ....................... 69 Sch¨ atzung des Leistungsdichtespektrums.................. 71 Autokorrelation ................................................. 73 Definition der Autokorrelationsfunktion.................... 73 Eigenschaften der Autokorrelationsfunktion............... 73 Kurzzeit-Autokorrelation ...................................... 74 Lineare Pr¨ adiktion.............................................. 77 Herleitung der LPC-Analyse.................................. 77 Sprachmodellierung mittels linearer Pr¨ adiktion........... 80 Interpretation der linearen Pr¨ adiktion ...................... 86 Homomorphe Analyse ......................................... 89 Das verallgemeinerte Superpositionsprinzip ............... 89 Homomorphe Systeme ........................................ 89 Das DFT-Cepstrum ............................................ 90 Cepstrale Gl¨ attung ............................................. 92 Das Mel-Cepstrum ............................................. 94 Das Delta-Cepstrum ........................................... 96 Mittelwertfreie Cepstren ...................................... 97 Cepstrale Distanz............................................... 99 Vektorquantisierung............................................ 100 Realisation der Vektorquantisierung ........................ 101 Generieren eines Codebuches ................................ 103

5 5.1

Hidden-Markov-Modelle Struktur und Parameter eines HMM ....................... 109

43 45 48 50 52 52 53 54 55

Inhaltsverzeichnis

IX

5.1.1 5.1.2 5.2 5.3 5.4 5.4.1 5.4.2 5.4.3 5.4.4 5.4.5 5.4.6 5.4.7 5.4.8 5.4.9 5.5 5.5.1 5.5.2 5.5.3 5.5.4 5.5.5 5.5.6 5.5.7 5.6 5.7

Zustands¨ ubergangswahrscheinlichkeiten ................... Beobachtungswahrscheinlichkeiten.......................... Die grundlegenden HMM-Probleme ........................ Trellis-Diagramm ............................................... Grundlegende Algorithmen f¨ ur DDHMM .................. Evaluationsproblem ............................................ Forward-Algorithmus f¨ ur DDHMM ......................... Decodierungsproblem .......................................... Viterbi-Algorithmus f¨ ur DDHMM ........................... Sch¨ atzproblem .................................................. Backward-Algorithmus f¨ ur DDHMM ....................... Baum-Welch-Algorithmus f¨ ur DDHMM ................... Viterbi-Training f¨ ur DDHMM................................ Initial-DDHMM................................................. Grundlegende Algorithmen f¨ ur CDHMM .................. Forward-Algorithmus f¨ ur CDHMM ......................... Viterbi-Algorithmus f¨ ur CDHMM ........................... Backward-Algorithmus f¨ ur CDHMM ....................... Baum-Welch-Algorithmus f¨ ur CDHMM ................... Viterbi-Training f¨ ur CDHMM ................................ Initial-CDHMM ................................................. Mixture Splitting ............................................... Training mit mehreren Beobachtungssequenzen ......... Underflow ........................................................

6 6.1 6.2 6.2.1 6.2.2 6.2.3 6.2.4 6.2.5 6.3 6.3.1 6.3.2 6.3.3 6.4 6.5 6.5.1 6.5.2

Repr¨ asentation und Anwendung linguistischen Wissens Formale Sprachen und Grammatiken ....................... 139 Die Sprachhierarchie nach Chomsky........................ 140 Regul¨ are Sprachen (Typ 3) ................................... 143 Kontextfreie Sprachen (Typ 2) .............................. 145 Kontextsensitive Sprachen (Typ 1) ......................... 146 Allgemeine Sprachen (Typ 0) ................................ 150 Das Wortproblem .............................................. 150 Die Wortanalyse ................................................ 152 Wortanalyse f¨ ur Typ-3-Grammatiken ....................... 152 Wortanalyse f¨ ur Typ-2-Grammatiken ....................... 160 Wortanalyse f¨ ur Typ-1- und Typ-0-Grammatiken ........ 167 Formalisierung nat¨ urlicher Sprachen........................ 167 Der DCG-Formalismus ........................................ 172 Definition und Eigenschaften von DCG .................... 172 Unifikation ....................................................... 175

110 112 114 115 117 117 118 120 120 122 122 123 126 128 129 129 129 129 129 131 132 133 133 135

X

Inhaltsverzeichnis

6.5.3 6.5.4 6.5.5 6.6 6.6.1 6.6.2 6.6.3

DCG-Ableitungen............................................... DCG-Ableitungsbaum ......................................... DCG und Chart-Parsing....................................... Two-Level-Regeln und Transduktoren...................... Einf¨ uhrung ....................................................... Two-Level-Regeln .............................................. Transduktoren...................................................

175 177 178 178 178 179 182

7 7.1 7.2 7.3 7.4 7.4.1 7.4.2 7.5 7.5.1 7.5.2

Einf¨ uhrung in die Sprachsynthese ¨ Uberblick u ¨ber die Geschichte der Sprachsynthese ...... Aufgabe der Sprachsynthese ................................. Zusammenhang zwischen Lautsprache und Schrift ...... Teile der Sprachsynthese...................................... Die Transkription ............................................... Die phonoakustische Stufe ................................... Lautinventar f¨ ur die Sprachsynthese ........................ Linguistische Grundlagen ..................................... Festlegen der Lautdifferenzierung ...........................

193 194 195 196 197 199 200 200 201

8 8.1 8.1.1 8.1.2 8.2 8.2.1 8.2.2 8.3 8.3.1 8.3.2 8.3.3 8.4 8.4.1 8.4.2 8.4.3 8.4.4 8.4.5 8.4.6 8.4.7 8.4.8 8.4.9

Sprachsynthese: Transkription Linguistische Grundlagen f¨ ur die Transkription........... Ermitteln der Lautfolge ....................................... Ermitteln der Prosodie ........................................ Automatische Transkription .................................. Der “direkte” Ansatz der Transkription..................... Der linguistische Ansatz der Transkription ................ Automatische morphosyntaktische Analyse ............... Morphologische Analyse mit DCG .......................... Generierung der phonetischen Umschrift in einer DCG . Hauptprobleme der morphosyntaktischen Analyse ....... Realisation einer Transkriptionsstufe ....................... DCG in SVOX .................................................. Morphologische Analyse in SVOX .......................... Syntaxanalyse in SVOX ....................................... Analyse unbekannter Wortst¨ amme ......................... Bestimmung der phonetischen Umschrift ganzer W¨ orter Akzentuierung................................................... Phrasierung ...................................................... Generierung der phonologischen Darstellung.............. Weiterverarbeitung der phonologischen Darstellung .....

205 206 210 212 212 213 215 215 217 218 222 223 223 224 226 226 228 231 232 233

Inhaltsverzeichnis

XI

9 9.1 9.1.1 9.1.2 9.1.3 9.2 9.2.1 9.2.2 9.2.3 9.3 9.3.1 9.3.2 9.3.3 9.3.4 9.3.5

Sprachsynthese: Phonoakustische Stufe Verfahren f¨ ur die Sprachsignalproduktion ................. Der artikulatorische Ansatz .................................. Der Signalmodellierungsansatz .............................. Der Verkettungsansatz ........................................ Sprachsynthese nach dem Verkettungsansatz ............ Wahl der Grundelemente ..................................... Ausschneiden von Grundelementen ......................... Ver¨ anderung der prosodischen Gr¨ ossen .................... Steuerung der Prosodie ....................................... Dauersteuerung ................................................. Grundfrequenzsteuerung ...................................... Intensit¨ atssteuerung ........................................... Umsetzung der prosodischen Gr¨ ossen auf die Laute..... Prosodische Ver¨ anderung der Grundelemente ............

237 238 239 242 243 244 245 247 255 256 266 276 278 278

10 10.1 10.2 10.3 10.4 10.5 10.6 10.6.1 10.6.2 10.7 10.7.1 10.7.2 10.7.3 10.7.4 10.7.5

Einf¨ uhrung in die Spracherkennung Zur Geschichte der Spracherkennung....................... Ans¨ atze zur Spracherkennung................................ Probleme der Spracherkennung.............................. Anwendungen ................................................... Einteilung der Spracherkennungssysteme .................. Evaluation der Erkennungsleistung ......................... Wortfehlerrate .................................................. Algorithmus zur Bestimmung der Wortfehlerrate ........ Merkmalsextraktion ............................................ Mel-Frequency Cepstral Coefficients (MFCC) ............ Gegl¨ attete Mel-Spektren von Vokalen und Frikativen... Plosivlaute im gegl¨ atteten Mel-Spektrogramm ........... Spektrale Variabilit¨ at .......................................... Rekonstruktion des Signals ...................................

283 285 286 289 290 292 293 293 294 296 297 298 300 300

11 11.1 11.1.1 11.1.2 11.1.3 11.1.4 11.1.5 11.1.6 11.1.7 11.2

Spracherkennung mit Mustervergleich Sprachmustervergleich......................................... Das Prinzip des Sprachmustervergleichs ................... Zeitliche Anpassung zweier Sprachmuster ................. Randbedingungen f¨ ur die Warping-Kurve ................. Der DTW-Algorithmus ........................................ Spracherkennung mittels DTW.............................. Generieren von Referenzmustern ............................ Einsatzm¨ oglichkeiten und Grenzen.......................... ¨ Aufnehmen einer Ausserung..................................

305 305 308 309 312 314 315 317 317

XII

Inhaltsverzeichnis

11.2.1 Anwendungsszenarien ......................................... 11.2.2 Anfangs- und Endpunktdetektion ...........................

317 320

12 12.1 12.2 12.3 12.3.1 12.4 12.4.1 12.4.2 12.4.3 12.5 12.5.1 12.5.2 12.5.3 12.5.4 12.5.5 12.5.6 12.6 12.6.1 12.6.2 12.7 12.7.1 12.7.2 12.7.3 12.8 12.8.1 12.8.2 12.8.3 12.9

Statistische Spracherkennung Informationstheoretische Sicht............................... Spracherkennung gem¨ ass MAP-Regel ...................... Modellierung von Merkmalssequenzen ..................... Variabilit¨ at von Merkmalssequenzen........................ Akustische Modelle f¨ ur W¨ orter .............................. Sprachmerkmale f¨ ur die Spracherkennung................. HMM als Wortmodell ......................................... Erzeugen von Wortmodellen ................................. Spracherkennung mit Wort-HMM .......................... Einzelworterkennung ........................................... Worterkenner mit Erkennungsnetzwerk .................... Schl¨ usselworterkennung ....................................... Verbundworterkennung ........................................ Erkennung mit dem N-best-Viterbi-Algorithmus ......... Erkennung kontinuierlicher Sprache ........................ Akustische Modelle f¨ ur Wortteile ........................... Wahl der Grundelemente ..................................... Erzeugen von Grundelementmodellen ...................... Modelle f¨ ur verschiedene akustische Ereignisse........... Modelle f¨ ur Pausen ............................................ Modelle f¨ ur Ger¨ ausche ........................................ Modell f¨ ur beliebige Sprachsignale .......................... Spracherkennung mit Laut-HMM ........................... Erkennung einzeln gesprochener W¨ orter ................... Erkennung kontinuierlicher Sprache ........................ Reduktion des Rechenaufwands (Pruning) ................ St¨ arken und Schw¨ achen von HMM .........................

327 327 329 329 333 334 336 337 341 341 343 345 345 347 348 349 349 355 361 361 362 363 363 363 364 364 365

13 13.1 13.2 13.2.1 13.2.2 13.2.3 13.2.4 13.2.5 13.2.6

Sprachmodellierung Zum Begriff Sprachmodellierung in der Spracherkennung Statistische Sprachmodellierung ............................. Sprachmodellierung bei der Einzelworterkennung ........ Sprachmodellierung f¨ ur Wortfolgen ......................... Das allgemeine statistische Sprachmodell ................. N-Gram-Sprachmodelle ....................................... Sch¨ atzen der Parameter von N-Gram-Sprachmodellen . Kategorielle N-Gram-Sprachmodelle ........................

369 370 371 373 373 375 377 380

Inhaltsverzeichnis

XIII

13.2.7 Anwendung von N-Gram-Sprachmodellen im Viterbi13.2.8 13.2.9 13.3 13.3.1 13.3.2

Algorithmus ..................................................... Bewertung von Sprachmodellen ............................. St¨ arken und Schw¨ achen der statistischen Modellierung Wissensbasierte Sprachmodellierung........................ Linguistisches Wissen in der Spracherkennung ........... Formale Grammatiken als Sprachmodelle .................

382 383 386 389 389 392

A A.1 A.2 A.3 A.4 A.4.1 A.4.2 A.5 A.5.1 A.5.2 A.5.3 A.5.4 A.5.5

Verschiedene Grundlagen Phonetische Schrift in ASCII-Darstellung ................. Phonemsystem des Deutschen ............................... Z-Transformation............................................... Wahrscheinlichkeitstheorie.................................... Regeln der Wahrscheinlichkeitsrechnung .................. Wahrscheinlichkeitsverteilungen ............................. Neuronale Netze: Mehrschicht-Perzeptron ................ Das Neuronenmodell........................................... Das Mehrschicht-Perzeptron ................................. Anwendungen von Mehrschicht-Perzeptronen ............ Training eines Mehrschicht-Perzeptrons ................... Hinweise zum Einsatz von neuronalen Netzen............

401 404 405 407 407 409 415 415 416 417 418 420

B B.1 B.2 B.2.1 B.2.2 B.3 B.3.1 B.3.2 B.4 B.4.1 B.4.2 B.4.3 B.5 B.6 B.6.1 B.6.2 B.6.3

Fourier-Analyse-Synthese von Sprachsignalen Das Prinzip der Fourier-Analyse-Synthese................. Das wirkliche Spektrum eines Signals ...................... Die Wahl der Fensterfunktion ............................... Analyse eines stark instation¨ aren Signals .................. Sch¨ atzen des wirklichen Spektrums von Sprachsignalen Ermittlung schwacher spektraler Komponenten .......... Elimination unechter spektraler Maxima .................. Bestimmen der Grundfrequenz .............................. Berechnung der Autokorrelation............................. Detektion des AKF-Maximums .............................. Erh¨ ohung der Genauigkeit .................................... Rekonstruktion des Sprachsignals ........................... Prosodische Ver¨ anderung im Kurzzeitspektrum .......... Dauerver¨ anderung .............................................. Grundfrequenzver¨ anderung ................................... Frequenzskalierung und Signalbandbreite..................

426 428 430 431 436 438 440 442 442 444 445 446 448 448 451 457

XIV

Inhaltsverzeichnis

Notationen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 461 Glossar . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 465 Literaturverzeichnis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

475

Index . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 477

Einf¨ uhrung Im Deutschen wird unter dem Begriff Sprachverarbeitung sowohl die Verarbeitung lautlicher als auch geschriebener Sprache verstanden. Im Gegensatz dazu gibt es beispielsweise im Englischen die Begriffe Speech Processing und Natural Language Processing, wobei mit dem ersten ausschliesslich die Verarbeitung gesprochener Sprache gemeint ist und der zweite die Verarbeitung geschriebener Sprache bezeichnet. Da es in diesem Buch haupts¨ achlich um den Zusammenhang zwischen lautlicher und textlicher Form von Sprache geht, bzw. um die Umsetzung lautlicher Sprache in Text oder umgekehrt, wird konsequent zwischen den beiden Formen unterschieden: Lautsprache bezieht sich stets mehr oder weniger direkt auf das Sprechen oder H¨ oren und wird je nach Zusammenhang auch als gesprochene Sprache, als akustische Form der Sprache oder im technischen Sinne als Sprachsignal bezeichnet. Text bezeichnet die geschriebene Form der Sprache, f¨ ur die auch Begriffe wie orthographische oder graphemische Form der Sprache verwendet werden. Die technische Umsetzung von Text in Lautsprache wird als Sprachsynthese bezeichnet. Der umgekehrte Prozess, die Spracherkennung, ermittelt aus der Lautsprache den entsprechenden textlichen Inhalt. Die Zielsetzung dieses Buches besteht darin, die im Zusammenhang mit Sprachsynthese und Spracherkennung relevanten Grundlagen und Verfahren zu erkl¨ aren. Dazu geh¨ oren insbesondere: Grundkenntnisse u ¨ ber die menschliche Sprachproduktion und Sprachwahrnehmung Eigenschaften von Sprachsignalen und ihre Darstellung Grundkenntnisse in Linguistik der deutschen Sprache, insbesondere Phonetik, Morphologie und Syntax die wichtigsten Transformationen und Methoden der digitalen Sprachsignalverarbeitung die statistische Beschreibung vieldimensionaler Gr¨ ossen mittels HiddenMarkov-Modellen Darstellung komplexer Zusammenh¨ ange mit neuronalen Netzen die Formulierung und Anwendung von Wissen in der Form von Regeln

2

Einf¨ uhrung

Aufbauend auf diesen Grundlagen werden die wichtigsten Ans¨ atze zur Sprachsynthese und Spracherkennung behandelt. In der Sprachsynthese sind dies: die Umwandlung von Text in eine phonologische Beschreibung, wie sie im ETH-Sprachsynthesesystem SVOX verwirklicht ist einfachere und ausgekl¨ ugeltere Ans¨ atze zur Steuerung der Prosodie verschiedene M¨ oglichkeiten zum Generieren von Sprachsignalen In der Spracherkennung werden zwei grundlegende Ans¨ atze behandelt: der ¨ altere Mustererkennungsansatz, der prim¨ ar in einfachen Systemen zur Anwendung kommt die moderne statistische Spracherkennung mittels Hidden-Markov-Modellen und N-Grams Das Buch ist haupts¨ achlich mathematisch-technisch ausgerichtet. Um die interdisziplin¨ aren Aspekte der Sprachverarbeitung angemessen zu behandeln, werden jedoch auch die linguistischen Grundlagen eingef¨ uhrt, soweit dies f¨ ur das Verst¨ andnis der Sprachsynthese und der Spracherkennung n¨ utzlich ist. Viele Sachverhalte, sowohl aus dem Bereich der Sprachsignalverarbeitung als auch aus der Linguistik, werden mit Beispielen illustriert. Vor allem u ¨ ber diese Beispiele, aber auch u ¨ ber die linguistischen Konventionen, wird ein starker Bezug zur deutschen Sprache hergestellt. Die behandelten Grundlagen und Verfahren sind jedoch weitgehend sprachunabh¨ angig. Die Gliederung das Buches ist wie folgt: Das erste Kapitel enth¨ alt einf¨ uhrende Angaben zur Sprache als Kommunikationsmittel, zur Beschreibung von Sprache, zur Sprachproduktion und zur akustischen Wahrnehmung. Kapitel 2 ¨ vermittelt einen Uberblick u ¨ ber die verschiedenen Bereiche der Sprachverarbeitung. Dabei werden auch einige in diesem Buch nicht behandelte Bereiche gestreift. Das 3. Kapitel zeigt die wesentlichen Darstellungsarten und Eigenschaften von Sprachsignalen. Die Kapitel 4 bis 6 enthalten wichtige Grundlagen: Im Kapitel 4 werden alle in diesem Buch verwendeten Signaloperationen und Transformationen behandelt. Das Kapitel 5 umfasst die Grundlagen der Hidden-Markov-Modelle. Im Kapitel 6 werden die Methoden zur Beschreibung und Anwendung regelbasierten, linguistischen Wissens eingef¨ uhrt. Die weiteren Kapitel befassen sich mit der Sprachsynthese (Kapitel 7 bis 9) und mit der Spracherkennung (Kapitel 10 bis 13).

Kapitel 1 Grunds¨ atzliches zur Sprache

1

1

1 1.1 1.1.1 1.1.2 1.2 1.2.1 1.2.2 1.2.3 1.2.4 1.3 1.3.1 1.3.2 1.3.3 1.4 1.4.1 1.4.2 1.4.3 1.4.4 1.4.5 1.5

Grunds¨ atzliches zur Sprache Sprache als Kommunikationsmittel ......................... Lautsprachliche Kommunikation ............................ Geschriebene vs. gesprochene Sprache ..................... Die Beschreibung von Sprache .............................. Die linguistischen Ebenen .................................... Die phonetische Schrift ....................................... Die akustisch-phonetische Ebene............................ Die Prosodie der Sprache ..................................... Die menschliche Sprachproduktion ......................... ¨ Ubersicht u ¨ber den Sprechapparat .......................... Die Funktion des Sprechapparates .......................... Die Artikulation der Sprachlaute ............................ Das menschliche Geh¨ or ....................................... Wahrnehmung der Schallintensit¨ at ......................... Periodizit¨ at und Tonh¨ ohe..................................... Die Phasenwahrnehmung ..................................... Der Verdeckungseffekt ........................................ Wahrnehmung der Sprachlaute .............................. Verarbeitung nat¨ urlicher Sprache ...........................

5 5 6 8 8 10 11 11 12 12 12 14 15 16 17 18 18 19 21

1 Grunds¨ atzliches zur Sprache In diesem Kapitel werden allgemeine Grundlagen und Begriffe eingef¨ uhrt, auf denen die weiteren Kapitel aufbauen.

1.1

1.1 Sprache als Kommunikationsmittel 1.1.1 Lautsprachliche Kommunikation ¨ Kommunikation bezeichnet allgemein die Ubermittlung von Information. Da¨ bei k¨ onnen die Art der Information und das Ubertragungsmedium sehr unterschiedlich sein. Bei der direkten lautsprachlichen Kommunikation zwischen Menschen wird die Information (Botschaft, Gedanke, Idee etc.) in die Form der gesprochenen Sprache umgesetzt, die sich vom Mund des Sprechers via das Medium Luft als Schallwellen ausbreitet, wie in der Abbildung 1.1 schematisch dargestellt. Die Schallwellen gelangen an das Ohr des Zuh¨ orers, der aus dem Sprachschall die Botschaft ermittelt. sprechende Person

zuhörende Person

Gedanke

kognitiver Prozess

Gedanke

Artikulatoren

Gehör

kognitiver Prozess

¨ Abbildung 1.1. Symbolische Darstellung der lautsprachlichen Ubertragung einer gedanklichen Botschaft von einem Sprecher zu einem Zuh¨ orer

Lautsprachliche Kommunikation kann nicht nur zwischen Menschen, sondern auch zwischen einer Maschine und einem Menschen stattfinden. Im Gegensatz zum menschlichen Sprecher versteht jedoch gew¨ ohnlich die sprechende Maschine den Sinn der ausgegebenen Lautsprache nicht. Die sprechende Maschine ersetzt somit im Allgemeinen nicht einen Sprecher, der Gedanken in Lautsprache umsetzt. Heutzutage geben die meisten der sogenannt sprechenden Maschinen bloss vorg¨ angig aufgezeichnete Sprachsignale aus. Neuerdings kommt auch Sprachsynthese zum Einsatz, also das Umsetzen einer als Text ¨ ausformulierten Meldung in ein Sprachsignal. Das Ubersetzen von Ideen, Fakten etc. in sprachlich korrekte und sinnvolle Texte wird jedoch weitgehend bei der Konzeption der Maschine vollzogen und ist somit Sache des Menschen.

6

1. Grunds¨ atzliches zur Sprache

Sinngem¨ ass trifft dies auch f¨ ur den Vergleich einer Spracherkennungsmaschine mit einem Zuh¨ orer zu. W¨ ahrend der Zuh¨ orer das Geh¨ orte automatisch auf seinen Sinn hin u uft, indem er es zum aktuellen Thema und zu allgemei¨ berpr¨ nem Wissen in Bezug setzt, begn¨ ugt sich die Spracherkennung in der Regel damit, das Sprachsignal in eine Folge von W¨ ortern zu transformieren. Ob diese Wortfolge auch sinnvoll ist, l¨ asst sich i.a. maschinell nicht u ufen. ¨ berpr¨

1.1.2 Geschriebene vs. gesprochene Sprache Die lautliche Form der menschlichen Sprache ist viel ¨ alter als die geschriebene. Entwicklungsgeschichtlich gesehen ist das Bestreben, nebst der Lautsprache auch eine schriftliche Form der Kommunikation zu haben, relativ jung, insbesondere im deutschen Sprachraum. Urspr¨ unglich versuchte die (alphabetische) Schrift ein Abbild der Lautsprache zu geben, war also eher eine Art phonetische Schreibweise. Die so entstandene Orthographie der deutschen Sprache war naheliegenderweise stark durch den Dialekt und die pers¨ onliche Auffassung des Schreibers gepr¨ agt und somit sehr uneinheitlich.1 Mit der zunehmenden Bedeutung der schriftlichen Kommunikation durch die Erfindung des Buchdrucks Mitte des 15. Jahrhunderts und noch ausgepr¨ agter durch die Einf¨ uhrung der allgemeinen Schulpflicht zu Beginn des 19. Jahrhunderts wurde die Vereinheitlichung der deutschen Rechtschreibung verst¨ arkt. Die Ver¨ offentlichung des “Vollst¨ andiges orthographisches W¨ orterbuch der deutschen Sprache” von Konrad Duden im Jahre 1880 war ein wichtiger Schritt auf diesem Wege. Eine allgemein anerkannte und als verbindlich festgelegte deutsche Orthographienorm entstand jedoch erst 1901 an der Orthographischen Konferenz in Berlin. Die moderne Zivilisation mit ihrer starken Abh¨ angigkeit von der geschriebenen Sprache verleitet dazu, Sprache in erster Linie in ihrer geschriebenen Form zu betrachten und die Lautsprache zur ungenauen verbalen Realisation eines Textes abzuqualifizieren. Tats¨ achlich sind jedoch die Ausdrucksm¨ oglichkeiten der Lautsprache vielf¨ altiger als diejenigen der geschriebenen Sprache (vergl. auch Abschnitt 1.2.4), und zwar unabh¨ angig davon, ob es sich um gelesene Sprache oder um sogenannte Spontansprache handelt. Dieses Buch befasst sich sowohl mit der geschriebenen, als auch mit der gesprochenen Sprache und insbesondere mit der automatischen Umwandlung der einen Form in die jeweils andere. Die Charakterisierung von geschriebener bzw. gesprochener Sprache erfolgt dementsprechend unter einer technischen Perspektive. 1

So sind beispielsweise f¨ ur das Wort “Leute” in Dokumenten aus dem 14. bis 16. Jahrhundert unter anderem die folgenden Schreibweisen zu finden: Leut, Le¨ uthe, ut, L´ ut, Lui te, wobei nicht alle hinsichtlich Bedeutung identisch Lude, Lue de, Lute, L¨ sind (vergl. [28]).

1.1

Sprache als Kommunikationsmittel

7

Unter geschriebener Sprache soll hier Text verstanden werden, der z.B. als Zeichenfolge in einem Computer vorliegt. Mit gesprochener Sprache sind digitalisierte Sprachsignale, sogenannte Zeitreihen gemeint. Die augenf¨ alligsten Unterschiede sind somit (vergl. auch Abbildung 1.2): Text besteht grunds¨ atzlich aus einer Folge diskreter Zeichen aus einem relativ kleinen Zeichensatz, den Buchstaben des Alphabets. Die Zeichen beeinflussen sich gegenseitig nicht und die W¨ orter sind klar gegeneinander abgegrenzt. Lautsprache ist zwar auch eine Abfolge von Elementen, n¨ amlich von Lauten, die wir mehr oder weniger eindeutig wahrnehmen k¨ onnen. Die in der Form des Sprachsignals physikalisch erfassbare Lautsprache zeigt jedoch, dass die Laute nicht scharf voneinander abgegrenzt sind, weder in zeitlicher Hinsicht noch bez¨ uglich der charakteristischen Eigenschaften. Die lautlichen Eigenschaften des Sprachsignals ver¨ andern sich kontinuierlich von einem Laut zum n¨ achsten, auch u ¨ ber die Wortgrenzen hinweg. Wortgrenzen sind somit in der Regel nicht ersichtlich. Zudem ist die Auspr¨ agung eines Lautes stark von seinen Nachbarlauten (Koartikulation), von seiner Stellung im Wort bzw. Satz und nicht zuletzt vom Sprecher abh¨ angig. Ein digitalisiertes Sprachsignal ist eine Folge von Abtastwerten, also eine Zahlenreihe und somit auch eine Folge diskreter Zeichen. Im Gegensatz zur geschriebenen Sprache, bei der z.B. jedes ASCII-Zeichen genau einem Buchstaben entspricht, besteht jedoch zwischen einem Signalabtastwert und einem Laut kein direkter Zusammenhang. Diese rudiment¨ are Charakterisierung zeigt, dass das Sprachsignal von diversen sehr unterschiedlichen Faktoren gepr¨ agt wird. Es kann deshalb kaum erstaunen, dass das Detektieren von Lauten im Sprachsignal und damit die Spracherkennung alles andere als trivial ist.

Text:

“Heinrich kommt nach Hause.”

Sprachsignal:

0

0.2

0.4

0.6

0.8

1

1.2

1.4

[s]

Abbildung 1.2. Veranschaulichung der Verschiedenheit von Text und Sprachsignal

8

1.2

1. Grunds¨ atzliches zur Sprache

1.2 Die Beschreibung von Sprache In diesem Abschnitt geht es um die Beschreibung von Sprache aus der Sicht der Linguistik. Dabei interessiert, aus welchen Elementen die Sprache besteht, welche Gesetzm¨ assigkeiten zwischen Elementen (oder Folgen von Elementen) vorhanden sind und welche Beziehungen zwischen den Elementen und dem “Rest der Welt” bestehen (siehe Abschnitt 1.2.1). Diese vielschichtigen Zusammenh¨ ange werden auch als Struktur der Sprache bezeichnet und die sprachlichen Elemente werden dabei als Symbole oder Abstrakta betrachtet. Aus der Sicht der Phonetik geht es bei der Beschreibung von Sprache um die Eigenschaften der konkreten lautsprachlichen Realisierungen der abstrakten Elemente. Dabei wird zwischen der segmentalen Ebene, also der Ebene der Laute (vergl. Abschnitt 1.2.3), und der suprasegmentalen Ebene, der Prosodie (siehe Abschnitt 1.2.4) unterschieden.

1.2.1 Die linguistischen Ebenen Bei der Beschreibung der Struktur der Sprache unterscheidet die Linguistik verschiedene Ebenen. Es ist u at zu ordnen, ¨ blich, die Ebenen nach Komplexit¨ wobei zur Komplexit¨ at haupts¨ achlich die Vielfalt und die Gr¨ osse der Elemente beitragen. Auf der untersten Ebene wird zudem zwischen Lautsprache und geschriebener Sprache unterschieden: Graphemische Ebene: Sie definiert den Vorrat an Schriftzeichen, das sogenannte Alphabet. Die Elemente des Alphabets werden auch als Grapheme bezeichnet. Wie alle anderen Ebenen ist auch die graphemische Ebene a, ¨ o sprachspezifisch. Sie spezifiziert beispielsweise, dass die Grapheme ¨ und u oren. ¨  zum deutschen, nicht aber zum englischen Alphabet geh¨ Phonemische Ebene: Die kleinsten Einheiten der Lautsprache sind die Laute oder Phone, wobei die Linguistik unterscheidet zwischen den Phonemen und den Allophonen: Die Phoneme sind die kleinsten bedeutungsunterscheidenden Einheiten einer Sprache. Die Phoneme einer Sprache k¨ onnen mit der Minimalpaaranalyse ermittelt werden. So gibt es im Deutschen beispielsweise das Wortpaar “doch” und “roch” (in phonemischer Darstellung gem¨ ass Abschnitt A.2 geschrieben als /dOx/ und /rOx/) und damit die Phoneme /d/ und /r/. Weil im Deutschen auch Wortpaare wie “Rate” /ra:t@/ und “Ratte” /rat@/ existieren, sind auch /a/ und /a:/ Phoneme. Zwar nicht im Deutschen, aber in sogenannten Tonsprachen (z.B. Chinesisch) gibt es auch Wortpaare und damit Laute, die sich nur in der Tonh¨ ohe bzw. im Tonh¨ ohenverlauf unterscheiden. Solche Laute sind definitionsgem¨ ass auch Phoneme.

1.2

Die Beschreibung von Sprache

9

Die Allophone sind zum selben Phonem geh¨ orige Laute oder Lautvarianten. Sie bewirken in der betrachteten Sprache keinen Bedeutungsunterschied. So ist die Bedeutung des Wortes “roch” dieselbe, unabh¨ angig davon, ob es als [rOx] (mit Zungenspitzen-R) oder als [öOx] (mit Z¨ apfchen-R) gesprochen wird. Die Laute [r] und [ö] werden als Allophone des Phonems /r/ bezeichnet. Sind die Allophone beliebig gegeneinander austauschbar (d.h. unabh¨ angig von der Stellung), dann heissen sie freie Allophone. So sind z.B. [ö] und [r] freie Allophone des Phonems /r/. Kommen die Laute nur in bestimmten Kontexten vor, dann werden sie als stellungsbedingte Allophone bezeichnet. Im Deutschen sind beispielsweise die Laute [¸c] in “ich” und [x] in “ach” stellungsbedingte Allophone des Phonems /x/. Morphologische Ebene: Die Morphologie beschreibt, wie aus Morphemen korrekte Wortformen aufgebaut werden. In der Linguistik werden mit dem Begriff Morphem Abstrakta wie Stamm-, Pr¨ afix- und Pluralmorphem bezeichnet. Die konkreten Realisationen sind die Morphe. Morphe aus, die zu einer gemeinsamen Grundform {haus} geh¨ owie haus und h¨ ren, werden Allomorphe genannt und die Grundform {haus} wird ebenfalls als Morphem bezeichnet. Morpheme sind die kleinsten bedeutungstragenden Einheiten einer Sprache. Eine wesentliche Eigenschaft der Morphe ist, dass sie nicht anhand eines kompakten Satzes von Regeln beschrieben werden k¨ onnen. Sie lassen sich bloss aufz¨ ahlen. Syntaktische Ebene: Die Syntax beschreibt mittels Regeln, wie Wortformen zu Konstituenten (Satzteilen oder Wortgruppen) und diese wiederum zu S¨ atzen kombiniert werden k¨ onnen. F¨ ur das Deutsche gibt es beispielsweise die Regel, dass Artikel, Adjektiv und Nomen in einer Nominalgruppe bez¨ uglich Kasus, Numerus und Genus (Fall, Zahl und grammatisches Geschlecht) u ussen. So ist “des alten Hauses” ¨ bereinstimmen m¨ eine korrekte neutrale (s¨ achliche) Nominalgruppe im Genitiv Singular. Semantische Ebene: Die Semantik befasst sich mit der Bedeutung von W¨ ortern, Ausdr¨ ucken und S¨ atzen. Die Abgrenzung gegen¨ uber der Syntax zeigt sich einleuchtend anhand von S¨ atzen wie “Die Polizei f¨ angt den ausgebrochenen Vulkan wieder ein.”, der zwar syntaktisch, nicht aber semantisch korrekt (sinnhaft im Gegensatz zu sinnlos) ist. Pragmatische Ebene: Diese Ebene wird oft nicht der Linguistik im engeren Sinne zugerechnet. Sie befasst sich mit dem Zweck der Sprache und stellt das Geschriebene oder Gesprochene in Bezug zur schreibenden bzw. sprechenden Person und in einen gr¨ osseren Zusammenhang. Beispielswei-

10

1. Grunds¨ atzliches zur Sprache

se kann der Satz “Du musst dieses Buch lesen!” eine Empfehlung oder ein Befehl sein, abh¨ angig davon, ob die Kommunikation zwischen Kollegen stattfindet oder ob ein Lehrer den Satz zu einem Sch¨ uler spricht. Zudem erzielt die Sprache je nach Wortwahl oder Formulierung (bei der Lautsprache ist auch die Sprechweise2 relevant) eine unterschiedliche Wirkung.

1.2.2 Die phonetische Schrift Aus dem Fremdsprachenunterricht weiss man, dass aus der Schreibweise (graphemische Form) von W¨ ortern oft nicht ohne weiteres auf deren korrekte Aussprache (phonetische Form) geschlossen werden kann. Vielen Menschen fallen diese Unterschiede zwischen Schreib- und Sprechweise in ihrer Muttersprache nicht auf. Sie sind jedoch in jeder Sprache in mehr oder weniger ausgepr¨ agter Form vorhanden, so auch im Deutschen. Da die Lautvielfalt gr¨ osser als die Anzahl der Buchstaben ist, haupts¨ achlich weil auch Dauer, Tonh¨ ohe, Nasalierung, Stimmhaftigkeit etc. lautunterscheidende Merkmale sind, ist zur Notation der Aussprache eine spezielle Schrift erforderlich, also eine phonetische Schrift. Es gibt eine grosse Vielfalt von phonetischen Schriften, die das Lautsystem einer Sprache verschieden differenziert beschreiben. F¨ ur den Sprachenunterricht hat sich die als IPA-Alphabet (International Phonetic Association) bezeichnete phonetische Schrift durchgesetzt. Die IPA-Lautschrift wird auch in diesem Buch verwendet. Einige Beispiele solcher IPA-Symbole sind in der Tabelle 1.1 aufgef¨ uhrt. Die vollst¨ andige Liste aller hier verwendeten IPA-Symbole ist im Anhang A.1 zu finden. Tabelle 1.1. IPA-Symbole mit Beispielen in graphemischer und phonetischer Schreibweise.

a a: a ˜ a: ˜ 5 a