Text alignment and text quality are critical to the accuracy of Machine Translation (MT) systems, some NLP tools, and any other text processing tasks requiring bilingual data. This research proposes a language-independent bisentence filtering approach based on Polish (not a position-sensitive language) to English experiments. This cleaning approach was developed on the TED Talks corpus and also initially tested on the Wikipedia comparable corpus, but it can be used for any text domain or language pair. The proposed approach implements various heuristics for sentence comparison. Some of the heuristics leverage synonyms as well as semantic and structural analysis of text as additional information. Minimization of data loss has been? ensured. An improvement in MT system scores with text processed using this tool is discussed.
2
Dostęp do pełnego tekstu na zewnętrznej witrynie WWW
Burrows-Wheeler block sorting algorithm is one of the most attractive lossless compression methods. In this paper we present several ideas attempting to improve text compression while retaining the speed. All of them are performed before actual coding in an independent preprocessing (filtering) phase which yields flexibility of the coder selection. Experiments with bzip, a well known block sorting implementation, indicate 2-4 per cent compression gains for typical English texts.
PL
Algorytm Burrowsa-Wheelera jest jedną z najatrakcyjniejszych metod kompresji bezstratnej. W pracy przedstawiamy szereg idei mających na celu poprawę kompresji tekstu przy zachowaniu szybkości algorytmu. Wszystkie usprawnienia są transformacjami (filtrami) na oryginalnych danych, przeprowadzanymi przed zasadniczym kodowaniem. Umożliwia to swobodny wybór kodera. Eksperymenty z bzip, znaną implementacją algorytmu Burrowsa-Wheelera, wskazują na 2-4-procentową poprawę kompresji typowych tekstów w języku angielskim.
JavaScript jest wyłączony w Twojej przeglądarce internetowej. Włącz go, a następnie odśwież stronę, aby móc w pełni z niej korzystać.