TAPoRText Analysis Portal for Research

Cos’è Tapor

• Si tratta di un analizzatore testuale che prevede 3 set di strumenti per altrettante tipologie di file testuali

• File di testo semplice (plain text)

• File HTML

• File XML

• Il progetto nasce come collaborazione tra 6 università

Le 6 università

• McMaster University

• University of Alberta

• Université de Montreal

• University of New Brunswick

• University of Toronto

• University of Victoria

Un problema spinoso

• Il formato dei file riconosciuti da un analizzatore testuale è vario e non standard

• Generalmente si tratta di file con estensione TXT (plain text)

• Tact legge formati MS-DOS, TAPoR formati US-ASCII, UNICODE.

Salvare il testo

• I valori ASCII standard sono quelli fra 0 e 127, cioè i valori ottenibili con 7 bit)

• L'ASCII standard è uguale fra le diverse lingue e le diverse macchine (mac, unix, win...) per i valori fra 32 e 127, rappresentando lettere dell'alfabeto inglese, numeri e alcuni caratteri speciali

• quelli fra 0 e 31 sono riservati ai diversi sistemi operativi.

Salvare il testo

• I bit vengono aumentati a 8 e si ebbe in tal modo il cosiddetto ASCII esteso, che nelle varie versioni internazionali ospitava tutti quei caratteri non presenti nell'ASCII a 7 bit

• Particolarmente usato è ISO-LATIN 1, che contiene i caratteri principali delle lingue occidentali e anglosassoni con alfabeti latini

Muoversi in Tapor

• Tre tipologie di testi analizzabili (TXT, HTML, XML)

• Diversi strumenti per le diverse tipologie

• Su file lunghi le operazioni possono richiedere molto tempo, dipendentemente dalla macchina e dalla connessione a internet

Analisi plain text: gli strumenti

1. List words (elencazione delle parole): elenca tutte le parole presenti nel testo, ordinandole in 4 modi (alfabetico diretto ed inverso, di frequenza, di ordine di comparsa)

2. Find text (ricerca del testo): è lo strumento di concordanza per cercare parole, frasi o righe di testo

BOX DI SELEZIONE PER L’OPZIONE “LIST WORDS”

RISULTATO INTERROGAZIONE SULLE “RIME” DELL’ANGIOLIERI

ORDINAMENTO PER FREQUENZA

STRUMENTO “FIND TEXT” - CONCORDANZA

CONCORDANZA PER LA PAROLA “AMORE”

Analisi plain text: gli strumenti

3. Co-occurence (co-occorrenza): cerca le ricorrenze di due parole vicine tra loro, a distanza specificata

4. Collocation (collocazione): vengono restituite le parole che precedono e seguono immediatamente la parola data. Ordinamento alfabetico, per frequenza e per Z-score

STRUMENTO “CO-OCCORENCE”

CO-OCCORRENZA “AMORE”/”CUORE”

CO-OCCORRENZA “AMORE”/”DOLORE”

Analisi plain text: gli strumenti

5. Tokenize (divisione in token): divide il testo in parti, usando come separatore un “token” specificato (una parola, uno spazio, un elemento, ecc)

6. Fixed phrase (frase fissata): viene estratta la frase che contiene una parola data calcolata in base alla lunghezza del contesto voluta

Analisi plain text: gli strumenti

7. Date finder (estrattore di date): trova nel testo tutti i formati data possibili e li restituisce insieme al contesto

8. Summarizer

9. Comparator

10.Distribution

11.Speech Tagger

La distribuzione

DISTRIBUZIONE FORMA “GIUSTIZIA” – “LA PATENTE”, L. PIRANDELLO

Alcuni indici di rilievo

• Token• Type• Hapax legomena• Hapax dislegomena• Deviazione standard• Z-score• Indice di Kurtosis• Caratteristica di Herdann

• Number of Types = 1325• Number of Tokens = 3018• Type/Token ratio = 0.439• Token/Type ratio = 2.278• Hapax Legomena = 932• Hapax Dislegomena = 193• Hapax Legomena/Dislegomena ratio = 4.8290• Hapax Legomena/Number of Types = 0.7034• Hapax Legomena/Number of Tokens = 0.3088• Hapax Legomena cubed/Types squared = 461.1221• Variance ( S.D. squared ) = 39.6977• Standard Deviation (S.D.) = 6.3006• Coefficient of skewness = 14.4959• Coefficient of kurtosis = 278.5743• Herdan's characteristic = 0.0760• Yule's characteristic = 652.5240• Carroll TTR (Types / Sqrt of 2 X Tokens) = 17.0546• Most Frequent word "e" occurred 150 times• repeat rate (Tokens / frequency most frequent word) = 20.1200

Le statistiche di base

1021= types

2632= tokens

708= hapax legomena

148= hapax dislegomena

Links

• http://tapor.humanities.mcmaster.ca/home.html

• http://taporware.mcmaster.ca