s416251-mlworkshops/lines.sh

# zliczenie liczby linijek w pliku wikinews i zapisanie do lines_number.txt
wc -l wikiniews_results.tsv > lines_number.txt

#utworzenie plików hypothesis i reference
#wycięcie drugiej kolumny (hipotez - wyniki rozpoznawania ASR)
cut -f2 wikiniews_results.tsv > hypothesis.txt
#wycięcie trzeciej kolumnu (referencje - poprawne zdania)
cut -f3 wikiniews_results.tsv > reference.txt

#przekształcenie  plików txt na trn przy użyciu programu Sclite (służy on do obliczania WER)
awk 'BEGIN{FS=OFS="\t"}{print $0,"(sp1_"NR")"}' < reference.txt > reference.trn
awk 'BEGIN{FS=OFS="\t"}{print $0,"(sp1_"NR")"}' < hypothesis.txt > hypothesis.trn


#wywołanie sclite; grep szuka napisu Scores w raporcie stworzonym przez sclite i zapisuje do zmiennej scores
#szukamy w tym raporcie wyrażenia wyniki i zapisujemy do zmienej scores.

#stary plik + współczynniki na końcu każdej kolumny
sclite -f 0 -r reference.trn trn -h hypothesis.trn trn -e utf-8 -i rm -o all stdout | grep Scores > scores


#procentowe niepoprawne rozpoznawanie wyrazów - obliczanie WER
awk 'BEGIN{OFS="\t"}{print $6, $7, $8, $9}' < scores | awk '{ print ($2 + $3 + $4)/($2 + $3 + $1) }' > wer.tsv
#zapisanie WER do 5 kolumny
paste wikiniews_results.tsv wer.tsv > wikiniews_results_with_wer.tsv

#zliczamy całkowity współczynnik (średnią) dla wszystkich i zapisujemy do wer.txt
awk 'BEGIN{FS=OFS="\t"}{ bad = bad + $1; all++ }END{ print bad/all }' < wer.tsv >> wer.txt 
#liczymy SRR 
#Jeśli pierwsza kolumna jest równa zero, to zliczamy liczbę dobrych i dzielimy przez liczbę wszystkich
awk 'BEGIN{FS=OFS="\t"}{ if ( $1 == 0 ) good++; all++ }END{ print good/all }' < wer.tsv >> srr.txt