sport-text-classification-ball-ISI-public/bayes.ipynb

import pandas as pd
from sklearn.feature_extraction.text import TfidfVectorizer
from sklearn.naive_bayes import MultinomialNB
from sklearn.pipeline import make_pipeline
from sklearn.metrics import accuracy_score



df = pd.read_csv("train/train.tsv", sep="\t", header=None, error_bad_lines=False)
df = df.head(1000)


dev_x = pd.read_csv("dev-0/in.tsv", sep="\t", header=None, error_bad_lines=False)


with open('test-A/in.tsv', 'r', encoding='utf8') as file:
    test = file.readlines()
test = pd.Series(test)


x = df[1]
y = df[0]

model = make_pipeline(TfidfVectorizer(), MultinomialNB())
model.fit(x,y)

pred_dev = model.predict(dev_x[0])
pred_dev = pd.Series(pred_dev)

with open('dev-0/out.tsv', 'wt') as file:
    for pred in pred_dev:
        file.write(str(pred)+'\n')


pred_test = model.predict(test)
pred_test = pd.Series(pred_test)
pred_test = pred_test.astype('int')


        
with open('test-A/out.tsv', 'wt') as file:
    for pred in pred_test:
        file.write(str(pred)+'\n')





        

D:\Users\Adrian\anaconda3\lib\site-packages\IPython\core\interactiveshell.py:3444: FutureWarning: The error_bad_lines argument has been deprecated and will be removed in a future version.


  exec(code_obj, self.user_global_ns, self.user_ns)
b'Skipping line 25706: expected 2 fields, saw 3\nSkipping line 58881: expected 2 fields, saw 3\nSkipping line 73761: expected 2 fields, saw 3\n'

print(test)




print(Xtest)

                                                      0
0     ATP Sztokholm: Juergen Zopp wykorzystał szansę...
1     Krowicki z reprezentacją kobiet aż do igrzysk ...
2     Wielki powrót Łukasza Kubota Odradza się zawsz...
3     Marcel Hirscher wygrał ostatni slalom gigant m...
4     Polki do Czarnogóry z pełnią zaangażowania. Sy...
...                                                 ...
5440  Biało-czerwona siła w Falun. Oni będą reprezen...
5441  Finał WTA Tokio na żywo: Woźniacka - Osaka LIV...
5442  Oni zapisali się w annałach. Hubert Hurkacz 15...
5443  Poprawia się stan Nikiego Laudy. Austriak może...
5444  Liga Mistrzów. Zabójcza końcówka Interu Mediol...

[5445 rows x 1 columns]
0       ATP Sztokholm: Juergen Zopp wykorzystał szansę...
1       Krowicki z reprezentacją kobiet aż do igrzysk ...
2       Wielki powrót Łukasza Kubota Odradza się zawsz...
3       Marcel Hirscher wygrał ostatni slalom gigant m...
4       Polki do Czarnogóry z pełnią zaangażowania. Sy...
                              ...                        
5442    Biało-czerwona siła w Falun. Oni będą reprezen...
5443    Finał WTA Tokio na żywo: Woźniacka - Osaka LIV...
5444    Oni zapisali się w annałach. Hubert Hurkacz 15...
5445    Poprawia się stan Nikiego Laudy. Austriak może...
5446    Liga Mistrzów. Zabójcza końcówka Interu Mediol...
Length: 5447, dtype: object