Add preprocessing, set model parameters

This commit is contained in:
kuba 2021-04-17 16:28:56 +02:00
parent 89a269ccda
commit ab4fc228bd
4 changed files with 1479 additions and 125 deletions

View File

@ -1,57 +1,29 @@
import string
from gensim.models.doc2vec import Doc2Vec, TaggedDocument
from sklearn.cluster import KMeans
from collections import Counter
import re
sentences = []
path = 'dev-0/'
with open(path + 'in.tsv') as f:
sentences = [line.rstrip() for line in f]
clusters_no = 10
stopwords = []
with open('stopwords') as f:
stopwords = [line.rstrip() for line in f]
splited = []
for sentence in sentences:
for w in stopwords:
pattern = r'\b' + w + r'\b'
sentence = re.sub(pattern, '', sentence)
spl = sentence.split(' ')
spl = list(filter(lambda x: x != '', spl))
spl = [x.lower() for x in spl]
splited.append(spl)
documents = [TaggedDocument(doc, [i]) for i, doc in enumerate(splited)]
model = Doc2Vec(documents, min_count=0, alpha=0.025, epochs=400)
# for epoch in range(10):
# print('Training epoch %s', epoch)
# model.train()
# model.alpha -= 0.002
# model.min_alpha = model.alpha
def classify(path, clusters_no):
with open(path + 'in.tsv') as f:
docs = [line.rstrip() for line in f]
docs_preprocessed = []
for doc in docs:
doc = doc.lower().split(' ')
doc = [''.join(char for char in word if char not in string.punctuation) for word in doc]
doc = list(filter(lambda word: (word not in stopwords) and (word != ''), doc))
docs_preprocessed.append(doc)
tagged_documents = [TaggedDocument(doc, [i]) for i, doc in enumerate(docs_preprocessed)]
model = Doc2Vec(tagged_documents, min_count=10, epochs=300, dm=0, seed=10, workers=1)
k_means = KMeans(n_clusters=clusters_no, n_init=15, random_state=0).fit(model.dv.vectors)
labels = k_means.labels_
with open(path + 'out.tsv', 'w') as file:
for label in labels:
file.write("%i\n" % label)
X = model.dv.vectors
kmeans = KMeans(n_clusters=clusters_no, max_iter=4000).fit(X)
labels = kmeans.labels_
centroids = kmeans.cluster_centers_
print(labels)
ctr = Counter(labels)
print(ctr.values())
with open(path + 'out.tsv', 'w') as file:
for label in labels:
file.write("%i\n" % label)
# print(model.wv.vectors)
# kclusterer = KMeansClusterer(3, distance=nltk.cluster.util.cosine_distance, repeats=25)
# assigned_clusters = kclusterer.cluster(X, assign_clusters=True)
# print(assigned_clusters)
#
# words = list(model.wv.key_to_index)
# for i, word in enumerate(words):
# print(word + ":" + str(assigned_clusters[i]))
classify('dev-0/', 10)
classify('test-A/', 10)

View File

@ -1,87 +1,87 @@
5
2
3
3
4
4
5
7
4
3
3
4
1
3
3
3
3
3
3
2
3
3
3
3
5
4
4
3
4
3
9
5
5
3
3
5
3
3
4
3
4
3
5
5
3
3
5
2
6
0
8
1
3
8
2
3
8
5
6
6
7
6
6
2
6
6
6
0
2
3
0
1
0
6
5
1
3
5
3
3
3
7
1
0
5
3
5
3
5
3
6
6
7
6
4
3
5
3
3
5
3
3
5
2
5
2
1
3
5
1
3
4
3
2
4
3
6
8
4
7
6
4
6
7
9
1
1
3
2
1
6
4
2
5
5
7
6
7
9
7
7
8
6
1
4
6
7
0
2
4
7
9
3
3
4
6
6
2
3
2
0
7
6
0

1 5 4
5
2
3
3
1 4 4
4
5
7
4
3
3
4
1
3
3
3
3
3
3
2
3
3
3
3
5
4
4
3
4
3
2 9 9
3 5 2
4 5 6
5 3 0
6 3 8
5
3
3
4
3
4
3
5
5
3
3
5
7 1 1
8 3
9 8
10 2
11 3
12 8
13 5
14 6
15 6
16 7
17 6
18 6
19 2
20 6
21 6
22 6
23 0
24 2
25 3
26 0
27 1
28 0
29 6 6
30 5 5
31 1 1
32 3 7
5
3
3
3
33 1 1
34 0 6
35 5 6
36 3 7
37 5 6
3
5
3
38 4 4
3
5
3
3
5
3
3
5
2
5
2
39 1 1
40 3 6
5
1
3
4
3
2
4
3
41 8 8
42 4
43 7
44 6
45 4
46 6
47 7
48 9
49 1
50 1
51 3
52 2
53 1
54 6
55 4
56 2
57 5
58 5
59 7
60 6
61 7
62 9
63 7
64 7
65 8
66 6
67 1
68 4
69 6
70 7
71 0
72 2
73 4
74 7
75 9
76 3
77 3
78 4
79 6
80 6
81 2
82 3
83 2
84 0
85 7
86 6
87 0

691
test-A/expected.tsv Normal file
View File

@ -0,0 +1,691 @@
41
39
6
29
34
27
41
32
54
28
36
19
46
3
57
6
3
19
3
57
3
3
53
54
3
3
15
3
36
3
36
32
24
6
51
12
19
13
6
26
15
16
6
46
29
29
11
25
6
57
6
15
61
38
49
38
28
3
54
54
29
6
3
3
2
6
3
33
51
3
36
51
1
1
15
40
54
54
15
36
36
4
6
3
28
12
11
54
28
15
48
49
51
34
3
28
41
36
36
0
3
10
3
36
29
11
54
54
32
12
44
6
2
6
54
34
28
12
52
29
47
32
3
11
29
6
28
38
44
6
49
51
11
38
3
51
54
2
6
3
47
3
47
3
51
29
19
3
29
38
3
28
28
57
48
19
3
54
1
46
48
29
11
47
49
29
6
48
51
51
12
6
36
49
1
6
36
36
11
12
4
47
54
3
3
51
32
6
9
49
41
52
19
11
51
3
29
6
11
41
15
58
41
36
3
3
6
47
28
41
2
3
28
36
3
19
46
33
12
2
57
11
49
3
6
51
48
3
52
19
11
15
38
15
29
49
51
36
36
29
41
2
6
3
3
12
36
49
19
25
11
50
4
46
15
6
22
29
48
25
38
32
3
28
54
3
11
28
15
36
29
15
49
36
3
30
29
44
47
6
36
36
0
3
46
47
29
3
3
24
32
11
54
2
12
49
3
47
3
3
3
35
12
42
11
36
29
15
28
21
28
55
34
5
51
20
49
47
3
3
15
6
3
28
15
15
28
15
3
36
6
6
29
38
11
3
54
34
57
36
28
11
46
45
14
47
6
19
11
6
3
3
49
32
3
36
49
3
36
3
32
29
3
36
49
3
6
46
25
48
28
15
19
3
32
51
38
3
48
3
3
29
3
54
7
46
36
19
36
33
3
6
54
6
19
12
41
34
3
11
3
29
38
36
38
2
54
3
49
46
15
47
32
54
38
36
47
49
3
3
54
3
36
53
31
15
6
34
15
57
0
6
25
49
4
11
16
46
15
24
12
6
15
36
3
12
1
4
32
29
47
15
41
3
36
8
10
25
15
36
52
11
3
36
26
3
3
11
25
15
15
41
15
51
1
36
15
6
3
12
31
6
15
54
36
3
11
36
15
28
6
6
47
11
44
32
46
3
34
25
36
6
12
29
36
43
46
1
46
36
3
37
3
12
36
19
12
3
28
25
46
3
48
3
3
28
36
36
3
46
4
15
15
6
52
46
3
57
49
3
6
3
34
36
36
24
36
46
59
46
34
15
15
3
51
4
41
17
51
6
24
3
54
9
6
3
38
6
32
51
6
6
49
12
15
19
3
6
19
36
38
54
3
24
15
60
4
38
54
49
12
54
3
25
10
28
41
36
6
6
36
57
49
57
38
15
51
51
36
3
19
46
41
36
19
52
47
25
57
28
3
46
49
6
12
36
3
54
3
36
19
25
3
3
15
41
6
48
12
29
57
41
3
38
36
48
56
38
3
12
49
36
4
19
2
11
1
27
19
3
3
33
18
12
6
46
36
23
3
3
10
28
3
48
41
51
3
29
52
24
12
51
54
48
32
6
57
36
41
15
48
1 41
2 39
3 6
4 29
5 34
6 27
7 41
8 32
9 54
10 28
11 36
12 19
13 46
14 3
15 57
16 6
17 3
18 19
19 3
20 57
21 3
22 3
23 53
24 54
25 3
26 3
27 15
28 3
29 36
30 3
31 36
32 32
33 24
34 6
35 51
36 12
37 19
38 13
39 6
40 26
41 15
42 16
43 6
44 46
45 29
46 29
47 11
48 25
49 6
50 57
51 6
52 15
53 61
54 38
55 49
56 38
57 28
58 3
59 54
60 54
61 29
62 6
63 3
64 3
65 2
66 6
67 3
68 33
69 51
70 3
71 36
72 51
73 1
74 1
75 15
76 40
77 54
78 54
79 15
80 36
81 36
82 4
83 6
84 3
85 28
86 12
87 11
88 54
89 28
90 15
91 48
92 49
93 51
94 34
95 3
96 28
97 41
98 36
99 36
100 0
101 3
102 10
103 3
104 36
105 29
106 11
107 54
108 54
109 32
110 12
111 44
112 6
113 2
114 6
115 54
116 34
117 28
118 12
119 52
120 29
121 47
122 32
123 3
124 11
125 29
126 6
127 28
128 38
129 44
130 6
131 49
132 51
133 11
134 38
135 3
136 51
137 54
138 2
139 6
140 3
141 47
142 3
143 47
144 3
145 51
146 29
147 19
148 3
149 29
150 38
151 3
152 28
153 28
154 57
155 48
156 19
157 3
158 54
159 1
160 46
161 48
162 29
163 11
164 47
165 49
166 29
167 6
168 48
169 51
170 51
171 12
172 6
173 36
174 49
175 1
176 6
177 36
178 36
179 11
180 12
181 4
182 47
183 54
184 3
185 3
186 51
187 32
188 6
189 9
190 49
191 41
192 52
193 19
194 11
195 51
196 3
197 29
198 6
199 11
200 41
201 15
202 58
203 41
204 36
205 3
206 3
207 6
208 47
209 28
210 41
211 2
212 3
213 28
214 36
215 3
216 19
217 46
218 33
219 12
220 2
221 57
222 11
223 49
224 3
225 6
226 51
227 48
228 3
229 52
230 19
231 11
232 15
233 38
234 15
235 29
236 49
237 51
238 36
239 36
240 29
241 41
242 2
243 6
244 3
245 3
246 12
247 36
248 49
249 19
250 25
251 11
252 50
253 4
254 46
255 15
256 6
257 22
258 29
259 48
260 25
261 38
262 32
263 3
264 28
265 54
266 3
267 11
268 28
269 15
270 36
271 29
272 15
273 49
274 36
275 3
276 30
277 29
278 44
279 47
280 6
281 36
282 36
283 0
284 3
285 46
286 47
287 29
288 3
289 3
290 24
291 32
292 11
293 54
294 2
295 12
296 49
297 3
298 47
299 3
300 3
301 3
302 35
303 12
304 42
305 11
306 36
307 29
308 15
309 28
310 21
311 28
312 55
313 34
314 5
315 51
316 20
317 49
318 47
319 3
320 3
321 15
322 6
323 3
324 28
325 15
326 15
327 28
328 15
329 3
330 36
331 6
332 6
333 29
334 38
335 11
336 3
337 54
338 34
339 57
340 36
341 28
342 11
343 46
344 45
345 14
346 47
347 6
348 19
349 11
350 6
351 3
352 3
353 49
354 32
355 3
356 36
357 49
358 3
359 36
360 3
361 32
362 29
363 3
364 36
365 49
366 3
367 6
368 46
369 25
370 48
371 28
372 15
373 19
374 3
375 32
376 51
377 38
378 3
379 48
380 3
381 3
382 29
383 3
384 54
385 7
386 46
387 36
388 19
389 36
390 33
391 3
392 6
393 54
394 6
395 19
396 12
397 41
398 34
399 3
400 11
401 3
402 29
403 38
404 36
405 38
406 2
407 54
408 3
409 49
410 46
411 15
412 47
413 32
414 54
415 38
416 36
417 47
418 49
419 3
420 3
421 54
422 3
423 36
424 53
425 31
426 15
427 6
428 34
429 15
430 57
431 0
432 6
433 25
434 49
435 4
436 11
437 16
438 46
439 15
440 24
441 12
442 6
443 15
444 36
445 3
446 12
447 1
448 4
449 32
450 29
451 47
452 15
453 41
454 3
455 36
456 8
457 10
458 25
459 15
460 36
461 52
462 11
463 3
464 36
465 26
466 3
467 3
468 11
469 25
470 15
471 15
472 41
473 15
474 51
475 1
476 36
477 15
478 6
479 3
480 12
481 31
482 6
483 15
484 54
485 36
486 3
487 11
488 36
489 15
490 28
491 6
492 6
493 47
494 11
495 44
496 32
497 46
498 3
499 34
500 25
501 36
502 6
503 12
504 29
505 36
506 43
507 46
508 1
509 46
510 36
511 3
512 37
513 3
514 12
515 36
516 19
517 12
518 3
519 28
520 25
521 46
522 3
523 48
524 3
525 3
526 28
527 36
528 36
529 3
530 46
531 4
532 15
533 15
534 6
535 52
536 46
537 3
538 57
539 49
540 3
541 6
542 3
543 34
544 36
545 36
546 24
547 36
548 46
549 59
550 46
551 34
552 15
553 15
554 3
555 51
556 4
557 41
558 17
559 51
560 6
561 24
562 3
563 54
564 9
565 6
566 3
567 38
568 6
569 32
570 51
571 6
572 6
573 49
574 12
575 15
576 19
577 3
578 6
579 19
580 36
581 38
582 54
583 3
584 24
585 15
586 60
587 4
588 38
589 54
590 49
591 12
592 54
593 3
594 25
595 10
596 28
597 41
598 36
599 6
600 6
601 36
602 57
603 49
604 57
605 38
606 15
607 51
608 51
609 36
610 3
611 19
612 46
613 41
614 36
615 19
616 52
617 47
618 25
619 57
620 28
621 3
622 46
623 49
624 6
625 12
626 36
627 3
628 54
629 3
630 36
631 19
632 25
633 3
634 3
635 15
636 41
637 6
638 48
639 12
640 29
641 57
642 41
643 3
644 38
645 36
646 48
647 56
648 38
649 3
650 12
651 49
652 36
653 4
654 19
655 2
656 11
657 1
658 27
659 19
660 3
661 3
662 33
663 18
664 12
665 6
666 46
667 36
668 23
669 3
670 3
671 10
672 28
673 3
674 48
675 41
676 51
677 3
678 29
679 52
680 24
681 12
682 51
683 54
684 48
685 32
686 6
687 57
688 36
689 41
690 15
691 48

691
test-A/out.tsv Normal file
View File

@ -0,0 +1,691 @@
41
39
6
29
34
27
41
32
54
28
36
19
46
3
57
6
3
19
3
57
3
3
53
54
3
3
15
3
36
3
36
32
24
6
51
12
19
13
6
26
15
16
6
46
29
29
11
25
6
57
6
15
61
38
49
38
28
3
54
54
29
6
3
3
2
6
3
33
51
3
36
51
1
1
15
40
54
54
15
36
36
4
6
3
28
12
11
54
28
15
48
49
51
34
3
28
41
36
36
0
3
10
3
36
29
11
54
54
32
12
44
6
2
6
54
34
28
12
52
29
47
32
3
11
29
6
28
38
44
6
49
51
11
38
3
51
54
2
6
3
47
3
47
3
51
29
19
3
29
38
3
28
28
57
48
19
3
54
1
46
48
29
11
47
49
29
6
48
51
51
12
6
36
49
1
6
36
36
11
12
4
47
54
3
3
51
32
6
9
49
41
52
19
11
51
3
29
6
11
41
15
58
41
36
3
3
6
47
28
41
2
3
28
36
3
19
46
33
12
2
57
11
49
3
6
51
48
3
52
19
11
15
38
15
29
49
51
36
36
29
41
2
6
3
3
12
36
49
19
25
11
50
4
46
15
6
22
29
48
25
38
32
3
28
54
3
11
28
15
36
29
15
49
36
3
30
29
44
47
6
36
36
0
3
46
47
29
3
3
24
32
11
54
2
12
49
3
47
3
3
3
35
12
42
11
36
29
15
28
21
28
55
34
5
51
20
49
47
3
3
15
6
3
28
15
15
28
15
3
36
6
6
29
38
11
3
54
34
57
36
28
11
46
45
14
47
6
19
11
6
3
3
49
32
3
36
49
3
36
3
32
29
3
36
49
3
6
46
25
48
28
15
19
3
32
51
38
3
48
3
3
29
3
54
7
46
36
19
36
33
3
6
54
6
19
12
41
34
3
11
3
29
38
36
38
2
54
3
49
46
15
47
32
54
38
36
47
49
3
3
54
3
36
53
31
15
6
34
15
57
0
6
25
49
4
11
16
46
15
24
12
6
15
36
3
12
1
4
32
29
47
15
41
3
36
8
10
25
15
36
52
11
3
36
26
3
3
11
25
15
15
41
15
51
1
36
15
6
3
12
31
6
15
54
36
3
11
36
15
28
6
6
47
11
44
32
46
3
34
25
36
6
12
29
36
43
46
1
46
36
3
37
3
12
36
19
12
3
28
25
46
3
48
3
3
28
36
36
3
46
4
15
15
6
52
46
3
57
49
3
6
3
34
36
36
24
36
46
59
46
34
15
15
3
51
4
41
17
51
6
24
3
54
9
6
3
38
6
32
51
6
6
49
12
15
19
3
6
19
36
38
54
3
24
15
60
4
38
54
49
12
54
3
25
10
28
41
36
6
6
36
57
49
57
38
15
51
51
36
3
19
46
41
36
19
52
47
25
57
28
3
46
49
6
12
36
3
54
3
36
19
25
3
3
15
41
6
48
12
29
57
41
3
38
36
48
56
38
3
12
49
36
4
19
2
11
1
27
19
3
3
33
18
12
6
46
36
23
3
3
10
28
3
48
41
51
3
29
52
24
12
51
54
48
32
6
57
36
41
15
48
1 41
2 39
3 6
4 29
5 34
6 27
7 41
8 32
9 54
10 28
11 36
12 19
13 46
14 3
15 57
16 6
17 3
18 19
19 3
20 57
21 3
22 3
23 53
24 54
25 3
26 3
27 15
28 3
29 36
30 3
31 36
32 32
33 24
34 6
35 51
36 12
37 19
38 13
39 6
40 26
41 15
42 16
43 6
44 46
45 29
46 29
47 11
48 25
49 6
50 57
51 6
52 15
53 61
54 38
55 49
56 38
57 28
58 3
59 54
60 54
61 29
62 6
63 3
64 3
65 2
66 6
67 3
68 33
69 51
70 3
71 36
72 51
73 1
74 1
75 15
76 40
77 54
78 54
79 15
80 36
81 36
82 4
83 6
84 3
85 28
86 12
87 11
88 54
89 28
90 15
91 48
92 49
93 51
94 34
95 3
96 28
97 41
98 36
99 36
100 0
101 3
102 10
103 3
104 36
105 29
106 11
107 54
108 54
109 32
110 12
111 44
112 6
113 2
114 6
115 54
116 34
117 28
118 12
119 52
120 29
121 47
122 32
123 3
124 11
125 29
126 6
127 28
128 38
129 44
130 6
131 49
132 51
133 11
134 38
135 3
136 51
137 54
138 2
139 6
140 3
141 47
142 3
143 47
144 3
145 51
146 29
147 19
148 3
149 29
150 38
151 3
152 28
153 28
154 57
155 48
156 19
157 3
158 54
159 1
160 46
161 48
162 29
163 11
164 47
165 49
166 29
167 6
168 48
169 51
170 51
171 12
172 6
173 36
174 49
175 1
176 6
177 36
178 36
179 11
180 12
181 4
182 47
183 54
184 3
185 3
186 51
187 32
188 6
189 9
190 49
191 41
192 52
193 19
194 11
195 51
196 3
197 29
198 6
199 11
200 41
201 15
202 58
203 41
204 36
205 3
206 3
207 6
208 47
209 28
210 41
211 2
212 3
213 28
214 36
215 3
216 19
217 46
218 33
219 12
220 2
221 57
222 11
223 49
224 3
225 6
226 51
227 48
228 3
229 52
230 19
231 11
232 15
233 38
234 15
235 29
236 49
237 51
238 36
239 36
240 29
241 41
242 2
243 6
244 3
245 3
246 12
247 36
248 49
249 19
250 25
251 11
252 50
253 4
254 46
255 15
256 6
257 22
258 29
259 48
260 25
261 38
262 32
263 3
264 28
265 54
266 3
267 11
268 28
269 15
270 36
271 29
272 15
273 49
274 36
275 3
276 30
277 29
278 44
279 47
280 6
281 36
282 36
283 0
284 3
285 46
286 47
287 29
288 3
289 3
290 24
291 32
292 11
293 54
294 2
295 12
296 49
297 3
298 47
299 3
300 3
301 3
302 35
303 12
304 42
305 11
306 36
307 29
308 15
309 28
310 21
311 28
312 55
313 34
314 5
315 51
316 20
317 49
318 47
319 3
320 3
321 15
322 6
323 3
324 28
325 15
326 15
327 28
328 15
329 3
330 36
331 6
332 6
333 29
334 38
335 11
336 3
337 54
338 34
339 57
340 36
341 28
342 11
343 46
344 45
345 14
346 47
347 6
348 19
349 11
350 6
351 3
352 3
353 49
354 32
355 3
356 36
357 49
358 3
359 36
360 3
361 32
362 29
363 3
364 36
365 49
366 3
367 6
368 46
369 25
370 48
371 28
372 15
373 19
374 3
375 32
376 51
377 38
378 3
379 48
380 3
381 3
382 29
383 3
384 54
385 7
386 46
387 36
388 19
389 36
390 33
391 3
392 6
393 54
394 6
395 19
396 12
397 41
398 34
399 3
400 11
401 3
402 29
403 38
404 36
405 38
406 2
407 54
408 3
409 49
410 46
411 15
412 47
413 32
414 54
415 38
416 36
417 47
418 49
419 3
420 3
421 54
422 3
423 36
424 53
425 31
426 15
427 6
428 34
429 15
430 57
431 0
432 6
433 25
434 49
435 4
436 11
437 16
438 46
439 15
440 24
441 12
442 6
443 15
444 36
445 3
446 12
447 1
448 4
449 32
450 29
451 47
452 15
453 41
454 3
455 36
456 8
457 10
458 25
459 15
460 36
461 52
462 11
463 3
464 36
465 26
466 3
467 3
468 11
469 25
470 15
471 15
472 41
473 15
474 51
475 1
476 36
477 15
478 6
479 3
480 12
481 31
482 6
483 15
484 54
485 36
486 3
487 11
488 36
489 15
490 28
491 6
492 6
493 47
494 11
495 44
496 32
497 46
498 3
499 34
500 25
501 36
502 6
503 12
504 29
505 36
506 43
507 46
508 1
509 46
510 36
511 3
512 37
513 3
514 12
515 36
516 19
517 12
518 3
519 28
520 25
521 46
522 3
523 48
524 3
525 3
526 28
527 36
528 36
529 3
530 46
531 4
532 15
533 15
534 6
535 52
536 46
537 3
538 57
539 49
540 3
541 6
542 3
543 34
544 36
545 36
546 24
547 36
548 46
549 59
550 46
551 34
552 15
553 15
554 3
555 51
556 4
557 41
558 17
559 51
560 6
561 24
562 3
563 54
564 9
565 6
566 3
567 38
568 6
569 32
570 51
571 6
572 6
573 49
574 12
575 15
576 19
577 3
578 6
579 19
580 36
581 38
582 54
583 3
584 24
585 15
586 60
587 4
588 38
589 54
590 49
591 12
592 54
593 3
594 25
595 10
596 28
597 41
598 36
599 6
600 6
601 36
602 57
603 49
604 57
605 38
606 15
607 51
608 51
609 36
610 3
611 19
612 46
613 41
614 36
615 19
616 52
617 47
618 25
619 57
620 28
621 3
622 46
623 49
624 6
625 12
626 36
627 3
628 54
629 3
630 36
631 19
632 25
633 3
634 3
635 15
636 41
637 6
638 48
639 12
640 29
641 57
642 41
643 3
644 38
645 36
646 48
647 56
648 38
649 3
650 12
651 49
652 36
653 4
654 19
655 2
656 11
657 1
658 27
659 19
660 3
661 3
662 33
663 18
664 12
665 6
666 46
667 36
668 23
669 3
670 3
671 10
672 28
673 3
674 48
675 41
676 51
677 3
678 29
679 52
680 24
681 12
682 51
683 54
684 48
685 32
686 6
687 57
688 36
689 41
690 15
691 48