Dobry zestaw danych do analizy sentymentów?

Question

Pracuję nad analizą nastrojów i używam zestawu danych podanego w tym linku: http://www.cs.jhu.edu/~mdredze/datasets/sentiment/index2.html i podzieliłem mój zbiór danych na proporcje 50:50. 50% stosuje się jako próbki testowe, a 50% stosuje się jako próbki pociągu, a cechy ekstrahuje się z próbek pociągów i wykonuje klasyfikację z zastosowaniem klasyfikatora Weka, ale moja dokładność predykcyjna wynosi około 70-75%.

Czy ktoś może zasugerować kilka innych zestawów danych, które mogą mi pomóc, aby zwiększyć wynik - użyłem unigram, bigram i POStags jako moje funkcje.

Answer 1

Istnieje wiele źródeł, aby uzyskać analiza uczuć zestawu danych:

• ogromny ngrams zestawu danych z google storage.googleapis.com/books/ngrams/books/datasetsv2.html
• http://www.sananalytics.com/lab/twitter-sentiment/
• http://inclass.kaggle.com/c/si650winter11/data
• http://nlp.stanford.edu/sentiment/treebank.html
• lub można zajrzeć do tej globalnej ML zbiorze Repozytorium: https://archive.ics.uci.edu/ml

W każdym razie nie oznacza to, że pomoże to w uzyskaniu lepszej dokładności dla bieżącego zestawu danych, ponieważ korpus może znacznie różnić się od zestawu danych. Oprócz zmniejszenia odsetka testowania w porównaniu ze szkoleniem, możesz: przetestować inne klasyfikatory lub dostosować wszystkie hiperparametry za pomocą półautomatycznego opakowania, takiego jak CVParameterSelection lub GridSearch, lub nawet automatycznego weka, jeśli pasuje.

Dość rzadko używa się 50/50, 80/20 jest dość powszechnym stosunkiem. Lepszą praktyką jest wykorzystanie: 60% na szkolenia, 20% na krzyżową walidację, 20% na testowanie.