Eksploracja cech modelu
Zadanie polega na przeanalizowaniu zdolności generalizacji klasyfikatora na podstawie analizy jego cech. W tym celu spróbujmy:
- Wyuczyć model i zmierzyć jego skuteczność (F1-Score na danych testowych),
- Z wyuczonego modelu wyodrębnić warstwy ukryte dla grupy przypadków testowych
- przepuścić je przez sieć i wydobyć aktywacje neuronów,
- za pomocą tsne skonwertować do przestrzeni 2d,
- Wygenerować wizualizację dla zredukowanej przestrzeni (tsne) oraz zaznaczyć odrębnymi kolorami przykłady pozytywne i negatywne.
Pytanie: jakie przykłady wybrać?