Wklej tekst.
Odzyskaj przecinki.

Ręcznie napisana od zera sieć neuronowa, która czyta Twój tekst i stawia brakujące przecinki oraz kropki — wytrenowana na klasyce szkolnych lektur.

Zobacz, jak działa ↓

Tekst bez interpunkcji? Chwileczkę.

Animacja poglądowa — prawdziwe pole tekstowe podłączone do modelu pojawi się tu wraz z wersją MVP.

Jak to działa?

1

Czyta kontekst 7 słów

Model patrzy na każde słowo w kontekście — trzy słowa przed nim i trzy po nim. Tak jak człowiek, który nie stawia przecinka w ciemno.

2

Sieć zgaduje znak

Sieć neuronowa ocenia, co powinno stać po danym słowie: nic, przecinek czy kropka. Nauczyła się tego z ponad miliona słów prozy.

3

I tak słowo po słowie

Procedura powtarza się dla całego tekstu. Na końcu dostajesz ten sam tekst — tylko z interpunkcją na swoim miejscu.

Wytrenowany na klasyce

Model uczył się interpunkcji z ~1,2 miliona słów literackiej polszczyzny — lektur, które każdy zna ze szkoły.

zbiór treningowy · 9 książek

ChłopiWładysław Reymont
LalkaBolesław Prus
Ziemia obiecanaWładysław Reymont
Nad NiemnemEliza Orzeszkowa
PrzedwiośnieStefan Żeromski
Moralność pani DulskiejGabriela Zapolska
ProcesFranz Kafka
Mały KsiążęAntoine de Saint-Exupéry
Rok 1984George Orwell

zbiór testowy · 2 książki

Syzyfowe praceStefan Żeromski
Tajemniczy ogródFrances H. Burnett

Teksty pochodzą z biblioteki Wolne Lektury.

Dla ciekawskich: co pod maską

Wszystko zbudowane od zera w GNU Octave — bez bibliotek ML, z gradientami wyprowadzonymi ręcznie na kartce. Architektura w dobrym, starym stylu: MLP, rocznik 1986. Zero transformerów — na razie.

282,5 tys.parametrów
0,608Macro-F1 (test)
+9,7 ppponad bazę bigramową (0,511)
0użytych bibliotek ML
678linii kodu Octave
okno 7 słów w₋₃ … w₊₃
embedding 5000 × 50
warstwa ukryta 128 · ReLU
softmax ∅  ,  .
Perceptron wielowarstwowy (MLP): dla każdego słowa przewiduje jedną z trzech klas — brak znaku, przecinek, kropka.

Mapa drogowa projektu

  1. 0Baza bigramowa
  2. 1MLP z ręcznym backpropem
  3. 2Bi-LSTM / mini-Transformer
  4. 3Więcej znaków: ? !
  5. 4+ wielkie litery
  6. 5API i wersja MVP