Jazykový model

Jazykový model je pravděpodobnostní model přirozeného jazyka, který dokáže generovat pravděpodobnosti řady slov (následující slova ve větě) na základě textových korpusů v jednom nebo více jazycích, na kterých byl vycvičen. Jazykový model na základě statistických a pravděpodobnostních metod předpovídá následující sekvence textu. Jazykový model funguje na základě předloženého textu/korupusu/datasetu, ve kterém se snaží porozumět kontextu textu.

Velké jazykové modely, jako jejich nejpokročilejší forma, jsou kombinací feedforward neuronových sítí a transformerů. Nahradily modely založené na rekurentních neuronových sítích, které dříve vytlačily čistě statistické modely, jako je například slovní n-gramový jazykový model.

Jazykové modely jsou užitečné pro řadu úloh, včetně rozpoznávání řeči (pomáhají předcházet předpovědím málo pravděpodobných (např. nesmyslných) sekvencí), strojového překladu, generování přirozeného jazyka (generování textu podobného lidskému), optického rozpoznávání znaků, rozpoznávání rukopisu, indukce gramatiky, vyhledávání informací a dalších.

Odkazy

Reference

Kategorie:Jazykové modelování