good wiki
More at Wikipedia
Entropy
Entropie je v termodynamice a statistické mechanice míra neuspořádanosti nebo náhodnosti systému. V širším smyslu se koncept entropie objevuje také v různých oblastech vědy, jako je informace, kde vyjadřuje míru informace nebo nejistoty spojené s náhodným procesem. V termodynamice entropie izolované soustavy nikdy neklesá, což odráží druhý zákon termodynamiky. Tento zákon naznačuje, že přírodní procesy tendují k zvyšování entropie, což znamená, že systémy se přirozeně pohybují směrem k větší neuspořádanosti. V oblasti teorie informace je entropie používána k měření množství informace obsažené v náhodných proměnných. V obou případech entropie představuje klíčový koncept pro pochopení chování systémů a procesů.