Entropie je pojem, který pochází z řeckého slova, které lze přeložit jako "návrat" nebo "transformace" (použitý obrazně).
V devatenáctém století Clausius vytvořil koncept v oblasti fyziky, aby se odkazoval na míru poruchy, která může být viděna v molekulách plynu. Od této chvíle by se tato koncepce používala s různými významy v mnoha vědách, jako je fyzika, chemie, informatika, matematika a lingvistika .
Některé definice jsou:
Entropií může být termodynamické fyzikální množství, které nám umožňuje měřit nepoužitelnou část energie obsažené v systému . To znamená, že tato část energie nemůže být použita k výrobě práce.
Entropií se rozumí také míra poruchy systému . V tomto smyslu je to spojeno se stupněm homogenity.
Entropie tvorby chemické sloučeniny je stanovena měřením, které odpovídá každému z jejích prvků. Čím větší je entropie formace, tím výhodnější bude její formace.
V teorii informace je entropie měřítkem nejistoty, která existuje před sadou zpráv (z nichž bude přijata pouze jedna). Jedná se o míru informací, které jsou nezbytné ke snížení nebo odstranění nejistoty.
Dalším způsobem, jak porozumět entropii, je průměrné množství informací obsažených v přenášených symbolech . Slova jako "ten" nebo "ten" jsou nejčastějšími symboly v textu, nicméně jsou to ty, které přispívají k méně informacím. Zpráva bude mít relevantní informace a maximální entropii, pokud budou všechny symboly stejně pravděpodobné.
Entropie v oblasti lingvistiky
Způsob, jakým jsou informace organizovány a rozšiřovány v diskurzu, je jednou z nejdůležitějších a nejdůležitějších témat výzkumu lingvistiky. A díky entropii lze provést hlubší analýzu komunikace.
V případě písemné komunikace se problém snadno analyzuje (základní jednotky, písmena jsou dobře definovány); Pokud chcete zprávu důkladně porozumět, můžete ji správně dekódovat a pochopit jak doslovný, tak i obrazový . Ale v ústním jazyce se věci trochu změní, představují některé komplikace.
V ústním projevu není snadné určit základní prvky kódu ; slova se liší podle toho, kdo je říká a podobně mohou mít různé významy. Nestačí proto je klasifikovat do vokálních a konsonantních fonémů, protože to nám nedovoluje porozumět tomu, jak jsou informace organizovány, protože např. Pokud jsou vokální fonémy potlačeny, není možné toto poselství pochopit.
Podle studie provedené na univerzitě v Wisconsinu-Madisonu je dobrým způsobem, jak izolovat a porozumět orálnímu kódu, spektrální rozklad zvukových signálů. Díky této technice se snažíme porozumět tomu, jak cochlea filtrová a analyzuje to, co k ní přichází. Kochle je součástí našich uší, která má funkci přeměnit zvuky na elektrické signály a odeslat je přímo do mozku.
Pro provedení tohoto experimentu byla použita měřicí jednotka známá jako "spektrální entropie v kochleární škále" (CSE), umožňuje vytvořit spojení mezi signálem a signálem, který předchází ; rozhodování o možnostech předpovědi signálu od předchozího.
Výsledky ukázaly, že čím více jsou dva signály, tím snadnější je předpovědět druhou ; To znamená, že informace, které pořídíme od druhého, jsou téměř nulové. Podobně, čím více se vzájemně liší, tím větší je informace poskytovaná druhým signálem, takže pokud je eliminována, způsobí značné důsledky pro pochopení diskurzu.