nat (единица) - nat (unit)

натуральная единица информации (символ: nat), иногда также nit или непит, единица измерения информации или энтропии, основанная на натуральных логарифмах и степенях e, а не степени 2 и логарифмов по основанию 2, которые определяют бит. Эта единица также известна своим символом единицы, физ. Нат - это когерентная единица информационной энтропии. Международная система единиц, путем присвоения одинаковых единиц (джоулей на кельвин ) как для теплоемкости, так и для термодинамических энтропия неявно рассматривает информационную энтропию как величину первого измерения, где 1 nat = 1. Физические системы натуральных единиц, которые нормализуют постоянную Больцмана к 1, эффективно измеряют термодинамическую энтропию. в нац.

Если энтропия Шеннона записана с использованием натурального логарифма,

$H\; =\; -\; \sum \; ipi\; ln\; \; pi\; \{\backslash \; displaystyle\; \backslash \; mathrm\; \{H\}\; =\; -\; \backslash \; sum\; \_\; \{i\}\; p\_\; \{i\}\; \backslash \; ln\; p\_\; \{i\}\}$

он неявно дает число, измеренное в натсах.

Один нат равен 1 / ln 2 шеннон (или бит ) ≈ 1,44 Sh или, что то же самое, 1 / ln 10 hartleys ≈ 0,434 Харт. Коэффициенты 1,44 и 0,434 возникают из соотношений

$(2\; x\; =\; e\; 1\; \Rightarrow \; x\; =\; 1\; ln\; \; 2)\; \{\backslash \; displaystyle\; \backslash \; left\; (2\; ^\; \{x\}\; =\; e\; ^\; \{1\}\; \backslash \; Rightarrow\; x\; =\; \{\backslash \; tfrac\; \{1\}\; \{\backslash \; ln\; 2\}\}\; \backslash \; right)\}$и

$(10\; x\; =\; e\; 1\; \Rightarrow \; x\; =\; 1\; ln\; \; 10)\; \{\backslash \; displaystyle\; \backslash \; left\; (10\; ^\; \{x\}\; =\; e\; ^\; \{1\}\; \backslash \; Rightarrow\; x\; =\; \{\backslash \; tfrac\; \{1\}\; \{\backslash \; ln\; 10\}\}\; \backslash \; right)\}$.

Один нат - это информационное содержание равномерного распределения на интервале [0, е ].

Болтон и Уоллес использовали термин «нит» в сочетании с минимальной длиной сообщения, которая впоследствии была изменена на минимальная длина описания. сообщество нат, чтобы избежать путаницы с нит, используемым в качестве единицы яркости.

Алан Тьюринг использовал естественный запрет.

• Реза, Фазлолла М. (1994). Введение в теорию информации. Нью-Йорк: Дувр. ISBN 0-486-68210-2.