Как применяются логарифмы в современных алгоритмах сжатия данных?

Логарифмы применяются в современных алгоритмах сжатия данных при энтропийном кодировании. se.math.spbu.ru Оно основано на усреднении вероятностей появления элементов в закодированной последовательности. vk.com

При энтропийном кодировании символы одинаковой длины заменяются на кодовые последовательности. se.math.spbu.ru Эти кодовые последовательности выбираются так, чтобы длина каждой последовательности была пропорциональна отрицательному логарифму вероятности исходного символа. se.math.spbu.ru Таким образом, чем чаще встречается символ, тем короче его кодовая последовательность. se.math.spbu.ru

Один из наиболее популярных методов энтропийного кодирования — алгоритм Хаффмана. se.math.spbu.ru Он создаёт коды таким образом, чтобы минимизировать сумму логарифмов вероятностей появления каждого символа в кодируемом файле и длины кодирующей последовательности. se.math.spbu.ru