Как определяется информационный объем текста по А. Н. Колмогорову?

Вопрос:

Как определяется информационный объем текста по А. Н. Колмогорову?

Развернутый ответ:

По А. Н. Колмогорову информационный объем текста определяется как длина самой короткой программы на некотором универсальном языке программирования, которая может его сгенерировать. Иными словами, информационный объем текста – это количество информации, необходимое для его описания.

Если текст содержит повторяющиеся участки или имеет определенную структуру, то его информационный объем будет меньше, чем если бы каждый символ был уникальным.

А. Н. Колмогоров ввел понятие алгоритмической сложности, которая позволяет измерять количество информации в объекте (тексте, числе, изображении и т.д.) с точки зрения его компактности и степени упорядоченности. Идея заключается в том, что чем более структурирован и упорядочен объект, тем меньше информации требуется для его описания.