Изложены фундаментальные понятия энтропии и информации вероятностных схем и их свойств. С использованием этих понятий рассмотрена математическая теория передачи информации по каналам связи, включающая такие принципиальные вопросы, как сжатие…