В теории информации информацию рассматривают как меру уменьшения неопределенности. Согласно этому подходу количество информации в сообщении зависит от …
✓ вероятности совершения данного события
Решение:
Научный подход к оценке количества информации в некотором сообщении был предложен в 1928 г. американским инженером Ральфом Хартли.
Ральф Хартли (1888–1970) – американский инженер, пионер в области информационной теории.
Он предложил рассматривать процесс получения информации как выбор одного сообщения из конечного заданного множества N равновероятных сообщений, а количество информации I, содержащееся в выбранном сообщении, определять как двоичный логарифм N:
Формулу Р. Хартли можно записать иначе. Так как наступление каждого из N возможных событий имеет одинаковую вероятность
то 
и формула примет вид: 
В 1948 г. американский математик Клод Шеннон предложил формулу количества информации, учитывающую неодинаковую вероятность сообщений в наборе:
где 
– вероятность того, что именно i-е сообщение выделено в наборе из N сообщений.
Клод Элвуд Шеннон (1916–2001) – американский инженер и математик, его работы являются синтезом математических идей с конкретным анализом чрезвычайно сложных проблем их технической реализации.
Научный подход к оценке количества информации в некотором сообщении был предложен в 1928 г. американским инженером Ральфом Хартли.
Ральф Хартли (1888–1970) – американский инженер, пионер в области информационной теории.
Он предложил рассматривать процесс получения информации как выбор одного сообщения из конечного заданного множества N равновероятных сообщений, а количество информации I, содержащееся в выбранном сообщении, определять как двоичный логарифм N:
Формулу Р. Хартли можно записать иначе. Так как наступление каждого из N возможных событий имеет одинаковую вероятность
то и формула примет вид: В 1948 г. американский математик Клод Шеннон предложил формулу количества информации, учитывающую неодинаковую вероятность сообщений в наборе:
где – вероятность того, что именно i-е сообщение выделено в наборе из N сообщений.Клод Элвуд Шеннон (1916–2001) – американский инженер и математик, его работы являются синтезом математических идей с конкретным анализом чрезвычайно сложных проблем их технической реализации.
