• Страница 1 из 2
  • 1
  • 2
  • »
Модератор форума: Екатерина_Пашкова  
Форум учителей об образовании в России и мире » Форум педагогов по предметам, разделам » Форум учителей информатики » Формула Шеннона (Вычисление количества информации по формуле Шеннона)
Формула Шеннона
МарьюшкаДата: Четверг, 29.10.2009, 17:55 | Сообщение # 1
Марьюшка

Константин Павлович Фёдоров
Ранг: Первоклашка (?)
Группа: Пользователи
Сообщений:
30
Награды: 1
Статус: Offline
Решали с учениками задачу: В корзине лежат 8 черных и 24 белых шара. Сколько битов информации несет сообщение о том, что достали черный шар? (Варианты ответа: а) 2 бита b) 4 бита c) 8 битов d) 24 бита)
События неравновероятны, поэтому считаем по формуле Шеннона:

I = -sum (p (i) log 2 p (i)) (i изменяется от 1 до N)

Вероятность извлечения черного шара = 1/4, белого - 3/4. Поэтому получаем

I = - (1/4 x log 2 (1/4) + 3/4 x log 2 (3/4)) = - (1/4 x (-2) + 3/4 x (-0,415)) = - (-0,5 - 0,311) = 0,811

Округляя до целого, получаем 1 бит.

Помогите найти истину!!!

29.10.2009
alex75Дата: Пятница, 30.10.2009, 06:52 | Сообщение # 2
alex75

Александр
Ранг: Бакалавр (?)
Группа: Пользователи
Сообщений:
212
Награды: 3
Статус: Offline
Количество информации в сообщении о событии связана с его вероятностью формулой i=log2(1/p). тогда получаем i=log2(1/0,25)=2 бита - ответ а
30.10.2009
МарьюшкаДата: Четверг, 05.11.2009, 15:50 | Сообщение # 3
Марьюшка

Константин Павлович Фёдоров
Ранг: Первоклашка (?)
Группа: Пользователи
Сообщений:
30
Награды: 1
Статус: Offline
Большое спасибо! Ларчик, оказывается просто открывался...
05.11.2009
informatikДата: Суббота, 14.11.2009, 17:04 | Сообщение # 4
informatik

Шамиль
Ранг: Аспирант (?)
Первый помощник
Группа: Пользователи
Сообщений:
963
Награды: 5
Статус: Offline
Для чего же тогда нужна формула Шеннона? Знает ли кто-нибудь задачи из школьного курса информатики на формулу Шеннона? И есть ли такие задачи в ЕГЭ?
14.11.2009
МарьюшкаДата: Четверг, 19.11.2009, 15:09 | Сообщение # 5
Марьюшка

Константин Павлович Фёдоров
Ранг: Первоклашка (?)
Группа: Пользователи
Сообщений:
30
Награды: 1
Статус: Offline
Формулой Шеннона следует пользоваться в том случае, когда произошло любое из возможных событий (без указания, какого сорта произошло событие). В данной задаче 0,811 бита несет сообщение о том, что мы извлекли из ящика один шар, но без указания, какого цвета этот шар. Если же уточняется, что шар черный, то необходимо пользоваться формулой I = log 2 (1 / p), и мы получаем значительно больше информации - целых log 2 (4) =
2 бита!!! А вот если шар белый, то придется довольствоваться log 2 (4 / 3) = 0,415 бита информации... Так что информацией управляет Его Величество Случай...

P. S. Слава Богу, задач на формулу Шеннона с логарифмами-"неберучками" в ЕГЭ нету!!!!!!!!!!!!!!!!

19.11.2009
ГостьДата: Воскресенье, 17.01.2010, 01:21 | Сообщение # 6
Гость

Группа: Гости
В зоопарке всего 32 обезьяны, которые сидят в двух вальерах A и B. Среди них есть одна обезьяна-альбинос. Сообщение "обезьяна-альбинос находится в вольере A" занимает 4 бита. Сколько обезьян сидит в вольере B?
17.01.2010
МарьюшкаДата: Понедельник, 18.01.2010, 10:41 | Сообщение # 7
Марьюшка

Константин Павлович Фёдоров
Ранг: Первоклашка (?)
Группа: Пользователи
Сообщений:
30
Награды: 1
Статус: Offline
Раз сообщение о том, что альбинос томится в A, несет 4 бита, значит вероятность события равна 2**(-4) = 1/16 (две звездочки - символ возведения в степень в фортране, который я изучал в университете...). Тогда в A всего 16 обезьян. Значит и в B тоже 16.
18.01.2010
ProfitДата: Понедельник, 18.01.2010, 12:26 | Сообщение # 8
Profit

Роман Басангов
Ранг: Дошколенок (?)
Группа: Пользователи
Сообщений:
10
Награды: 0
Статус: Offline
32 обезьяны, кажется
18.01.2010
ГостьДата: Пятница, 22.01.2010, 14:09 | Сообщение # 9
Гость

Группа: Гости
http://zadachki.ucoz.ru/forum/4-339-1 посмотрите здесь вариант решения этой задачи
22.01.2010
ProfitДата: Среда, 03.02.2010, 11:17 | Сообщение # 10
Profit

Роман Басангов
Ранг: Дошколенок (?)
Группа: Пользователи
Сообщений:
10
Награды: 0
Статус: Offline
Quote (Гость)
В зоопарке всего 32 обезьяны, которые сидят в двух вальерах A и B. Среди них есть одна обезьяна-альбинос. Сообщение "обезьяна-альбинос находится в вольере A" занимает 4 бита. Сколько обезьян сидит в вольере B?

4 бита соответсвуют выбору из 16-ти (2 в четвертой степени) вариантов равновероятных событий. Это 16.
Значит две группы по 16 обезьян (32 делим на 16).
Каждя группа расселена по вольерам следующим образом: 15 в "В" и 1 в "А".
Раз таких групп две, то в "А" живет 2 обезьяны. Следовательно в "В" живут остальные 30 обезьян (32-2).
03.02.2010
МарьюшкаДата: Понедельник, 08.02.2010, 11:08 | Сообщение # 11
Марьюшка

Константин Павлович Фёдоров
Ранг: Первоклашка (?)
Группа: Пользователи
Сообщений:
30
Награды: 1
Статус: Offline
А почему именно так: в каждой группе 15 обезьян в B и одна в A? Что-то непонятно, откуда это следует...
08.02.2010
ProfitДата: Понедельник, 08.02.2010, 12:30 | Сообщение # 12
Profit

Роман Басангов
Ранг: Дошколенок (?)
Группа: Пользователи
Сообщений:
10
Награды: 0
Статус: Offline
Quote (Марьюшка)
А почему именно так: в каждой группе 15 обезьян в B и одна в A? Что-то непонятно, откуда это следует...

1) информация в 4 бита соответствует выбору одного из 16 вариантов, …
2) … поэтому в вольере А живет 1/16 часть всех обезьян (это самый важный момент!)
3) всего обезьян – 32, поэтому в вольере А живет
32/16 = 2 обезьяны (двойка является одной шестнадцатой частью от тридцати двух)
4) поэтому в вольере Б живут все оставшиеся
32 – 2 = 30 обезьян
08.02.2010
МарьюшкаДата: Вторник, 09.02.2010, 11:20 | Сообщение # 13
Марьюшка

Константин Павлович Фёдоров
Ранг: Первоклашка (?)
Группа: Пользователи
Сообщений:
30
Награды: 1
Статус: Offline
Большое спасибо!
09.02.2010
ИнфоКонсалтингДата: Понедельник, 31.10.2011, 20:56 | Сообщение # 14
ИнфоКонсалтинг

Николай Рогов
Ранг: Дошколенок (?)
Группа: Пользователи
Сообщений:
15
Награды: 1
Статус: Offline
Уважаемые, есть впечатление, что никто из вас учителем информатики не является. Из приведенных задач ни одна правильно не решена. Что же вы тогда будете делать с такой задачей:
"В ящике находится 32 теннисных мяча, среди которых X желтого цвета. Наудачу вынимается один мяч. Сообщение «извлечен мяч не желтого цвета» несет 4 бита информации. X равно..."
Ответы: а) 32, б) 30, в) 16, г) 8.
Правильный ответ - б). Не хотите? Попробуйте доказать. Хотя задача реальна для ЕГЭ, но обладает не совсем корректной формулировкой, так что просьба учесть.
Есть вопросы - задайте: basicschool.narod.ru/?page=query (не забудьте представиться). Удачи!
31.10.2011
МарьюшкаДата: Понедельник, 31.10.2011, 21:32 | Сообщение # 15
Марьюшка

Константин Павлович Фёдоров
Ранг: Первоклашка (?)
Группа: Пользователи
Сообщений:
30
Награды: 1
Статус: Offline
Я работаю учителем информатики уже пятый год, но в формуле Шеннона по-прежнему разбираюсь плохо)))). Раз фраза «извлечен мяч не желтого цвета» несет 4 бита информации, то вероятность того, что мяч не желтый, равна 2**(-4)=1/16. Тогда количество не желтых мячей составляет (1/16) часть от количества всех мячей. Значит не желтых мячей 32/16=2. А тогда желтых мячей 32 - 2 = 30.
31.10.2011
Форум учителей об образовании в России и мире » Форум педагогов по предметам, разделам » Форум учителей информатики » Формула Шеннона (Вычисление количества информации по формуле Шеннона)
  • Страница 1 из 2
  • 1
  • 2
  • »
Поиск:



Спорная ситуация с родителями или администрацией? Ищете выход из проблемы на уроке или с учеником?
Не знаете, как что-то сделать на компьютере?


Вы можете задать анонимный вопрос
х
Подробно изложите суть вашего вопроса.
Обратите внимание, что вопросы публикуются в открытом доступе на сайте, поэтому не указывайте персональные данные ваши или иных лиц. Однако стоит указать свой РЕГИОН, т.к. законодательство в разных регионах разное.
Отправить