Теорія інформації та кодування в задачах
59


вих комбінацій для кодів, що застосовуються після символів В та С відповідно:

    lcep / B =  1,15;        lcep / C   =  1,3.

Середня довжина  lcep  кодової комбінації при застосуванні марковського алгоритму

      lcep  = lcep /A× р(А) + lcep /B× р(B) + lcep /C× р(C),

де  р(А),р(В),р(С)  –  безумовні ймовірності появи символів А, В, С на виході джерела.

У задачі 1.2.6 розглянута методика їх отримання. Застосовуючи її, знаходимо

                р(А) = 0,361;   р(В) = 0,302;    р(С) = 0,337.

Тоді

          lcep  =  1,237.      

Ентропія  джерела  ( див. задачу  1.2.6 )

                        =  1,004 біт.

Відносна різниця між   lcep  та  Н  становить

         [(1,237 – 1,004) / 1,004] ´ 100%  = 23,2% .

Закодуємо послідовність символів, наведену в умовах задачі. Таблиці  2.9 – 2.11 дають змогу виконати таке кодування. Виняток становить перший символ, оскільки незрозуміло, який для нього використовувати код. Є декілька шляхів побудови такого коду. Найпростіший – застосування рівномірного коду, наприклад, такого: A – 00; – 01; C – 10. Більш раціональний – ефективний код, побудований з урахуванням безумовних ймовірностей появи символів. Один із варіантів такого коду  A – 0; – 11; C – 10. Обираючи цей варіант для кодування першого символу та застосовуючи коди таблиць 2.9 – 2.11 для подальших символів, отримаємо

0001011011011101100110101100001011011.

Кодова послідовність має 37 двійкових символів. Відзначимо, що при кодуванні символів джерела рівномірним двійковим кодом ( мінімальна довжина такого коду в даному випадку становить 2 ) довжина  кодової  послідовності  буде  дорівнювати  60.