Переведем исходное сообщение с учетом нашего кода и разобьем по 4 числа.
АВАБАГ = 101 11 101 01 101 100 = 1011 1101 0110 1100
Затем каждое число переведем из двоичной в шестнадцатеричную систему счисления. Метод называется «основные преобразования»:
1011 = 8 + 0 + 2 + 1 = 11 = B
1101 = 8 + 4 + 0 + 1 = 13 = D
0110 = 0 + 4 + 2 + 0 = 6
1100 = 8 + 4 + 0 + 0 = 12 = C
Итого получаем
BD6C.
Отличная статья по теме основных преобразований:
goo.gl/jTPR4M