После обмена данными с АЦП происходит преобразование считанных данных в одно целое число, характеризующее уровень сигнала на входе АЦП. Т.к. АЦП имеет 10 разрядов это число принимает значения от 0 до 1023. Вычисление его происходит по формуле:
где N — искомое число; data — двоичное 8-ми разрядное значение, полученное путем считывания 8-ми старших разрядов кода; data9 — значение девятого разряда кода; data10 — значение десятого разряда кода.
С целью максимальной гибкости программы, существует возможность ее настройки для возможности инверсной подачи сигнала на вход АЦП. При этом все в программе остается без изменений, кроме формулы вычисления N, которая изменяется следующим образом:
.
Фактически, в данном случае, инверсия подаваемого сигнала как бы компенсируется операцией инверсии выходного кода, а все остальное в программе работает так же, как если бы входной сигнал не инвертировался.
Затем необходимо преобразовать полученное число в значение угла поворота гантрии. Этот угол преобразуется в угол, удобный для сравнения с углами запуска и остановки программы захвата видеопоследовательности, которые также после их ввода преобразуются в удобный формат. Это действия осуществляются по следующим формулам.
1. Если :
2. Если :
где: — определенное при настройке программы значение выходного кода, вырабатываемого АЦП, когда гантрия симулятора находится в положении 0 градусов; - количество градусов в одном отсчете АЦП (этот параметр также определяется при настройке программы).