Графика

Фиксированная арифметика 16.16 и целочисленный пересчёт яркости

Разбор того, как читателю технической документации отличить фиксированную арифметику 16.16 от целочисленного пересчёта яркости и предсказать результат операции с обрезанием.

Редакция powerintellect.ru ·

Схема сравнения двух представлений яркости пикселя: целочисленный диапазон 0–255 и фиксированная арифметика 16.16 с обрезанием результата

Представление 16.16

Обозначение 16.16 описывает число с фиксированной запятой: из 32 битов 16 бит отведены под целую часть, 16 — под дробную. Значение хранится как целое число, но интерпретируется делением на 65536. Пиксель с яркостью 0.5 в таком представлении записывается как 32768, а единица — как 65536.

Обычный целочисленный пересчёт яркости оперирует целыми значениями напрямую: 128 из 255, 200 из 255. Здесь дробной части нет, и любое умножение на коэффициент требует явного округления или усечения. Разница в том, что в 16.16 дробная точность заложена в самом представлении, а не добавляется отдельным этапом. Читатель документации может распознать 16.16 по упоминанию масштабирующего множителя или по диапазону значений, заметно превышающему 255.

Усиление с обрезанием

Усиление яркости — это умножение значения пикселя на коэффициент. В целочисленном представлении из 8 бит результат выше 255 физически не помещается: значение обрезается до верхней границы диапазона. Пиксель с яркостью 200, умноженный на 2, даёт 400, и после обрезания читатель получает 255.

В 16.16 та же операция выглядит иначе. Коэффициент 2.0 хранится как 131072, яркость 200 из 255 сначала переводится в 16.16 (200 умножить на 65536 разделить на 255), затем умножается на 131072. Результат может превысить 65536, и обрезание здесь означает ограничение по верхней границе целой части, а не по 255. Механизм похож, но числовые пороги и точность различаются. Важно также учитывать, что обрезание может применяться до или после обратного перевода в исходный диапазон.

Практический пример

Допустим, документация описывает операцию усиления яркости с обрезанием и указывает, что альфа-канал не изменяется. Читатель получает пиксель с яркостью 130 из 255 и коэффициент 1.5. В целочисленной модели: 130 умножить на 1.5 даёт 195, результат помещается в диапазон, пиксель меняется. В модели 16.16: 130 переводится в 33586240, умножается на 98304 (это 1.5 в 16.16), результат 3301695104, что превышает 65536, и после обрезания по целой части получается 65535, то есть почти единица.

Если результат выглядит иначе, чем ожидалось, стоит проверить три вещи: в каком диапазоне хранится исходная яркость, как именно формулируется обрезание (по 255, по 65535 или по верхней границе целой части 16.16) и применяется ли операция к альфа-каналу. Ошибки чаще всего возникают не в арифметике, а в неверном предположении о границах диапазона. Полезно записать оба варианта расчёта на бумаге перед тем, как обращаться к документации повторно.

Как отличить модель по документации

Формулировки в документации обычно указывают на модель явно. Если текст говорит о «масштабирующем множителе», «дробной части» или приводит значения вроде 65536 как единицы, речь идёт о фиксированной арифметике. Если операнды описываются как байты, значения от 0 до 255 и результат ограничивается «по модулю 256» или «с усечением», это целочисленный пересчёт.

Ещё один ориентир — точность коэффициента. В целочисленной модели коэффициент 1.5 может быть реализован как умножение на 3 и деление на 2, что вносит ошибку округления на каждом пикселе. В 16.16 коэффициент 1.5 хранится точно как 98304, и ошибка появляется только при обратном переводе результата в исходный диапазон. Читатель может проверить это, подставив простое значение и сравнив результат с ожидаемым.

Ограничения и связанные вопросы

Ни одна из двух моделей не гарантирует идентичного результата при усилении с обрезанием. В 16.16 промежуточные значения точнее, но итоговое обрезание по целой части может дать результат, который после обратного масштабирования отличается от целочисленного варианта на единицу или две. Для пиксельной графики с 8-битным выводом эта разница обычно незаметна, но в цепочках операций она накапливается.

Читателю стоит запомнить последовательность: определить диапазон хранения, найти формулу масштабирования, установить момент обрезания и проверить, какие каналы затрагивает операция. Эти четыре шага покрывают большинство расхождений между ожидаемым и фактическим результатом при пересчёте яркости.

Иллюстративная проверка

Для наглядности рассмотрим пиксель с яркостью 100 из 255 и коэффициентом 3. В целочисленной модели: 100 умножить на 3 даёт 300, обрезание по 255 возвращает 255. В модели 16.16: 100 переводится в 25804236, умножается на 196608 (это 3.0 в 16.16), результат 5073290457600, обрезание по верхней границе целой части даёт 65535, обратный перевод в диапазон 0–255 возвращает 255. Итоги совпали, но путь к ним прошёл через совершенно разные числа.

Этот пример показывает, что совпадение результата не доказывает идентичность моделей. При других значениях, например при коэффициенте 1.25 и яркости 200, целочисленное округление и обрезание по целой части 16.16 могут дать отличающиеся на единицу значения. Проверка на нескольких точках диапазона позволяет читателю убедиться, что выбранная модель соответствует документации.