10-розрядний АЦП має 2^10 або 1024 можливих вихідних кодів. Немає перемикання IP-каналів, а між увімкненням АЦП і початком перетворення проходить принаймні 1 мс. ADC повідомляє метричне значення співвідношення. Це означає, що АЦП припускає, що 5 В дорівнює 1023, і все, що менше 5 В, буде співвідношенням між 5 В і 1023.

10-розрядний АЦП має 210 або 1024 можливих вихідних кодів. Отже, роздільна здатність становить 5 В/1024 або 4,88 мВ; 12-розрядний АЦП має роздільну здатність 1,22 мВ для цієї самої довідки.

Зараз немає нічого ідеального, тому практичним мінімумом буде 10 біт, 1024 кроки. Тоді, з ідеальним 10-розрядним АЦП, розрив між кроками становить близько 0,1%, тому ви ніколи не перевищуєте 0,05% (0,5 LSB) від кроку.

Для 12-розрядного АЦП помилка є ±1,22 мВ (0,0122%).

Роздільна здатність АЦП — це кількість бітів, які він використовує для оцифровки вхідних зразків. Для n-розрядного АЦП кількість дискретних цифрових рівнів, які можна створити, становить 2n. Таким чином, 12-бітний дигітайзер може вирішити 212 або 4096 рівнів.