Аппаратно ПЛК является вычислительной машиной. Поэтому архитектура его процессорного ядра практически не отличается от архитектуры компьютера. Отличия заключены в составе периферийного оборудования, отсутствуют видеоплата, средства ручного ввода и дисковая подсистема. Вместо них ПЛК имеет блоки входов и выходов.
Конструктивно контроллеры подразделяют на моноблочные, модульные и распределенные. Моноблочные, или одноплатные, ПЛК имеют фиксированный набор входов-выходов. В модульных контроллерах модули входов-выходов устанавливаются в разном составе и количестве в зависимости от требуемой конфигурации. Так достигается минимальная аппаратная избыточность. В распределенных системах модули или даже отдельные входы — выходы, образующие единую систему управления, могут быть разнесены на значительные расстояния.
Характерным для современных контроллеров является использование многопроцессорных решений. В этом случае модули ввода — вывода имеют собственные микропроцессоры, выполняющие необходимую предварительную обработку данных. Модуль центрального процессора имеет выделенную скоростную магистраль данных для работы с памятью и отдельную магистраль (сеть) для общения с модулями ввода-вывода.
Еще одним вариантом построения ПЛК является мезонинная технология. Все силовые цепи, устройства защиты контроллера выполняются на несущей штате. Процессорное ядро контроллера, включающее систему исполнения, выполнено на отдельной сменной (мезонинной) плате. В результате появляется возможность составлять несколько комбинаций процессорного ядра и разных силовых плат без необходимости корректировки программного обеспечения. При необходимости процессор можно заменить даже в готовой системе.