В статье "Kernel command using Linux system calls" рассказывается про работу системных вызовов в Linux. Материал излагается на примере добавления нового системного вызова в Linux ядро, при помощи интерфейса SCI (system call interface).