FreeBSD (%U.%N.%P=user.имя_процесса.pid, подробнее - man core):
   sysctl -w kern.corefile=/tmp/%U.%N.%P.core
   
Linux (последние ядра):
   sysctl -w kernel.core_pattern=/tmp/%e.%p.core (строка не больше 64 байт)
   или через /proc/sys/kernel/core_pattern

Максимальный размер core файла задается через:
   ulimit -c 100