Привет.

Собрал в сизиф http://opendpi.org (DPI — Deep Packet Inspection) и пачку
ядерных модулей к нему.
Как пользоваться хорошо написано тут:
http://habrahabr.ru/blogs/sysadm/108280/

Пользоваться просто:
# apt-get install kernel-modules-opendpi-std-def (или другое ядро)
# modprobe xt_opendpi

И дальше можно использовать в правилах.

К сожалению skype трафик детектит только коммерческая врсия, но и тут
достаточно полезных свойств. Детект торрентов вроде поддерживает.

-- 
WBR,
Dubrovskiy Vyacheslav