Добрый день!
На USB не пробовали. Обычно USB-шнур до 3 метров длиной. Если вы его удлинять собираетесь, то точно не UTP, у USB там несимметричный коаксиальный кабель, если шнур в разрезе посмотреть.
"Нормальные" сетевые камеры, например, AXIS 206, нормально работают с длиной кабеля 100 метров и больше, если нужно длиннее, ставьте через каждые 100-150 метров свич и вперед!