На регистраторе HiWatch получаются битые видеозаписи.

[777SkiF777]

Это явно неверное направление поиска проблемы, потому что если в сети 1-2 камеры - то они все отлично работают.
А проблема начинается когда в сети 3-4 камеры, и проблема у всех.

Так бывает когда регистратор не вывозит. У Вас ограничение на вход около 160 мб в реге(инфа частично или абсолютно не достоверна, проверить нет возможности, руководствуюсь открытыми источниками) Ещё нарыл следующую историю:" Декодирующая способность, 1 канал @ 8 Мп / 3 канала @ 4 Мп / 6 каналов @ 1080p", и я знаю что это немного не про реалтайм, но немного говорит о мощностных характеристиках самого рега. А теперь что даёт нам эта инфа в сборе и какие можно сделать выводы....
1) суммарный объём трафика на регистратор с учётом погрешности не должен превышать 150 мб, 2) При не корректно настроенном втором потоке регистратор может подтягивать основной поток в сетку онлайн просмотра(такое бывает), 3) Учитывая что устройства не совсем от одного производителя, то могут быть определённые затыки в совместимости прошивок, а значит стоит пробовать выставлять по очереди H264/H265/H265+ и начинать нужно с разрешения 1080Р с постепенным увеличением. Таким образом получится поймать оптимальную настройку. Если при разрешении 2 мп тоже будут артефакты, тогда железно проблемы в других местах.
Ну и да, блок питания регистратора должен выдавать не менее 30 вт, с учётом погрешностей, я бы питал не менее чем 12V 5А. 2 жёстких диска да и сам рег потребляют довольно много.

[f2065]

Текущее состояние проблемы артефактов.

Неделю наблюдал за работой после заземления свитчей. Пришёл к выводу что всё же заземление сильно увеличило частоту артефактов. Причём есть какая-то связь со временем суток – ночью мало, днём (кстати в самую жару) артефакты раз в 5-10 минут постоянно, а утром и ближе к вечеру – артефакты вообще лезут каждые 1-2 минуты. По всем камерам с одинаковой частотой, но не единовременно. Убрал заземление свитчей, оставил заземление БП только…

Решил попробовать ферритовые EMI-фильтры. На форумах (особенно зарубежных) спорят о целесообразности их использования на витой паре, но есть аргумент ЗА – некоторые производители POE-телефонов комплектуют их ферритовыми фильтрами. Итак, купил 40 штук 5 мм фильтров на AliExpress, поставил. Внатяг, местами очень не просто было защёлкнуть (надо было видимо 6 мм). Расставил EMI-фильтры везде - на всех UTP со стороны свитча и со стороны камер, по середине длинных линий, на всех проводах DC-питания. Хуже не стало. И даже кажется стало заметно лучше!

Попробовал разные комбинации подключения камер к свитчам, в итоге на главном свитче оставил 4 ближних камеры, камеры с длинными кабелями подключил ко второму свитчу. Вроде бы нашёл комбинацию подключения камер к свитчам где артефакты пореже, раз в час или даже раз в несколько часов (сходу даже не удаётся найти артефакты). В принципе это приемлемо, но хотелось бы понять и решить эту проблему окончательно (чтобы в дальнейшем при реконструкции сети этого избежать). Такое чувство что артефакты пропадают если на каждом свитче не более 2-3 камер (причём даже при каскадном включении PD-свитчей).

Что делать далее – не понятно. Рабочая гипотеза – какие-то перекрёстные помехи в UTP возникают от одновременной работы нескольких этих камер. Странно что заземление свитчей увеличивает в разы частоту появления артефактов.

Или UTP кабель плохой? Частота завивки некорректная? Но производитель пишет типа флюком тестированный… SkyNet Premium UTP outdoor 4x2x0,51, медный, FLUKE TEST, кат.5e, однож., 100 м, box, черный CSP-UTP-4-CU-OUT/100

Проложить S/FTP вместо UDP? Но учитывая странный эффект от заземления свитчей – не понятно что будет при заземлении S/FTP.

Накупить ещё несколько POE-PD-свитчей, чтобы было не более 2 камер на каждом свитче? Но так ведь быть не должно!

Какие-то 1-портовые POE-PD свитчи-ретрансляторы? Но не нашёл подобного устройства (POE-инжекторы это наверно не решение проблемы т.к. не обеспечивают изоляции). Производители свитчей в своей рекламе предлагают использовать для ретрансляции длинных линий обычные 5-портовые POE-PD (громоздко, дорого, и не эффективный расход энергии), причём ставить их через каждые 100 метров (но у меня расстояния значительно меньше!).

Не понятно насколько можно верить результатам длительного пингования (пакетами по 65кб) для оценки стабильности сети.
Ночью длительное пингование камер показывает потери 20-25 пакетов из 4000.
Днём длительное пингование камер показывает потери 35-40 пакетов из 4000
Интересно что пингование с роутера до ближних камер (Cam2,Cam5) показывает ошибок больше чем до самой дальней камеры (Cam9).
Пинг с камеры (через SSH консоль) до роутера или до регистратора – аналогичный уровень потерь. Пинг между роутером и регистратором – потери единичные, из 4000 пингов иногда 1-2 пакета потеряны. Гипотеза о том что просто камеры не хотят или не могут отвечать на каждый пинг – в данном случае не подтверждается.
Но, такие же потери пингов на камеры были и с заземлёнными корпусами свитчей, когда артефактов было значительно больше чем сейчас.
Очевидно что корреляции между процентом потерь пингов и интенсивностью артефактов нет.
Но как и чем тогда тестировать стабильность сети в течении длительного времени?

Итак, проверенные гипотезы:
1. Питание. Не подтвердилась по множеству причин – и запасы мощности (и по замерам и по расчётам) есть, и разные источники питания были (и с родными БП всего оборудования, и с низковольтным бесперебойником, и со сторонними БП).
2. Настройки камер. Перепробовано всё. Ну и проблема ведь только если камер несколько. Урезание битрейта до 5мбит тоже проверено.
3. Переключение сетевого интерфейса камер на 10Full, 10Half, 100Half – абсолютно не влияет на проблему. По индикаторам свитча и по скорости пинга – камеры реально переключаются. Так вообще порты камер работают все в 100Full.
4. Проблемы регистратора. Исключено полностью, при записи на сторонний NAS/Samba сервер – в записях дропы кадров в те же моменты времени когда у регистратора идут артефакты.
5. Проблема камер. Исключено, при записи на вставленную в камеры microSD артефактов/дропов нет, в те же самые моменты когда на NVR и NAS есть артефакты и дропы.
6. Заземление. При заземлении свитчей – артефактов стало значительно больше. Заземление убрал. Заземление было хорошее – около 15 м² железа на глубине 1-2м.
7. Ферритовые EMI-фильтры, поставил везде на UTP и на питание – хуже точно не стало, может даже немного лучше.
8. Подключение вместо камеры Hikvision DS-2CD2186G2(C) более простой камеры Hikvision DS-2CD1343G0(C) – на 2CD1343G0 никаких артефактов нет! Слабая сетевая часть у 2CD2186G2? Но менять их особо не на что – как бы это топовые камеры в линейке.

[reanimatorlash]

и почему мне кажется, что тенда 1110 опухла от "такой наглости".
не плохо было бы конкретней указать в какой именно порт и что подключено.

[f2065]

и почему мне кажется, что тенда 1110 опухла от "такой наглости".

А что не так? Запас по питанию - огромный (камера реально жрёт около 5W, ну пусть заявленное в даташите 7.5W - это от 6 камер около 45W, а тенда 1110 имеет бюджет питания 102W). По пропускной способности тоже.
Временно подключал на тенду 9 камер (с участием POE-PD) - всё работало, частота артефактов не изменялась.

не плохо было бы конкретней указать в какой именно порт и что подключено.

Регистратор - в Uplink-порт. Камеры в обычные порты. Роутер тоже в обычный порт (траффика к роутеру в общем случае нет, экспериментально роутер был и вообще отключен, потом подключал смотрел записи - отключение роутера не влияло на артефакты никак).

Но особо интересна другая (временная) схема.

Если в тенду-1110 воткнуть каскад POE-PD-свитчей (прямо рядом с тендой, короткими патчкордами) - то артефактов нет нигде:

Особо подчеркну что это POE-PD свитчи - у них нет источника питания, они сами жрут по POE. Т.е. нагрузка на главный свитч в этой схеме выше - но проблемы нет!

Если в тенду воткнуть 6 камер напрямую - то артефактов много:

При этом нельзя сказать что это глюки тенды. У меня имеется 3 POE-свитча питающих - Tenda TEG1110PF-8-102W, Tenda TEG1110P-4-63W, TP-Link TL-SG1006PP. Я пробовал на месте этой тенды1110 и тенду1105, и особо тщательно тплинк (были надежды что тенда глючит) - подключая к ним всего 4 камеры (Cam1,2,4,5). И питание у них было от их родных БП, не только от ИБП. Но артефакты были постоянно, каждые несколько минут.


На данный момент, непонятно как (убрав заземление (само по себе отсутствие заземления - проблему не решало), поставив ферритовые фильтры - 40 штук! - на всё, подобрав порты), я добился приемлемой стабильности. Но надо вообще разобраться в проблеме на будущее.
Добавлю ещё пару камер или буду потом реконструировать сеть - и опять на всех камерах полезут артефакты...
Сразу потом для камер тянуть дорогой Cat6/Cat7?
S/FTP? Но эффект от заземления свитчей меня разочаровал, а что будет с заземлением S/FTP (который как пишут нельзя без заземления)?
Или накупить много POE-свитчей, по свитчу на каждые 2-3 маломощные камеры? Но так же не должно быть.
Видел интересную штуку MikroTik Gigabit Passive Ethernet Repeater (GPeR) - но дорого, проще POE-PD-свитчи ставить около камер.

[reanimatorlash]

уже интереснее. стало сильно смахивать на электромагнитные помехи. что есть в зоне установки оборудования?

[Рустам]

5. Проблема камер. Исключено, при записи на вставленную в камеры microSD артефактов/дропов нет, в те же самые моменты когда на NVR и NAS есть артефакты и дропы.

Получается, проблема однозначно в сети. Но вроде перебрано всё что можно, в чём эта проблема всё равно не понятно.
Есть такая штука, как "широковещательный шторм". В сети помимо нужных потоков информации от камер, появляется от чего-то громадное количество потоков широковещательной рассылки, которые забивают всю сеть и не дают нормально проходить нужным пакетам информации. Бывают коммутаторы с защитой от широковещательных штормов, их бы, что ли попробовать. Или пытаться выискать источник широковещательного шторма, но это не просто, учитывая что он может стоять в одном сегменте, а давать артефакты в совсем другом сегменте.

[f2065]

уже интереснее. стало сильно смахивать на электромагнитные помехи. что есть в зоне установки оборудования?

В выходные померяю китайским измерителем ЭМИ (BR-9C), но вообще раньше я им игрался на даче - никаких заметных излучений не видел, в городе в разы больше...
Зона установки - обычная дача в СНТ. Соседи все вокруг сильно в возрасте, вроде ничем таким не занимаются (или очень хорошо маскируются), до сотовых вышек около километра.
Артефакты шли и в моменты отключения электричества во всём округе.
Не представляю что там может давать помехи.

К тому же помехи бы проявлялись бы и на одной камере, а проблема проявляется только на совокупности камер. Понятно что она проявляется при некой большой длине всех отрезков кабелей, но как она просачивается через свитчи не понятно.

Через SSH консоль камеры запускал пингование между камерами на любом одном свитче - потери есть, даже в пределах дальнего POE-PD-свитча... Но, не знаю насколько вообще есть смысл в оценке пингования, потому что как оказалось абсолютно нет корреляции между процентом потерь пинга и артефактами в видеопотоке. Пингов около 0.9-1% потерь, и когда всё в артефактах, и когда артефактов почти нет.

Есть подозрение на крышу. Большая часть прокладки кабелей в обоих зданиях по потолку, оба здания покрыты профнастилом, крыши тонкие не утеплённые (летний домик, сарай), кабели лежат параллельно в 8-10см от профнастила. Крыша не заземлена (грозозащиты на крыше нет).
Может профнастил и витая пара превращаются в конденсатор?
Хотя у некоторых камер (причём ближайших) кабель идёт по полу далеко от профнастила.


Нашёл "ГОСТ Р 53246-2008 Информационные технологии (ИТ). Системы кабельные структурированные. Проектирование Страница 38
основных узлов системы. Общие требования". У меня конечно это всё не соблюдается, по всем абзацам:

Минимальная длина кабеля горизонтальной подсистемы на основе витой пары проводников должна составлять 15 м, что обеспечивает нормальные условия функционирования телекоммуникационных приложений в коротких кабельных линиях, когда близкое расположение единиц коммутационного оборудования относительно друг друга (эффект резонансных отражений электромагнитной волны от интерфейсов) отрицательно влияет на возвратные потери (RL) и NEXT.
В случаях, когда длина кабеля в горизонтальной кабельной подсистеме составляет не более 15 м, его излишки следует укладывать в виде запаса в телекоммуникационной, на рабочем месте или в трассах горизонтальной подсистемы. Предпочтительно запас кабеля создавать в виде "U"-образных петель с соблюдением минимального радиуса изгиба или петель в виде "8" с большим радиусом. Не рекомендуется делать запас кабеля в виде бухты небольшого диаметра (до 30 см).

У меня вдоль стен (крыш) везде получается по 3-4 параллельных кабеля на протяжении 4-6 м. И на концах излишки по паре метров в бухте как раз 30 см.

Или пытаться выискать источник широковещательного шторма, но это не просто, учитывая что он может стоять в одном сегменте, а давать артефакты в совсем другом сегменте.

По идее некому штормить. Проблема же и при физическом отключении роутера из сети: остаются только регистратор, свитч, камеры. И никакой связи с внешним миром. А потом видеозаписи смотрю - там артефакты.

Ну и вот ещё тот фактор что при подключении заземления свитчей артефактов стало гораздо больше, а при отключении земли и установки везде ферритов - артефактов стало значительно меньше (так что даже и не найти) - сразу исключает все программные причины.

[GenaSPB]

Сдается мне там какая-то полная хрень с электропитанием, заземлением.

[f2065]

Сдается мне там какая-то полная хрень с электропитанием, заземлением.

Например?

Электропитание - в розетке 232-234V всегда, новая ЛЭП, новый трансформатор. 3 фазы, перекосов не наблюдается. Всю интернет-техника на одной фазе.
БП разные были проверены - и родные БП, и сторонние, и вот от единого БП (бесперебойника на 48В) всё питается - это никак не влияло.
Отключение электричества во всей округе (система в это время живёт на аккумуляторах) тоже никак не влияло на артефакты.

Заземление - система TT. Cтарый железный подпол, засыпанный песком (потому что протекал), он используется в качестве заземления. У него площадь контакта с грунтом на глубине от 1 до 2 метров - 12м² (а вообще площадь контакта с грунтом - около 16-18м²), а грунтовые воды на глубине от 0.8м. Площадь контакта и грунтовые воды - это должно быть очень хорошее заземление. Туда толстый медный кабель прикручен. На заземление подключены только варисторные УЗИП и всё (нейтраль в доме не подключена к земле (но подключена на столбах), заземление по дому в розетки не разведено), только кабель к интернет-технике подведён от земли.

Заземление свитчей приводит к сильному увеличению артефактов.
Заземление всего прочего (бесперебойник, ящик где это всё размещено) - вроде никакого ухудшения артефактов не даёт.
Корпуса свитчей изолированы от минуса питания (прозванивал, открывал, там мелкие конденсаторы между GND и корпусом).

[f2065]

Опять внезапно пошли артефакты (хотя вообще 5 дней людей там нет и никто ничего не трогал, 3-4 дня всё было отлично, и вдруг началось снова).
Только я думал что ферриты решили проблему, но похоже что не очень.
Завтра буду проводить новые опыты. FTP кабель привезу, и вообще разные другие UTP кабели попробую подключать, в разных местах дома прокладывать. Потери пингов буду исследовать (хоть и нет как бы корреляции с артефактами, но надеюсь если добиться 0.00% потери пингов - то артефактов не станет).


Но вот давно меня удивляет тот факт что ночью артефактов нет!!!
Вот эти два дня - куда не перейду в видеоархиве днём - обязательно в течении 1-2 минут артефакт по полэкрана. Но только в "цветное" время записей!
Утром/днём(мало)/вечером - артефакты, в 21:55 началась ночь (монохромный режим, ИК) - и артефактов нет. Просмотрел ночное время - ну нету их.
В 3:15 ночь закончилась, прямо сразу же полезли артефакты.

И какие из этого можно сделать выводы?
ИК-подсветка камеры повышает нагрузку (по замерам камера при 100% мощности IR потребляет на 1.8W больше, но у меня около 20-30% мощность IR) и это как-то косвенно стабилизирует потери/помехи в кабеле?
Или просто в монохромном режиме артефакты не проявляются из-за особенности кодирования?

[777SkiF777]

Вот такие плавающие проблемы обусловлены, зачастую, хреновым кабелем.

[f2065]

Попробовал функцию ANR, поставил флешку, включил в регистраторе. Но оно теряет видео даже при выдёргивании кабеля на несколько секунд. ANR работает только в длительных отключениях (полминуты например, когда регистратор зафиксирует потерю камеры) - потом да, регистратор подгружает записи из камеры и подсвечивает это время зелёной полосой. И не точная стыковка - целых 5 секунд на стыках пропадает. Так что ANR - не решение проблемы артефактов.


Итак, итоги экспериментов.
На данный момент – гипотеза что тут совокупность причин сложилась:
1. На даче какая-то сильная помеха возникает непонятно откуда на витой паре, или может она как-то ловит какие-то резонансные эффекты.
2. Слабые сетевые интерфейсы камер.


Опыт 1.
Убрал свитч, временно подключил 4 камеры к микротику (RB750Gr3, без POE), настроил iVMS на директное подключение к камерам (без регистратора), подключил к камерам 12V от разных мелких БП на 2-3A (напрямую, удлинители 220V подтащил к камерам).
Итог – на первичном потоке всё в артефактах. Потери пингов около 1%.


Опыт 2.
Подключил одну камеру через F/UTP кабель (FPC-5004E-SO, Cat.5E, медь 0.5мм²), сначала без заземления. Длина кабеля 15 метров. Потери пингов - 20-25% (не 1 как на UTP - а 20).
Что интересно, в городской квартире такой же F/UTP (я купил в давние времена 305м) лежит на гораздо большие расстояния, работает в 1гбит, специально час пинговал устройства в домашней сети - потерь пингов 0. И не заземлённый.
А на даче - 20% потери пингов, на 100мбит.
Подключил на даче к F/UTP заземление - потери пингов всё равно огромные - 15-20%. Заземление как-то не особо влияет.
Подключил через этот же F/UTP - POE-свитч, и к нему камеру коротким кабелем - потери пингов 3-5%...


Опыт 3.
Привёз на дачу из городской квартиры камеру 2CD1343G0. Вместе с БП и патчкордом.
Подключил к микроктику на даче – куча артефактов и потери пингов около 5%.
А в городе – с тем же БП, патчкордом, к точно такому же микротику подключено – потери пингов 0, артефактов не бывает.
Пингование запускаю на микротике…
Попробовал через длинный F/UTP кабель из опыта 2 – сплошные артефакты тоже, и потери пинга около 20%.


Опыт 4.
Привёз в город обжатый кабель F/UTP из опыта 2, разложил его по всей квартире, подключил к нему камеру 2CD1343G0 (и микротик с другого конца), как и ожидалось всё отлично. Потерь пингов 0.


Опыт 5.
Попробовал включить на свитчах режим Extended. Артефакты остались, но потери пингов пропали. Пинговал несколько часов, 15000 пингов и 0 потерь (а было ведь стабильно около 10-20 потерянных пингов из 1000).
Предположил что тут артефакты потому что Extended – это сеть в режиме 10мбит. Включил на камерах макс битрейт 8192. Артефакты вроде ушли… Выключил Extended, вручную на камерах задал 10F скорость сети. Пока вроде артефактов нет…
Причём, после переключения сетевых интерфейсов всех камер на 10мбит – прекратились небольшие (было около 0.1%) потери пингов и по другим маршрутам (которые остались на 100 и 1000 скоростях) в локалке. Видимо какие-то излучения от витой пары к камерам влияли на всё вокруг.


Предварительно ещё реконструировал прокладку кабеля – в ящик (где размещается всё оборудование) ранее все сетевые кабели (к камерам, локалка – 9 кабелей) вводилось через 1 отверстие, разделил кабели поровну на 3 отверстия. Ибо вычитал что при плотном сжатии пучка может оказаться так что чужие витые пары будут слишком близко. Но сам по себе этот факт видимо влияния не оказывал, т.к. проблема была и когда ящика не было и все кабели лежали по отдельности. Навесил ещё больше ферритов по питанию (на оба конца провода – на выходах из БП и на входах в устройства). Смотанные излишки витой пары были в виде колец, перемотал в виде 8 как предписано в ГОСТ.

Нагуглил статьи о том что в случае витой пары с заземление бывает всё не просто. Бывает через заземление лезут очень сильные помехи от трансформаторов неподалёку и т.п. И что с заземлением FTP-кабелей бывает всё не просто… Есть сетевики имеющие негативный опыт развёртывания FTP-кабелей.

Попробовал поискать что-то китайским детектором ЭМИ (BR-9C). На даче в помещении, особенно под крышами, ничего он не видит (S 0.1 µW/cm², E 0 V/M, H 0 µT) – походу железные крыши сильно экранируют от излучений. На участке местами S 0.4-1.7 µW/cm², E 1 V/M, местами (особенно на открытых пространствах не загораживаемых деревьями и домами) доходит до S 8 µW/cm², E 8 V/M. Источником этого насколько понял является ЛЭП 0.4кВ рядом с участком. В городской квартире S 1-2 µW/cm², выше не нашёл.


Получается, мне надо брать самый топовый UTP который бывает - типа Cat.6a, перепрокладывать им всё…
Хотя пока всё более-менее нормально работает в режиме 10Full при ограничении битрейта до 9000.
Но в будущем понимаю надо точно не экономить на кабеле, брать самый лучший, но UTP (не связываться с экранированием).

И/или по возможности вести меньше параллельных линий, использовать POE-PD свитчи поближе к камерам... Но эта идея мне не нравиться т.к. зимой там до -38°, а у свитчей минимальные заявленные температуры около 0.

Или всё же как правильно организовывать экранирование/заземление? Почему у меня все попытки что-то заземлить сразу резко увеличивают помехи в сети?