Большая стройка.

[makalah]

Всем привет!

Есть ли на форуме люди, кторые имеют опыт построения больших систем ip видонаблюдения?
Ну скажем так на 300-500 камер.

А вопрос вот в чем.
Я представитель заказчика и моя задача чтобы видеонаблюдние работало. И есть у нас подрядчик и задача у него такая же. И ничего не работает.

Вот в чем собственно дело.
Дано: около 400Poe камер. Скс 6 категории. Около 30 кроссовых, со шкафами и умными коммутаторами Poe. В кроссовых от 4 до 40 камер. В каждой кроссовой коммутатор, подключен к ядру сети 10гигобит. К тому же ядру подключен коммутатор (10гигобит), к которому подключен сервер видеонаблюдения. На сервере есть 4 сетевых карты и они объединены в агрегацию (динамическая), и еще там стоит серверная часть МАКРОСКОП. Помимо этого есть клиентские машины — те что показывают картинку охранникам, к каждой подключено по два дисплея и там тоже МАКРОСКОП. Помимо этого во всей этой СПД (ядро и коммутаторы) работает еще несколько систем (суммарный трафик около 2 гигобит) каждая система находится в своем VLAN. Все хосты системы видеонаблюдения (400 камер, сервер, клиентские машины) находтся в одном VLAN и логически являются членами одной сети с диапазоном 192.168.0.0 mask 255.255.252.0. Вреде бы все хорошо и с точки зрения математики всего должно хватать т. к. каждая камера генерит траффик H.264 HD(1280x720) по 30 кадров в секунду и на сервере загрузка сетевой всего 1.5гигобита.

Да вот незадача камеры отваливаются, до 30% может вылететь, при этом процентов 10 гуляющие, то появятся, то пропадут, а остальные появляются только после переподключения.
И еще, если следить за сетевой картой на сервере, то можно увидеть как падает производительность сетевой карты от 1.5гигобита до 0 и опять вверх. И во время этого падения, картинка на всех клиентских машинах замирает. И запись происходит так же, если картинка замерла, то на сервере записи нет. В это же время, если открыть камеру в браузере, с той же клиентской машины, никаких замираний нет. И если пускать пинги (максимального размера) на сервер из любой части сети, то они не пропадают. Пробовали запустить сниффер и посмотреть что происходит в сети. Сниффер показал кучу UDP траффика и кучу БРОДКАСТ трафика с кучи хостов.

Мнения разделились:
Первое звучит так: МАКРОСКОП говно, а если не макроскоп, то тот кто его ставил т. к. не может один сервер справится с 400 камерами.
Второе звучит так: СПД говно, в ней происходят какие-то падения каналов потому что хабы не справляются с длинными UDP пакетами.
Третье звучит так: исполнение говно, надо разбить камеры по 80 штук на канал и/или логическую сеть (чтобы они не перебивали друг друга БРОДКАСТОМ) и завернуть их на сервер, или на несколько серверов.

Вот собственно все.
Кто сталкивался с подобным, или увидел причину проблемы, или может подсказать у кого спросить? Буду весьма признателен.

[GenaSPB]

Думаю у Вас сумма факторов.
1) 400 камер на один сервак это явный перебор граничящий с критинизмом. Делить минимум на 4 сервака.
2) Не указана марка камер, но из 400 вполне может быть часть брака.
3) Могут быть и баги в такой сети, я так понимаю что территория и соответственно растояния достаточно большие.

[makalah]

Расстояния большие сеть сертифицированная.
Камеры LG явный брак около 10 штук (исключены).
400 камер для одного сервера перебор (интуитивно понятно), но документированных ограничений найти не могут.

[GenaSPB]

Эээ а битрейт кто нибудь пробовал посчитать? В наше время "Сертифицировано" ни чего не значит, кроме того что кто-то отвалил за это бабла.
На сколько винчей все это будет писаться? У Макроскоп кто нибудь спрашивал про такую нагрузку?

[makalah]

Сертефицированно действительно, видел тесты, везде pass.
Битрейт чего ? если камер то да считали по СПД и СКС проходит с избыточностью.
Макроскоп по ним имею устный ответ от подрядчика что все ок. Буквально звучал так: -Нет ограничений по количеству камер.

[GenaSPB]

Ну как нет? Программных или лицензионных может быть и нет, но производительность железа не может быть безграничной. А скорость записи на винч? В один сервак столько просто не влезет, а это значит либо строить раид, либо добавлять серваков. Что выйдет дешевле еще не известно, но вот надежней точно будет несколько серваков. Представьте падает у вас сервер и что? Все нет записи с 400 камер, охрана слепая.
Что хоть загрузка проца говорит? Ради эксперимента, оставьте на серваке 100 камер из разных сегментов сети остальные отключите. И понаблюдайте за результатом.

[Cyfroman]

...
И еще, если следить за сетевой картой на сервере, то можно увидеть как падает производительность сетевой карты от 1.5гигобита до 0 и опять вверх. И во время этого падения, картинка на всех клиентских машинах замирает...

Отрубить сотню, две камер от сервера пробывали? (отсоеденить один, два кабеля от сетевой карты на пол часа можна) Другие камеры работали бы стабильно или нет?

И правильный вопрос - сколько винтов вертится?

[makalah]

К серверу подключенна СХД в пол петабайта. Подключена оптикой. На схд 5 рэйд.
По поводу эксперемента в 100 камер он поставлен:
Падения производительности на сетевой карте сервера остались.

[GenaSPB]

Вот несколько характеристик самого крутого макроскоповского сервака
Количество каналов - 300;
Гарантированная обработка и запись видео и аудио с 300 IP-камер при:
2 Мегапикселях и 25 кадр/сек в H.264 с использованием детекторов движения камер;
2 Мегапикселях и 6 кадр/сек в H.264 с использованием программного детектора (при использовании второго видеопотока H.264 0,3 Мпикс для анализа).
1 Мегапикселе и 12 кадр/сек в H.264 с использованием программного детектора (при использовании второго видеопотока H.264 0,3 Мпикс для анализа)..
Вот тут не понял
Количество подключаемых мониторов - нет;
Видеовыходы VGA – 1 порт; возможность подключения 1 монитора для настройки
Режим отображения Мультиэкранный — сетку каналов и взаимное расположение каналов в сетке можно изменять в процессе работы
Ребята даже не могут определиться, показывает их сервак или нет.

[GenaSPB]

модель камер подскажите.

[makalah]

Модель не подскажу могу дать любые технические данные по ним.
По серверу интересно, хотя нет четкого понимания по железу (возможно не приходилось рассчитывать что-то более производительное).
По поводу детекции движения камера/софт понял спасибо, уточню этот момент.

[makalah]

По поводу режима отображения - наверняка имеют ввиду клиентские машины.
Мкроскоп клиентско-серверное решение.