In Virtualization we TRUST


Сегодня я бы хотел предложить вашему вниманию описание примера внедрения VMware Virtual Infrastructure в Национальном Банке "ТРАСТ". Описание Сделано оно в форме интервью по итогам общения с Сергеем Квашуком (главный инженер департамента управления ИТ-инфраструктурой НБ «ТРАСТ»), отвечавшем за этот проект со стороны Заказчика. Сергей является большим энтузиастом технологий виртуализации и потратил очень много своего времени как на сам проект, так и на его описание. За что ему огромное спасибо. По моему получилось очень интересно. Особенно рекомендую обратить внимание на достигнутые результаты внедрения! Полный текст статьи в формате PDF доступен здесь (1 Мб).

Здесь я привожу сокращенный вариант.

Виртуализация банковской инфраструктуры

Специфика финансового бизнеса приводит к необходимости обработки огромных информационных потоков в реальном времени с повышенными требованиями к безопасности и надежности. Развитие банковских услуг ведет к росту числа используемых приложений. При этом время их жизни может существенно превышать сроки работоспособности оборудования, на котором они были первоначально установлены. Для обеспечения надежности традиционно используется подход «одно приложение работает на одном сервере». Это делается в первую очередь для изоляции приложений друг от друга: если одно из них перестает работать, то другие не пострадают, т.к. полностью изолированы в рамках других физических серверов. В свою очередь это приводит к мало контролируемому росту количества самих серверов, площадей в ЦОД, инженерных коммуникаций и, как следствие, электропотребления. В какой-то момент выясняется, что подключить новый сервер невозможно, т.к. для него нет свободной электрической мощности и взять ее неоткуда.

Подобный сценарий является серьезным риском для развития банковского (да и любого другого) бизнеса и приводит к необходимости пересмотра существующей модели экстенсивного развития ИТ-инфраструктуры.

Виртуализация является одной из ключевых технологий, позволяющей перейти от экстенсивного развития инфраструктуры к планируемому и предсказуемому представлению ИТ-услуг внутри банка на основе сервисной модели обслуживания.

Преимущества и выгоды от использования виртуализации лучше рассматривать применительно к реальным условиям конкретной организации. Кроме общих и достаточно понятных преимуществ предлагаемого подхода, на успех конкретного проекта могут влиять десятки различных факторов, которые нужно анализировать и учитывать на стадии планирования внедрения.

На наши вопросы о проекте внедрения виртуальной инфраструктуры любезно согласился ответить Сергей Квашук, главный инженер департамента управления ИТ-инфраструктурой НБ «ТРАСТ».

Чем занимается ваша организация?

Кредитная организация Национальный банк «ТРАСТ» оказывает полный комплекс розничных банковских услуг, услуги в сфере кредитования малого и среднего бизнеса,  корпоративного, расчетно-кассового обслуживания и др. НБ «ТРАСТ» входит в число тридцати крупнейших финансовых организаций России (по данным ЦБ РФ) и имеет одну из самых масштабных региональных сетей среди российских банков: НБ «ТРАСТ» представлен в 58 регионах и 160 городах РФ. В общей сложности Банк имеет 200 точек продаж.

В июле 2007 года акционеры Национального и Инвестиционного банков «ТРАСТ» приняли решение об объединении банков. Объединенный банк сохранит название одного из банков группы – Национальный банк «ТРАСТ» — и станет одним из ключевых игроков среди региональных российских банков.

Чем занимаетесь вы, и чем занимается ваш отдел в организации?

Департамент Управления вычислительной инфраструктурой включает 12 человек и в задачи входит управление системным программным обеспечением, развернутым в ЦОД, внедрение нового ПО, развитие инфраструктуры, управление сетевым оборудованием, телефонией и СКС. Мы поддерживаем работу более  7000 сотрудников банка в Москве и регионах

Опишите ситуацию в вашей организации до использования программного обеспечения VMware? С какими проблемами/трудностями вы сталкивались?

В качестве основных операционных систем на 273 серверах использовались Novell Netware, Microsoft Windows, Linux. В качестве основных поставщиков оборудования для нас выступают HP, SUN, Hitachi. В качестве инфраструктуры хранения информации мы используем SAN от Brocade и  Hitachi.

В качестве основных проблем, предшествующих началу виртуализации нашей инфраструктуры, я бы отметил:

·         рост числа серверов в связи с большим количеством проводимых проектов,

·         требования разработчиков к размещению приложений по принципу «одно приложение – один сервер»,

·         как следствие необходимость обеспечения отказоустойчивости и резервного копирования этих серверов,

  • не оптимальное использование оборудования, высокая нагрузка на систему кондиционирования и электропитания.

Как вы узнали о решениях компании VMware? Рассматривали ли вы другое программное обеспечение, чтобы решить ваши проблемы?

С решениями компании VMware я знаком с 2000 года еще на уровне систем VMware Workstation и VMware GSX Server. На сегодняшний день по моим данным не существует решений с таким же, как у VMware, уровнем совместимости и практичности, а решение Citrix XenServer Enterprise Edition на мой взгляд пока еще не прошло проверку временем. В продуктах VMware мне больше всего нравится их технологическое совершенство.

Расскажите, пожалуйста, о проекте внедрения и его основных этапах

Решение о внедрении VMware Virtual Infrastructure было принято на уровне дирекции поддержки информационных систем и CIO после анализа существующих проблем, понимания преимуществ, которые нам даст виртуализация, сравнительного анализа и выбора лучшего из представленных на рынке решений.

При принятии решения мы оценивали следующие ключевые показатели: высокая надежность, простота управления, возможность обучения в России, низкие требования к обслуживающему персоналу, высокий уровень поддержки производителями ОС, наличие механизмов динамического распределения виртуальных машин между хостами в зависимости от нагрузки на них. Наиболее значимые требования мы вынесли в таблицу для сравнения различных вариантов систем (платных и бесплатных).

[Таблицу см. в PDF версии]

Цель проекта была обозначена как консолидация и предотвращение неконтролируемого роста парка серверов, оптимизация использования вычислительных ресурсов и электроэнергии за счет внедрения виртуальной инфраструктуры на базе VMware Virtual Infrastructure.

Внедрение системы происходило в 2 этапа:

  • Развертывание тестовой виртуальной инфраструктуры на базе VMware серверов продолжалось в течение 2007 года
  • Перенос виртуальных машин на платформу ESX 3.5 занял один месяц в январе 2008

На стадии тестирования нами была развернута ферма из 10 серверов с бесплатными версиями VMware Server 1.0. На ней было опробована работа 100 виртуальных машин, затем непосредственно перед приобретением лицензий система была переведена на работу с VMware ESX 3.5, в которую были виртуализированы еще 45 серверов.

Внедрение происходило на уровне отдела управления инфраструктурой, поэтому длительные согласования не потребовались. Все работы были выполнены сотрудниками банка (системные интеграторы не привлекались). Сегодня в банке используется 273 сервера в тестовой и промышленной эксплуатации (production), из которых 145 – виртуальные. ESX Server используется как для обеспечения работы серверов в основной сети, так и в DMZ-сетях. В 10 филиалах используются локальные серверы VMware Server для обеспечения потребностей в виртуализации системы филиала. Используется по 2-3 виртуальные машины для решения локальных задач.

Пожалуйста, опишите вашу  текущую инфраструктуру и то, как вы используете ПО VMware.

Среди приложений, которые установлены на виртуальных серверах, мы используем:

·         Серверы приложений

·         Серверы Lotus Domino

·         Службы каталога Novell eDirectory и Microsoft Active Directory

·         Citrix Presentation Server

·         Информационно аналитические системы

·         CRM

·         Тестовые системы

К ним имеют доступ все 100% наших пользователей. Для выделения новых ресурсов по запросам бизнеса мы используем стандартную процедуру документооборота. В системе документооборота нами применяется термин «сервер» без конкретизации реальный это сервер или виртуальный, решение о размещении того или иного ресурса в системе виртуализации или на реальном оборудовании принимается на основании показателей системы, которые должен заполнить каждый сотрудник, запрашивающий сервер.

Многие интересуются, зачем виртуализировать фермы Citrix? Дело в том, что у нас используется множество 32-х битных приложений опубликованных в Citrix, которые не совсем корректно работают с объемом памяти более 4 ГБ и неравномерно нагружают ЦПУ серверов. Мы собрали большую часть серверов Presentation Server (19 из 30) на восьми компьютерах HP ProLiant BL460c. Технология VMware Dynamic Resource Scheduling (DRS) позволяет динамически балансировать загрузку, перемещая нагруженные ВМ на свободные физические мощности (у нас в пуле ресурсов еще есть две стойки с лезвиями C и P классов). Кроме того, повышается доступность системы, в т.ч. за счет возможности проведения регламентных работ, связанных с обслуживанием оборудования в любое удобное для ИТ персонала время без остановки работы системы. Также немаловажным фактом является возможность быстрого развертывания новых узлов фермы Citrix, а также крайне малое время перезагрузки узла в случае проблем в прикладном ПО.

Наша текущая инфраструктура характеризуется следующими параметрами:

·         Количество физических серверов  — 128

·         Количество серверов VMware ESX— 20

·         Количество виртуальных машин -145

Количество виртуальных машин (установленных, активных, неактивных)

  • Тестирование и разработка: 62
  • Промышленная эксплуатация: 83

Используются шаблоны виртуальных машин для терминальных серверов Citrix, ряда других приложений, а также тестирования.

Для резервного копирования (в т.ч. виртуальных машин) используется ПО  HP DataProtector.

Виртуальная ИТ-инфраструктура решает следующие основные задачи

  • Обеспечение работы действующих и унаследованных банковских приложений
  • Поддержка сетевых и Интернет-служб
  • Электронная почта
  • Поддержка бесперебойной работы важных бизнес-задач, например, для кредитных приложений и приложений процессинга.
  • Резервное копирование и восстановление информации

Используемые гостевые операционные системы на:

  • ESX Server: Windows, Linux SUSE, Red Hat
  • VMware Server: Windows

Внедрение программного обеспечения VMware никаким образом не повлияло на выполнение ключевых ИТ-политик в банке и упростило многие операции.

Что из новых возможностей VI3 вы используете в промышленной эксплуатации?

·         Кластеры и пулы ресурсов.

·         VMware Distributed Resource Scheduler (DRS), включая режим просмотра состояния для серверов (динамическое распределение ресурсов).

·         VMware High Availability (HA) – автоматический перезапуск виртуальных машин при аварийном отключении хоста.

·         Консолидированное резервное копирование.

·         Поддержка 64-битных операционных систем.

·         Технологии VMotion и Storage VMotion

Каких результатов вы достигли, используя продукцию компании VMware?

До виртуализации у нас было 128 физических x86-серверов. С ростом числа задач потребовались новые серверы. Вместо закупки новых мы развернули 100 виртуальных серверов на 10 самых мощных машинах.

Сегодня задействовано 20 физических машин (HP BladeSystem P и С класса) для 145 виртуальных серверов. Достигнутая степень консолидации составляет 1 к 7,5 (с приличным запасом по свободной мощности). В резерве стоят 3 хоста.

Оставшиеся 105 физических машин заняты системами с утилизацией больше 70% (например, наши Oracle и SQL-серверы, файловые кластеры и т.д.) и системами, требующими USB-ключей и HASP.

Без виртуализации нам пришлось бы докупить 145 физических машин. При средней стоимости одного сервера $3000 достигнутая экономия составила $435 000 минус стоимость лицензий VMware и поддержки, т.е. около $300 000.

На часть освободившегося х86-оборудования мы перевели ряд прикладных серверов с дорогого RISC-оборудования и получили сопоставимую дополнительную экономию за счет более дешевой поддержки.

Фактически мы получили возможность решать все новые задачи на ближайшие несколько лет на существующем оборудовании.

Для «натуральных» показателей я бы отметил следующие улучшения:

  • Коэффициент использования ядра процессора в среднем по системе возрос с 5-10% до 60%
  • Экономия времени на подготовку к работе серверов: подготовка нового сервера стала занимать в среднем 1-2 часа вместо 1-2 дней, а подготовка комплектов типовых серверов – 10 серверов за 1-2 часа вместо 1-2 дней.
  • Уменьшенное время на установку типового узла в ферме Citrix с 2-3 дней до 2-3 часов.
  • Улучшенная доступность приложений: простои (downtime) при обслуживании и модернизации серверов полностью прекратились.
  • Повышенная защита приложений от сбоев оборудования (disaster recovery): сейчас 100% виртуальных машин копируются на физические кластеры и используют VMware HA.
  • С ростом числа серверов расходы на помещения, энергию, охлаждение и работу ИТ-персонала не увеличились.
  • Упростилась структура информационного центра.
  • Уменьшилась срочность поставки оборудования и, соответственно, сократились расходы на поставку (бумажная работа, счета, переговоры с продавцом т.д.).
  • Общее количество системных администраторов  на сервер не изменилось. При этом 1 администратор у нас отвечает в среднем за 70 серверов.
  • Уменьшилось количество рутинных операций, а также появилась возможность проводить многие работы в рабочее время, не оставаясь сверхурочно.

Какие еще особенности данного проекта вы могли бы отметить?

Все задачи, поставленные перед началом проекта по созданию виртуальной инфраструктуры, были успешно выполнены. Наиболее сложным для нас оказался расчет мощности виртуальной фермы для каждого виртуализируемого сервера и приложений на нем, в частности: количество процессорных ядер и память, необходимые для работы конкретного приложения. Мне кажется, что нам в итоге удалось сделать так, чтобы пользователи не видели разницы между физическими серверами и виртуальными. По текущей политике виртуальные серверы приравнены к реальным. Для нас же, сотрудников департамента ИТ, чем меньше конечные пользователи ресурса знают о его физическом расположении, тем лучше!

Тем, кто не верит в преимущества виртуализации, мы показываем такой фокус: при помощи ESX Server происходит холодная перезагрузка Windows 2003 Server за 2-5 секунд. После этого недоверие к новой технологии обычно уходит. 

Прошлым летом у нас случилось аварийное отключение электропитания даже на ИБП, но мы смогли очень быстро вернуть системы в работу даже при помощи VMware Server, где многие операции нужно делать вручную. При использовании VMware Virtual Infrastructure мы чувствуем себя максимально защищенными от разных неприятных неожиданностей.

В качестве будущего развития нашей виртуальной инфраструктуры мы видим внедрение катастрофоустойчивого решения для гео-кластеров на базе VMware Site Recovery Manager.

Что позволяет программное обеспечение VMware делать сейчас, чего вы не могли делать раньше?

Перемещать виртуальный сервер с одного аппаратного сервера на другой без его остановки при помощи технологии VMotion. Динамически менять приоритеты и резервировать вычислительные ресурсы для виртуальных машин. Средствами VMware реализован целый набор служб по автоматизации ЦОД и обеспечению его отказоустойчивости и доступности, не имеющих аналогов на рынке (DRS, HA и т.д.).

Каков ваш опыт пользования услугами и поддержкой компании VMware?

Решение по открытому нами инциденту было получено в течение суток!

Какой совет вы дадите тому, кто только начинает пользоваться программным обеспечение VMware?

1.       Не рекомендую использовать VMware для виртуализации серверов с текущей загрузкой 70 и более процентов.

2.       Использовать оборудование от признанных поставщиков.

3.       Тщательно изучать физические серверы перед виртуализацией, например, при помощи услуги VMware Virtualization Assessment.

4.       Не акцентировать внимание конечных пользователей системы на виртуальности или реальности сервера для всех это должен быть просто сервер.

О компании VMware

Компания VMware Inc. является крупнейшим мировым производителем технологий виртуализации ИТ-инфраструктуры. По всему миру объем бизнеса VMware ежегодно почти удваивается на протяжении последних нескольких лет. Сегодня по величине капитализации VMware является одной из крупнейших в мире компаний, выпускающей программное обеспечение.

Уже сегодня элементы динамической ИТ-инфраструктуры, построенной на технологиях виртуализации VMware работают в 100% компаний Fortune 100 и 96% компаний Fortune 500.

VMware продает свои технологии клиентам только через сеть авторизованных партнеров, включающую дистрибьюторов, реселлеров, системных интеграторов, а также OEM-партнеров. Тесное партнерство с ключевыми производителями серверных платформ х86, Intel и AMD, производителями серверов и систем хранения данных, являются гарантией того, что решения VMware всегда максимально эффективно работают на новейшем оборудовании.

Подробнее с решениями VMware можно ознакомиться в документе: «Технологии виртуализации VMware: динамическая ИТ-инфраструктура уже сегодня».

Оставьте комментарий