Помічник чи фактор ризику? Як застосовують штучний інтелект в дата-центрах

Досвід лідерів ринку

Американська компанія Vigilent застосовує машинне навчання у своїй системі оптимізації охолоджувального обладнання з 2008 року. У 2014 році Google в одному зі своїх ЦОД розгорнув Deepmind AI — штучний інтелект з використанням машинного навчання. В результаті компанії вдалось на 40% скоротити кількість енергії, потрібної для охолодження ЦОД. Загальні накладні витрати після врахування витрат електроенергії та інших ресурсів, пов’язаних з охолодженням, скоротилися на 15%. Після оцінки ефективності у компанії припустили, що інші організації можуть робити те ж саме. 

Попередні прогнози дозволяють виділити наступні переваги ШІ та машинного навчання в центрах обробки даних:

• зменшення витрат енергії завдяки оптимізації систем охолодження, прогнозуванню та керуванню робочим навантаженням на сервер, коригуванню споживання електроенергії залежно від потреб. Крім суттєвої економії, це ще й знижує негативний вплив ЦОД на екологію;
• здатність аналізувати дані, що надходять з різноманітних систем моніторингу та передбачати вірогідні технічні проблеми. Це дозволяє своєчасно ініціювати профілактичне обслуговування, збільшувати експлуатаційний період обладнання та мінімізувати простої;
• можливість постійного моніторингу мережевого трафіка та виявлення потенційних загроз. Це допомагає виявляти кібератаки та протидіяти їм у реальному часі;
• динамічний розподіл обчислювальних ресурсів, включаючи оптимізацію розміщення віртуальної машини, а також самостійне визначення пріоритетів для забезпечення робочих навантажень;
• обробка колосальних обсягів даних для оцінки продуктивності, поведінки користувачів, а також для виявлення тенденцій. Це цінні дані для оптимізації роботи ЦОД;
• автоматизація рутинних завдань, серед яких як ініціалізація, балансування навантаження та усунення несправностей. Це знімає частину робочого навантаження з персоналу та усуває вплив «людського фактора»;
• надання операторам ЦОД розширених інструментів керування для планування потужностей, моніторингу використання ресурсів, відстеження активів.

Минуло 10 років. Чи стало застосування ШІ в ЦОД поки масовим явищем?

Перспективи прогресу та проблеми з точністю

Для початку треба навести лад у термінах, адже популяризація технологій та загальна цікавість до них створюють певну плутанину. ШІ — це незручно широкий загальний термін, який використовується для опису комп’ютерного програмного забезпечення, яке здатне демонструвати те, що люди сприймають як розумну поведінку. Термін включає таку дисципліну, як машинне навчання (ML).

• Машинне навчання — це загальне визначення програмних методів, які передбачають навчання математичних моделей на великих наборах даних. В результаті моделі ML здатні робити аналіз та прогнозувати, розв’язувати задачі без використання принципів програмування та робити логічні висновки.
• Глибоке навчання — вдосконалене ML, яке використовує принципи роботи мозку людини. В основі — використання глибоких нейронних мереж (DNN) для визначення тенденцій та закономірностей серед малопов’язаних або навіть некорельованих даних.
• Generative AI — назва конкретної технології, заснованої на останніх досягненнях DNN. Основним досягненням є створення архітектури трансформера, оприлюдненої Google у 2017 році. Саме її пізніше використали для створення ChatGPT — мовної генеративної моделі, а також DALL-E — генеративного інструменту для зображень.

Трансформери використовують механізми, здатні вивчати зв’язки між словами та даними без участі людини. Це скорочує тривалість навчання та підвищує точність виведених даних. Саме ця технологія спричинила революцію у прикладному використанні ШІ, яка стала трендом 2023 року.

Системи, які базуються на роботі трансформерів — як, наприклад, ChatGPT — навчаються на основі сотень гігабайт тексту та можуть генерувати будь-який вид контенту. Проте вони стикаються з проблемою, яка відрізняє їх від інших типів ШІ. Саме ця проблема не дозволяє використовувати технологію у критичних галузях. Мова йде про відсутність гарантій точності результату.

Головне обмеження цих систем — здатність до галюцинацій. Вони генерують переконливі відповіді, використовуючи вигадані факти. Насправді вони навіть не шукають фактаж, а виявляють шаблони та вгадують наступний найкращий варіант у послідовності.

Результатом стала велика кількість гучних помилок: особливо проблем зазнали ЗМІ, журналісти яких повністю покладались на відповіді генеративних ШІ. Це спричинило зменшення довіри до штучного інтелекту загалом. Як результат — багато керівників ЦОД побоюються впроваджувати будь-яку технологію ШІ, навіть якщо вона не має жодного відношення до генеративних моделей.

Що зупиняє інтеграцію ШІ в процеси ЦОД?

Перша проблема озвучена у попередньому розділі: зниження рівня довіри до технології. Друга, більш актуальна — побоювання щодо скорочення робочих місць, що призведе до кардинальних змін в індустрії. Головна ж проблема ШІ — обмеженість використання.

Існує два фактори, які уповільнюють інтеграцію штучного інтелекту в робочі механізми ЦОД:

1. Профіль ризику технологій на основі ЦОД наразі неприйнятний.
2. Технології ШІ, які зараз використовують в ЦОД, здається, лише збільшують потреби у персоналі, а не замінюють його.

Так, хвиля цікавості, інвестицій та застосування технологій ШІ наразі безпрецедентна, проте спеціалісти дивляться на це зі скепсисом. Річ у тім, що це не перше коло ажіотажу навколо штучного інтелекту з того часу, як його створили у 1956 році (у той період ШІ визначили як окрему академічну дисципліну). Чергова хвиля зацікавленості спаде, як тільки стане зрозуміло, що технологія «впирається» у певні технологічні кордони, і для наступного етапу розвитку потрібні потужніші комп’ютери. Програми штучного інтелекту, які виявилися корисними, інтегруються в основне програмне забезпечення. У минулому це траплялося з комп’ютерами, які грали в шахи, оптичним розпізнаванням символів, машинним перекладом, фільтрами спаму в електронній пошті, системами супутникової навігації та персональними цифровими помічниками.

А що тоді з використанням ШІ в ЦОД? Технології, які зараз застосовують в дата-центрах, переважно спеціалізуються на оптимізації динамічного живлення та охолодження, виявленні аномалій, прогнозуванні клієнтського попиту та іншій аналітиці.

Дуже рідко ШІ інтегрують в системи управління ЦОД для контролю. Натомість технологію застосовують для консультування операторів. Звичайно, передача контролю над об’єктом ШІ підвищить ефективність інфраструктури. Однак зростуть і ризики: будь-які помилки призведуть до тривалих збоїв та мільйонних втрат. Це не та ціна, яку треба платити за кілька відсотків ефективності. Тож інтелект зараз не загрожує робочим місцям.

Проте ризик таки є. Потреба в планувальниках профілактичного технічного обслуговування може бути зменшена, оскільки поточне покоління інструментів на основі штучного інтелекту може передбачати частоту відмов і пропонувати оптимальні графіки технічного обслуговування. Також буде потрібно менше охоронців, адже системи відеоспостереження з ШІ вже вчаться розпізнавати складні загрози.

Чи є у технології майбутнє?

Безпечне використання ШІ у ЦОД можливе за умови вдосконалення технології генеративного інтелекту та зменшення кількості галюцинацій. Один зі способів — створення механізму автоматизованої перехресної перевірки результатів генерації з надійними джерелами даних. Також треба змінити хід мислення системи: вона має отримувати винагороди не за правильні міркування, а за вірні висновки.

Зрештою, треба створити предметно-соціальні генеративні системи шляхом тонкого налаштування загальних або «фундаментальних» моделей для виконання чітко визначених галузевих завдань. Доменно-спеціальні системи набагато краще розумітимуть специфічну термінологію і матимуть меншу ймовірність створення галюцинацій під час використання.

Чим буде корисний генеративний штучний інтелект в ЦОД? Декілька факторів:

• створення документів першого проходу, моделей, дизайнів і навіть розрахунків для розв’язання задач, пов’язаних з плануванням операцій;
• створення та оновлення методу процедур (MOP), стандартних операційних процедур (SOP) і аварійних операційних процедур (EOP), які часто залишаються непоміченими через брак часу та управління;
• реалізація покрокових процедур обслуговування;
• створення стандартних інформаційних посібників для нових співробітників або клієнтів;
• оновлення ресурсів з запитаннями та відповідями.

Важливо зазначити, що для кожного зі сценаріїв передбачається використання ШІ з обов’язковою перевіркою результатів живим спеціалістом. Це компенсуватиме ризики. ШІ — у багатьох формах — також, ймовірно, знайде свій шлях до численних програмних інструментів, які відіграють важливу допоміжну роль у проєктуванні, розробці та експлуатації ЦОД. Керівники центрів мають відстежувати технологію та розуміти, де і як її можна безпечно використовувати.

Ми в Дата-центрі FREEhost.UA теж намагаємось інтегрувати ШІ в системи керування   дата-центром у форматі  рекомендацій  та  підказок. За допомогою спеціальних інструментів виконується додатковий аналіз трафіку, оптимізується робота системи вентиляції та фрикулінгу, ведеться додатковий контроль за системою моніторингу та базою комплектуючих в серверах. Крім цього, ми використовуємо ШІ щоб допомагати користувачам підібрати красиві доменні імена. Загалом це дозволило спеціалістам сконцентруватися на менш рутинних завданнях.