На росії хочуть створити власний «суверенний» штучний інтелект. Він має працювати на російській інфраструктурі та відповідати «традиційним духовно-моральним цінностям».
ДОПОВНЕНО новою інформацією
На росії хочуть створити власний «суверенний» штучний інтелект. Він має працювати на російській інфраструктурі та відповідати «традиційним духовно-моральним цінностям».
ДОПОВНЕНО новою інформацією
Про це повідомляє Центр Протидії Дезінформації.
Імовірно, йдеться про спробу створити велику мовну модель. Критерії розробляє російське Мінцифри разом із ФСБ і Федеральною службою з технічного й експортного контролю. ШІ перевірятимуть на відповідність таким проголошеним на росії цінностям, як патріотизм, «служіння Вітчизні», міцна сім’я, колективізм, єдність народів росії, пріоритет духовного над матеріальним і «історична пам’ять».
Для ШІ також готують спеціальні бенчмарки — набори запитань і завдань, за якими можна оцінити поведінку моделі. До того ж, під час тестування модель спеціально намагатимуться збити з «правильного» курсу.
UPD. Ці бенчмарки, за даними російських медіа, має надати компанія «Яндекс». При цьому ФСБ хоче зробити цей датасет закритим. Представники бізнесу, натомість, побоюються, що закритий бенчмарк може виявитися надто складним і загальмувати розвиток моделей.
Лабораторії використовуватимуть промпт-ін'єкції — хитро сформульовані запити, які можуть змусити ШІ обійти власні обмеження. Так перевірятимуть, чи не почне модель видавати відповіді, які держава вважає небажаними, щойно користувач знайде правильний спосіб її запитати.
Раніше dev.ua писав про схожий підхід у Китаї: ШІ-моделі там мають відповідати «основним соціалістичним цінностям». Зокрема, оновлена DeepSeek R1 стала частіше цензурувати політично чутливі теми та відтворювати офіційну позицію китайської влади.
