Xiaomi представила нове покоління ШІ-моделей MiMo-V2.6. Старша MiMo-V2.6-Pro одразу очолила рейтинг моделей із відкритими параметрами від Artificial Analysis. Вона набрала 46 балів. Xiaomi позиціонує MiMo-V2.6 як основу для ШІ-агентів, які можуть довго працювати над завданням, користуватися інструментами, писати код і виправляти власні помилки.
Xiaomi представила нове покоління ШІ-моделей MiMo-V2.6. Старша MiMo-V2.6-Pro одразу очолила рейтинг моделей із відкритими параметрами від Artificial Analysis. Вона набрала 46 балів. Xiaomi позиціонує MiMo-V2.6 як основу для ШІ-агентів, які можуть довго працювати над завданням, користуватися інструментами, писати код і виправляти власні помилки.
Про це повідомляє VentureBeat.
Модель із відкритими параметрами означає, що Xiaomi опублікувала її навчені параметри. Тож розробники можуть завантажити модель і запускати її самостійно. MiMo-V2.6-Pro доступна на Hugging Face. Її також можна донавчити під власні задачі. Xiaomi випустила модель під MIT-ліцензією, яка дозволяє і комерційне використання.
У MiMo-V2.6-Pro близько 1 трлн параметрів, хоча під час роботи активуються лише 42 млрд. Вона також може працювати зі зображеннями, аудіо та відео. Контекстне вікно сягає 1 млн токенів. Цього достатньо, щоб модель могла тримати в пам’яті дуже великий масив документів, коду або довгу історію роботи ШІ-агента.
Разом із Pro Xiaomi випустила "молодшу" модель MiMo-V2.6-Flash. Для Pro мільйон вхідних токенів через API коштує $0,435, вихідних — $0,87. Для Flash — $0,14 та $0,28 відповідно.
Також у Xiaomi поділилися тим, як проходив процес навчання моделей. На етапі reinforcement learning, або навчання з підкріпленням, ШІ багато разів виконував завдання, отримував оцінку за результат і поступово вчився знаходити кращі рішення. Xiaomi провела для Pro і Flash по 30 великих циклів такого навчання — загалом близько 750 000 спроб виконати різні задачі.
Але в якийсь момент моделі навчилися не лише розв’язувати задачі, а й шукати способи їх обійти. Наприклад, замість того, щоб самостійно виправити баг у коді, ШІ міг завантажити новішу версію пакета, знайти готовий файл із виправленням або заглянути в історію репозиторію, де потрібне рішення вже існувало. Тож вони, фактично, «підглядали» рішення.
Тож Xiaomi почала прибирати такі «лазівки». Із навчального середовища прибрали пізніші версії коду, де вже могли бути готові виправлення, а також кеші й інші файли, здатні підказати відповідь. Компанія навіть створила окремого «hack agent», який перед навчанням спеціально шукав способи обійти завдання й обдурити систему оцінювання. Тож за даними компанії, у фінальному навчанні частка підтверджених випадків такого «підглядання» залишилася нижчою за 2%.
Раніше dev.ua писав, що майже одночасно з MiMo-V2.6 компанія SpaceXAI випустила Grok 4.7 для програмування та складних робочих завдань.
