Андрей Карпати виклав у відкритий доступ LLM Council — вебдодаток, де кілька ШІ сперечаються між собою та обирають найкращу відповідь

Що таке LLM Council

У документації проєкту Карпати описує LLM Council як інтерфейс, схожий на ChatGPT, але з ключовою відмінністю: він надсилає один і той самий запит кільком LLM через OpenRouter, а потім організовує «міжмодельні дебати».

Додаток працює у три етапи:

1. Генерація відповідей.
   Кожна модель отримує запитання та формує власну відповідь. У вебінтерфейсі користувач бачить їх в окремих вкладках.

2. Взаємні рев’ю.
   Моделі отримують анонімні відповіді інших учасників і ранжують їх за точністю та корисністю.

3. Фінальне рішення.
   Обрана користувачем «головна LLM» узагальнює думки інших моделей і видає фінальну відповідь — свого роду консенсус машин.

Карпати пояснює, що створив інструмент для «спільного читання книг із LLM» і порівняння різних інтерпретацій контенту. Але на практиці проєкт виявився значно цікавішим: він дає змогу порівнювати моделі, тестувати їхню логіку та спостерігати, як ШІ можуть ухвалювати колективні рішення.

Які моделі входять до «наради»

За замовчуванням у список учасників входять:

• GPT-5.1

• Gemini 3 Pro Preview

• Claude Sonnet 4.5

• Grok-4

Користувач може змінити цей список і додати інші моделі через OpenRouter.

Технологічний стек LLM Council

Карпати залишив проєкт мінімалістичним і максимально зрозумілим:

• Backend: FastAPI + async httpx, робота через OpenRouter API

• Frontend: React + Vite (рендеринг через react-markdown)

• Зберігання: JSON-файли у data/conversations/

• Інструменти: uv для Python, npm для фронтенду

Щоб запустити застосунок, користувачу потрібно лише додати власний OPENROUTER_API_KEY.

Головний науковець із ШІ в Meta вважає LLM тупиковою гілкою розвитку технології, яка не приведе до AGI

По темi

Головний науковець із ШІ в Meta вважає LLM тупиковою гілкою розвитку технології, яка не приведе до AGI

У півтора раза швидше, ніж Gemma 3. Інтерв’ю з лідером проєкту Lapa LLM — найефективнішою великою мовною моделлю для української мови 

По темi

У півтора раза швидше, ніж Gemma 3. Інтерв’ю з лідером проєкту Lapa LLM — найефективнішою великою мовною моделлю для української мови 

Читайте головні IT-новини країни в нашому Telegram

По темi

Читайте головні IT-новини країни в нашому Telegram