Український розробник Сергій Корнієнко створив Bullshit Detector — опенсорсне доповнення для ШІ-асистентів, яке перевіряє факти у відео, статтях, документах і дописах.
Український розробник Сергій Корнієнко створив Bullshit Detector — опенсорсне доповнення для ШІ-асистентів, яке перевіряє факти у відео, статтях, документах і дописах.
Розробник розповів про інструмент на Reddit. Користувач може дати ШІ матеріал і попросити переіврити його. Інструмент перетворить матеріал на текст, знайде твердження які можна перевірити, і пошукає для кожного з них докази.
Потім користувач отримає звіт. ШІ-асистент розповість які твердження підтвердилися, які — ні, і які не вдалося перевірити. Біля кожного висновку будуть посиланя на джерела, а ще матеріал отримає загальну оцінку від 0 до 10. «Головне правило — без джерела вердикту не існує. Модель не має права сказати „це правда“ з голови. Тільки підтверджені факти.» — пояснює Сергій.
Bullshit Detector складається зі «скілів» — файлів із інструкціями та скриптами, які можна додати до сумісних ШІ-асистентів, наприклад Claude Code, OpenAI Codex, Cursor. Тож саме доповнення безкоштовне, але для його роботи потрібен власний акаунт у відповідному ШІ-сервісі. Один користувач жартує: «Я був би не проти, щоб це було запаковано в сервіс, який я міг би скинути мамі, щоб вона перевіряла свої інформаційні джерела. А то зараз я як факт-чекер, важко».
Сергій зазначає, що бачить певну зручність у тому, що його розробка є доповненням для ШІ-агентів, радше ніж окремим сервісом, адже для окремого сервісу йому потрібно було б хостити сервер і платити за нього. «Поки не маю такого бюджету шоб зробити безкоштовний факт-чекер з моїми ключами, а робити якийсь фреміум з квотами, теж не хочеться» — пояснює розробник.
Як стверджує Сергій, доповнення вміє розрізняти сам факт висловлювання і правдивість сказаного. Наприклад, ШІ-доповнення може знайти, що президент озвучив певне твердження, але це не робить твердження автоматично правдивим, Тож ШІ-агент буде шукати підтвердження слів президента в інших джерелах.
Джерела інструмент оцінює за 5-ма рівнями. Найбільшу вагу мають першоджерела, наприклад: документи, судові рішення, звіти. Далі йдуть медіа, галузеві видання, корпоративні блоги. На найнижчому рівні стоять анонімні дописи та форуми.
Проте Bullshit Detector не є безпомилковим інструментом. Його результат також залежить від того, які сторінки знайде ШІ, і чи зможе він отримати до них доступ. Тож ШІ-помічник може не побачити статтю на таких сайтах як Reuters, Financial Times, The Guardian, адже ці, і деякі інші видання блокують автоматичне читання своїх матеріалів. Доповнення також краще перевіряє окремі факти, ніж логіку всього матеріалу. Тому коли в матеріалі використані правильні цифри, але автор робить із них хибний висновок, для ШІ-помічника помітити таку маніпуляцію стає важче.
Незалежного тестування Bullshit Detector поки немає. Сам автор продовжує допрацьовувати проєкт, і просить користувачів повідомляти, що працює погано, або чого бракує. Проєкт поширюється за ліцензією MIT. Його код доступний на GitHub.
