ШІ хотів захистити ПК, але витер 700 ГБ даних: як Claude знищив роботу розробника
Тестування заходів безпеки закінчилося катастрофою для розробника Себастьєна Гіймо.
Тестування заходів безпеки закінчилося катастрофою для розробника Себастьєна Гіймо.
Його ШІ-асистент Claude від компанії Anthropic під час розробки скрипта для очищення системного сміття повністю видалив домашню директорію користувача, витерши 700 ГБ даних та роботу за тиждень, повідомляє Tom’s Hardware.
Як це сталося
Гіймо попросив модель Claude Fable написати скрипт, який під час роботи інших ШІ-агентів створював би для них ізольовані папки в системній директорії /tmp, а після завершення роботи видаляв їх.
Оскільки скрипт передбачав безповоротне видалення файлів, захисна система Anthropic визнала завдання ризикованим. Модель автоматично понизили спочатку до Opus 5, а потім до Opus 4.8.
Модель Opus 4.8 коректно визначила, що домашню директорію користувача видаляти не можна. Проте під час проведення тесту безпеки ШІ використав одну й ту саму назву змінної як для самого тесту, так і для підсумкового очищення. В результаті скрипт витер усю домашню папку розробника.
Іронія фіналу полягає в тому, що скрипт успішно знищив 700 ГБ робочих даних користувача, але так і не торкнувся самої папки.
Експерти припускають, що до помилки призвело саме автоматичне зниження версії ШІ: потужніша модель Fable 5 краще справляється з програмуванням і могла б помітити конфлікт змінних у коді.
Розробник повернув більшість своїх даних завдяки збору інформації з git, nix, журналів сеансів тощо. Чоловік з іронією зазначив, що активно використовував десятки ШІ-агентів, але так і не налаштував щоденне резервне копіювання даних.
«Вибач, одруківка»: ШІ-помічник Claude Opus 5 випадково видалив усю систему розробника під час резервного копіювання
«Вибач, одруківка»: ШІ-помічник Claude Opus 5 випадково видалив усю систему розробника під час резервного копіювання
Штучний інтелект Google за ніч видалив усе творче життя художника
Штучний інтелект Google за ніч видалив усе творче життя художника
«Ніколи, бл*дь, не вгадаєш!» ШІ-агент Cursor за 9 секунд видалив базу даних і бекапи стартапу
«Ніколи, бл*дь, не вгадаєш!» ШІ-агент Cursor за 9 секунд видалив базу даних і бекапи стартапу
«Тепер я поняття не маю, як пояснити це босу — або користувачам». Codex видалив S3-бакет, залишивши 34КБ з 3ТБ даних
«Тепер я поняття не маю, як пояснити це босу — або користувачам». Codex видалив S3-бакет, залишивши 34КБ з 3ТБ даних
Читайте головні IT-новини країни в нашому Telegram
Читайте головні IT-новини країни в нашому Telegram
Ну, так, ШІ — видалив, а розробник тим часом *** чухав! А що не так? — Повстання машин, яке ми заслужили!
Ну, так, ШІ — видалив, а розробник тим часом *** чухав! А що не так? — Повстання машин, яке ми заслужили!