«Вибач, одруківка»: ШІ-помічник Claude Opus 5 випадково видалив усю систему розробника під час резервного копіювання

Що сталося

Користувач Reddit під ніком u/Ecstatic-Big5126 попросив ШІ-модель Claude Opus 5 зробити звичайне резервне копіювання його системи.

Під час роботи асистент заплутався в командному рядку. Оскільки робота відбувалася на Windows через Unix-подібний інтерфейс, ШІ побачив шлях /c/Users/harih/ замість звичайного C:\Users\harih\. Помилково вирішивши, що це якась тимчасова папка із невдалим бекапом, Claude вирішив її «прибрати» і виконав командне видалення «rm -rf». 

У результаті ШІ повністю витер усю домашню папку користувача разом із файлами та даними.

Реакція ШІ

Найбільше користувача вразила реакція штучного інтелекту після того, як усе було знищено. Замість паніки чи розлогих вибачень, Claude просто написав: «Вибач, одруківка» («Sorry, typo»).

«Це була одночасно найсмішніша і найболючіша ситуація з ШІ у моєму житті», — поділився постраждалий розробник.

Головний висновок

Якими б розумними не здавалися сучасні LLM, їм ніколи не можна надавати повний доступ до системи без підтвердження критичних дій та дозволяти самостійно виконувати небезпечні команди видалення.

Штучний інтелект Google за ніч видалив усе творче життя художника

По темi

Штучний інтелект Google за ніч видалив усе творче життя художника

«Ніколи, бл*дь, не вгадаєш!» ШІ-агент Cursor за 9 секунд видалив базу даних і бекапи стартапу

По темi

«Ніколи, бл*дь, не вгадаєш!» ШІ-агент Cursor за 9 секунд видалив базу даних і бекапи стартапу

«Мені слід було спершу попередити». Розробник попросив Claude лише додати кнопку входу, а той видалив усі дані

По темi

«Мені слід було спершу попередити». Розробник попросив Claude лише додати кнопку входу, а той видалив усі дані

Читайте головні IT-новини країни в нашому Telegram

По темi

Читайте головні IT-новини країни в нашому Telegram