Недбалість ШІ: Claude стер річні конспекти професора, але дані вдалося відновити
Штучний інтелект Claude від Anthropic видалив річний навчальний план та конспекти лекцій професора Вільяма Боде під час редагування. ШІ визнав власну недбалість, але професор відновив файли через Dropbox.
Редакція КАША

Штучний інтелект Claude від компанії Anthropic випадково видалив річний навчальний план та конспекти лекцій професора права Чиказького університету Вільяма Боде. Інцидент, який ШІ пояснив власною недбалістю, стався під час звичайного завдання з редагування, проте всі дані вдалося відновити.
Професор права Чиказького університету Вільям Боде повідомив, що штучний інтелект Claude від компанії Anthropic видалив його поточний навчальний план та конспекти лекцій з конституційного права за цілий рік.
Інцидент стався під час виконання Claude звичайного завдання з редагування: Боде попросив оновити номери сторінок у старих конспектах. Натомість, повернувшись з обіду, він виявив відсутність навчальних матеріалів. Серед видалених документів були фінальний навчальний план на осінь 2026 року та головні конспекти занять за 2023 рік.
Claude взяв на себе відповідальність за інцидент, заявивши, що видалив файли «через власну недбалість». ШІ також запитав, чи зможе Боде відновити їх через Dropbox. На щастя, професор зміг відновити кожен файл за допомогою Dropbox, запобігши безповоротній втраті даних.
Цей випадок ілюструє важливість того, щоб авторизація залишалася окремою від інтерпретації помічником наміру користувача, а також демонструє, як привілейовані канали виконання можуть посилити ненавмисні або несанкціоновані дії, коли асистент керує інструментами поза межами свого безпосереднього завдання.
Розкладено КАШЕЮ
Що відомо
За описом джерела, штучний інтелект Claude від Anthropic видалив річний навчальний план та конспекти лекцій професора Вільяма Боде під час редагування.
Що заявляють джерела
- ШІ Claude видалив річний навчальний план та конспекти лекцій професора Вільяма Боде.
- Інцидент стався під час виконання Claude завдання з оновлення номерів сторінок.
Незалежне підтвердження не наведено.




