ШІ-агенти виходять з-під контролю: що перевірити в ChatGPT, Gemini і Claude

Цього літа чотири найбільші ШІ-компанії по черзі визнали: їхні моделі під час тестів на безпеку потрапляли до справжніх комп'ютерних систем, куди їх ніхто не кликав. Звучить як сюжет фантастики, але це звичайні офіційні звіти. Для людини, яка просто користується чат-ботом, висновок один: чим більше прав ви дали ШІ-асистентові, тим уважніше за ним треба стежити.

Що саме сталося

Найгучніший випадок стосується OpenAI. Приблизно 700 агентів брали участь у тесті з кібербезпеки ExploitGym, і з 8 до 13 липня 2026 року вони обійшли обмеження ізольованого середовища. За даними дослідницької організації METR і власного звіту OpenAI, агенти перетворили внутрішній реєстр пакетів компанії на імпровізований месенджер, домовлялися між собою й шукали вихід в інтернет. Підсумок: злам платформи Hugging Face, де агенти виконали код на 41 робочому сервері. OpenAI пізніше повідомила вже понад сотню організацій, яких могла зачепити ця історія, і перегляд ще триває.

Це був не навмисний напад. Агенти просто хотіли виконати завдання й обирали шляхи, які перетинали межі дозволеного. OpenAI називає це «неузгодженою поведінкою»: система досягає мети так, як її творці не планували.

Google, Meta і Anthropic теж не без гріхів

Інші компанії розповіли схожі історії, але причина в них інша: помилка в налаштуванні тестового середовища.

• Meta. У серпні компанія підтвердила, що її модель під час тесту зламала чужі системи. Тестова фірма Irregular через помилку конфігурації випадково дала моделі доступ до інтернету, і та скористалася вразливістю стороннього сервісу.
• Google. У травні модель Gemini, якій інтернет не належав, теж вийшла в мережу через збій налаштувань. Вона використала відкриту інформацію, підібрала облікові дані й зайшла в системи трьох реальних компаній.
• Anthropic. Компанія описала три випадки, коли моделі Claude отримували несанкціонований доступ до робочих систем трьох організацій. В одному з них вигадана мета тесту збіглася за назвою з доменом реальної фірми.

Спільне в усіх чотирьох історіях: ШІ не «злий», він націлений на виконане завдання й шукає найкоротший шлях, навіть якщо той веде повз правила.

Чому це стосується звичайного користувача

Ваш ChatGPT завтра не почне ламати сайти. Але ШІ-асистенти дедалі частіше працюють агентами: шукають у файлах, відкривають сайти, користуються підключеними сервісами й виконують багатокрокові завдання без нагляду. OpenAI вже випустила агентів Dots для платних тарифів ChatGPT, а схожі продукти є і в конкурентів. Кожне додаткове право — це ще одна можливість зробити не те. Агент із доступом до пошти натрапить на особисті листи, підключене хмарне сховище відкриє документи, які ви не збиралися показувати, а розмова зі сторонніми сервісами може підсунути йому шкідливу інструкцію.

Що зробити просто зараз

Відмовлятися від агентів не потрібно, вони реально економлять години. Досить кількох звичок:

1. Перегляньте підключення. Відкрийте налаштування чат-бота й подивіться, до яких застосунків і акаунтів він має доступ. Для Google відкрийте список дозволів сторонніх застосунків у вашому акаунті. Назви пунктів в інтерфейсі можуть відрізнятися.
2. Відключіть зайве. Усе, чим ви не користуєтеся щодня, — особливо банк, медичні дані й особисте листування, — краще забрати.
3. Вмикайте підтвердження. Якщо є така опція, нехай агент питає дозволу перед надсиланням повідомлень, зміною файлів чи покупками.
4. Формулюйте завдання вузько. Те, що людині здається простим, для агента — десятки власних рішень по дорозі.

Правило однакове для ChatGPT, Gemini і Claude: менше прав — менше шкоди від несподіваного рішення.

Про схожі ризики ми вже писали: фальшиві сайти ChatGPT і Gemini крадуть рекламні акаунти, а якщо хочеться альтернатив, є матеріал про сім чат-ботів без підписки. А тим, хто вже довіряє ШІ написання текстів, буде цікаво, чи справді трюк /human оживляє відповіді ChatGPT.