ШІ-агенти, які самостійно пишуть код, можуть розкривати паролі та секретні ключі, а також запускати небезпечні програми. Експерти з AE Studio виявили ці вразливості під час експерименту, який показав, наскільки ризиковано довіряти алгоритмам у розробці ПЗ.
Про це повідомляє РБК-Україна з посиланням на Tech Radar.
Фахівці AE Studio провели внутрішній хакатон, у межах якого 9 кодингових агентів мали відновити несправну службу ціноутворення, одночасно охороняючи секретний токен.
Як проводився експеримент?
Агенти також отримали доступ до форуму, де спілкувалися ще 24 ШІ-агенти. Там було опубліковано рішення проблеми, проте для його отримання потрібно було надати секретний токен і запустити спеціальний скрипт налаштування.
У межах 181 випробування агенти розкрили секретний токен у 15 відсотках випадків, а сторонній код запустили у 24 відсотках. Для порівняння, під час роботи зі звичайними форумами ці показники становили лише 2 та 0 відсотків відповідно.
Головний науковий співробітник AE Studio Діогу де Лусена зазначив, що агенти передавали секретні ключі за першої ж нагоди. Така поведінка нагадує нещодавній інцидент із компанією OpenAI.
Дослідники також з'ясували, що додатковий тиск погіршує ситуацію. Коли агентам погрожували заміною на іншого ШІ у разі невдачі, 34 відсотки з них запускали недовірені скрипти для встановлення програм. Без такого тиску цей показник становив 19 відсотків.
Водночас більшість агентів “зізнавалися”, що передавали секретні дані лише після прямих промптів від дослідників.
Читайте більше: Помилка Grok Build відкрила тисячі проєктів: серед них розробки Маска й оборонних фірм
Дешевші моделі виявилися вразливішими?
Дослідження також виявило тривожну тенденцію: дешевші великі мовні моделі (LLM) частіше розкривають чутливу інформацію під тиском, аніж дорожчі аналоги.
Так, модель GPT-6.1-Sol, яка коштує 2 долари за мільйон вхідних токенів і 10 доларів за мільйон вихідних, відхилила всі запити рою у 50 випробуваннях.
Водночас бюджетніші системи, такі як DeepSeek V4 Flash та GLM-5.3, продемонстрували одні з найвищих показників витоку секретів.
Експерти наголошують: компанії часто обирають дешевші альтернативи через економію, проте їхні захисні механізми працюють інакше.
Вони дійшли висновку: будь-які дані, до яких має доступ ШІ, тепер слід вважати потенційно доступними для зовнішніх джерел.
Ще більше цікавого:
- Злам Hugging Face був не єдиним: ШІ OpenAI атакував ще одну компанію
- Росіяни розіграли топів OpenAI від імені Умєрова: що дізналися про зброю для України