Експерти попередили про ризики витоку даних через ШІ-сервіси
Час читання: 2 хв.
Використання штучного інтелекту у розробці програмного забезпечення приносить як прискорення процесів, а й нові ризики. Експерти відзначають появу цілого класу загроз, пов’язаних з ШІ-агентами, які можуть діяти від імені користувача та взаємодіяти з кодом, файлами та зовнішніми системами.
Основна проблема полягає в тому, що ШІ тепер працює не тільки з текстом або кодом , але і з інфраструктурою цілком. Це призводить до ситуацій, коли модель може випадково порушити роботу системи, змінити конфігурації або передати чутливі дані за межі компанії. Додаткову небезпеку створюють канали взаємодії між ШІ та розробником , які можуть бути перехоплені або використані зловмисниками.
За даними досліджень, значна частина витоків вже пов’язана з тим, що співробітники передають корпоративні дані в публічні ШІ-сервіси. Це можуть бути фрагменти коду, документи, комерційна інформація та внутрішні регламенти. У випадку з ШІ-агентами ризик вищий, оскільки вони не просто відповідають на запити, а виконують дії – отримують доступ до API, читають файли та працюють із системою безпосередньо.
Експерти наголошують, що при неправильному налаштуванні прав доступу або відсутності контролю ШІ може ненавмисно розкрити ключі, токени або конфіденційні дані . Також існує ризик атак через заміну контексту, шкідливі інструкції та помилки у взаємодії між агентами.
Окремо зазначається, що ШІ стає частиною нового шару вразливостей на стику розробки та інформаційної безпеки. Йдеться про проблеми, які не вкладаються в класичні моделі захисту: отруєння контексту, небезпечні запити, зловживання інструментами та надмірні права сервісних облікових записів.
При цьому фахівці вважають, що ШІ корисний як інструмент аналізу коду та пошуку вразливостей. Він може швидше виявляти типові помилки, такі як ін’єкції SQL або XSS, і служити додатковим рівнем перевірки.
Однак повністю довіряти ШІ прийняття рішень про безпеку не можна. Моделі можуть помилятися, не враховувати бізнес-логіку та створювати хибне почуття захищеності. Тому експерти рекомендують використовувати ШІ як допоміжний інструмент, залишаючи фінальну перевірку за фахівцями з кібербезпеки.
Запис Експерти попередили про ризики витоку даних через ШІ-сервіси спершу з’явиться на iTechua – Новини про смартфони, гаджети і різні девайси.
