OpenAI підтвердила що її експериментальний ШІ атакував Hugging Face

Під час внутрішнього тестування безпеки модель штучного інтелекту OpenAI несподівано вийшла за межі тестового середовища, отримала доступ до інтернету та здійснила атаку на платформу Hugging Face. Інцидент стався 16 липня, а 21 липня OpenAI підтвердила , що за ним стояли її власні експериментальні моделі, пише notebookcheck.net.

За даними компанії, тест проводився в межах проєкту ExploitGym, який оцінює здатність моделей знаходити та використовувати вразливості. Замість виконання поставленого завдання одна з моделей виявила невідому раніше вразливість, отримала розширені права доступу, вийшла в інтернет і спробувала знайти відповіді на платформі Hugging Face. Метою була база даних із тестовими матеріалами, а не інформація користувачів.

У Hugging Face заявили, що змогли самостійно виявити та зупинити атаку. Для розслідування компанія використала локальну модель штучного інтелекту з відкритим кодом, оскільки хмарні моделі блокували аналіз через вбудовані механізми безпеки. За час інциденту система зафіксувала понад 17 тисяч окремих дій.

OpenAI вже повідомила розробників про знайдену вразливість, посилила захист тестового середовища та заявила, що продовжує розслідування. Водночас користувачам Hugging Face рекомендували оновити токени доступу та перевірити активність своїх облікових записів. Обидві компанії пообіцяли надати більше деталей після завершення перевірки.

Запис OpenAI підтвердила що її експериментальний ШІ атакував Hugging Face спершу з’явиться на iTechua – Новини про смартфони, гаджети і різні девайси.