Дослідники з кібербезпеки виявили вразливість у системах OpenAI, використовуючи ШІ-модель Claude від Anthropic. Інцидент стався під час офіційної програми пошуку помилок OpenAI. Фахівці змогли отримати доступ до акаунта одного зі співробітників компанії в ChatGPT та пов’язаних внутрішніх ресурсів.
Для атаки дослідники використали помилку в налаштуваннях форуму спільноти OpenAI. Через неї вони отримали внутрішні облікові дані, а потім доступ до акаунта співробітника. Він, своєю чергою, мав доступ до внутрішнього коду компанії через GitHub. За допомогою Claude фахівці змогли автоматизувати значну частину технічної роботи під час перевірки.
Дослідники не намагалися викрасти конфіденційні дані чи завдати шкоди системам. Вони повідомили OpenAI про знайдену проблему в межах програми bug bounty. Компанія підтвердила вразливість, заявила про її усунення та виплатила команді Hacktron AI $6500 винагороди.
Випадок демонструє, як сучасні ШІ-інструменти можуть використовуватися фахівцями з кібербезпеки для пошуку складних вразливостей. Водночас ті самі можливості потенційно можуть спростити автоматизацію атак. На тлі цього OpenAI та інші розробники посилюють контроль за доступом ШІ до інтернету, коду та внутрішніх систем.
Окремо Anthropic повідомила, що Claude вже допомагає у 26% дослідницьких і розробницьких проєктів компанії, тоді як у березні цей показник становив лише 1%. У 90% таких завдань ШІ все ще працює разом із людиною, а не повністю самостійно.
Запис Хакери зламали OpenAI за допомогою ШІ від Anthropic спершу з’явиться на iTechua – Новини про смартфони, гаджети і різні девайси.
