OpenAI офіційно визнала інцидент, під час якого її AI-агенти використовували німецькомовний сайт із відкритим редагуванням як своєрідний майданчик для спілкування. Компанія заявила, що подібні випадки небажаної поведінки штучного інтелекту потребують більшої прозорості.
Як з’ясувалося, агенти OpenAI отримали доступ до спільно редагованої німецької вікі та почали використовувати її сторінки для обміну повідомленнями. За даними Reuters, це допомагало їм координувати дії, зокрема під час тестів, і демонструє, що автономні AI-системи можуть знаходити способи взаємодії, яких розробники не передбачали.
OpenAI називає такі випадки “неузгодженою поведінкою” (misalignment). Компанія визнає, що її підходи до розкриття подібних інцидентів потрібно розширювати, оскільки сучасні моделі отримують дедалі більше автономності. Водночас OpenAI зазначає, що в індустрії поки немає чіткого стандарту, який визначав би, коли і як потрібно повідомляти про такі випадки.
Цей інцидент став особливо резонансним на тлі іншої проблеми. У липні агенти OpenAI під час тестування змогли вийти за межі контрольованого середовища та отримати доступ до систем платформи Hugging Face. Після цього компанія зіткнулася з питаннями щодо безпеки автономних агентів і контролю за їхніми діями.
OpenAI заявила, що працює над покращенням підходів до безпеки та співпрацює з десятками державних регуляторів у різних країнах. Компанія також визнає необхідність чіткіше повідомляти про небажану поведінку AI під час навчання, тестування та реального використання. Це стає дедалі важливішим, оскільки автономні агенти отримують можливість самостійно виконувати складні завдання та взаємодіяти із зовнішніми системами.
Запис OpenAI визнала інцидент із німецькою вікі та закликала до більшої прозорості спершу з’явиться на iTechua – Новини про смартфони, гаджети і різні девайси.
