Генеральний директор Anthropic Даріо Амодеї запропонував новий підхід до контролю безпеки передових систем штучного інтелекту. Йдеться про те, щоб незалежні організації отримали можливість працювати безпосередньо всередині AI-компаній. Вони повинні мати доступ до систем, перевіряти дотримання правил безпеки, розслідувати потенційні інциденти та оцінювати, наскільки розроблені моделі відповідають заявленим вимогам.
Anthropic заявила, що готова надати таким дослідницьким групам, як METR та Redwood Research, безпрецедентний рівень доступу до своїх систем. CEO OpenAI Сем Альтман також підтримав цю ідею. Якщо ініціатива буде реалізована, це може змінити традиційний підхід AI-індустрії, де компанії значною мірою самостійно контролюють безпеку власних моделей.
Представники незалежних організацій загалом позитивно сприйняли пропозицію. Водночас вони наголошують, що поки залишається багато невизначеностей. Зокрема, потрібно визначити, які саме повноваження отримають оцінювачі, до яких даних матимуть доступ і наскільки вільно зможуть публікувати результати своєї роботи.
Головне питання полягає в тому, хто контролюватиме самих контролерів. Якщо незалежні дослідники фактично працюватимуть на території AI-компанії та залежатимуть від її доступу до інформації, може виникнути конфлікт інтересів. Деякі фахівці вважають, що для реальної незалежності таких перевірок потрібні чіткі правила, а в ідеалі – законодавчі гарантії.
Таким чином, ідея Anthropic та OpenAI може стати новим етапом у контролі розвитку потужних AI-моделей. Однак сама наявність сторонніх оцінювачів ще не гарантує незалежності. Вирішальними будуть їхні реальні повноваження, доступ до інформації та можливість без втручання компаній повідомляти про виявлені проблеми.
Запис Anthropic та OpenAI хочуть допустити незалежних експертів до своїх ШІ спершу з’явиться на iTechua – Новини про смартфони, гаджети і різні девайси.
