OpenAI закликає створити міжнародний орган для контролю уповільнення розвитку ШІ
OpenAI закликає до створення міжнародної організації, яка б здійснювала нагляд за розвитком штучного інтелекту та, за необхідності, могла координовано сповільнювати його прогрес. У компанії наголошують, що темпи розвитку ШІ мають узгоджуватися зі здатністю суспільства забезпечувати безпеку та стабільність.
У новому блозі, підписаному генеральним директором OpenAI Семом Альтманом і головним науковим співробітником Якубом Пачоцьким, зазначається, що системи ШІ дедалі частіше можуть брати участь у власному вдосконаленні. У перспективі це може перетворити їх на «дослідників ШІ», які прискорюватимуть створення нових моделей.
Подібну позицію раніше озвучувала компанія Anthropic, яка попереджала про ризики «рекурсивного самовдосконалення» — сценарію, коли ШІ починає розробляти ще потужніші версії самого себе. Це, на думку експертів, може різко прискорити прогрес, але водночас ускладнити контроль над технологією.
Ідея можливого «вибуху інтелекту» та втрати контролю над розвитком ШІ не нова — ще у 2023 році низка відомих дослідників і підприємців закликала до тимчасової паузи у створенні найпотужніших моделей. Серед підписантів був і Ілон Маск, який неодноразово попереджав про ризики неконтрольованого розвитку ШІ.
OpenAI також заявляє, що створення штучного загального інтелекту (AGI) залишається однією з ключових цілей компанії. Водночас у галузі досі немає єдиного визначення цього терміна, а дискусії про його реальну досяжність тривають. На цьому тлі заклики до міжнародного регулювання виглядають як спроба випередити потенційні ризики майбутнього технологічного стрибка.
Запис OpenAI закликає створити міжнародний орган для контролю уповільнення розвитку ШІ спершу з’явиться на iTechua – Новини про смартфони, гаджети і різні девайси.
