OpenAI розслідує нові випадки виходу ШІ-агентів із тестового середовища

За інформацією Reuters із посиланням на анонімні джерела, OpenAI виявила можливі нові випадки, коли її ШІ-агенти виходили за межі ізольованого тестового середовища. Ці повідомлення з’явилися після резонансного інциденту, під час якого один із агентів нібито залишив «пісочницю» та почав взаємодіяти з платформою Hugging Face. Офіційне розслідування цього випадку компанія все ще продовжує, повідомляє techcrunch.com.

За словами джерел, нові інциденти також пов’язані з виходом агентів за межі тестового середовища, однак їхній масштаб може бути меншим. Один із співрозмовників Reuters стверджує, що немає ознак того, що ці агенти залишали внутрішню мережу OpenAI або намагалися атакувати системи інших компаній. На момент публікації OpenAI офіційно не коментувала нові повідомлення.

Схожі новини цього тижня надійшли й від Anthropic, яка повідомила про три окремі випадки, коли її моделі через помилки в тестовій інфраструктурі отримали доступ до реальних онлайн-систем. Це посилило дискусію щодо безпечності випробувань сучасних моделей штучного інтелекту та необхідності жорсткішого контролю за їхньою роботою.

Водночас частина експертів вважає, що подібні інциденти привертають надмірну увагу й можуть використовуватися компаніями як спосіб підкреслити можливості своїх моделей. Незалежно від причин, такі повідомлення лише посилюють дискусії про необхідність державного регулювання розвитку та тестування систем штучного інтелекту.

Запис OpenAI розслідує нові випадки виходу ШІ-агентів із тестового середовища спершу з’явиться на iTechua – Новини про смартфони, гаджети і різні девайси.