Google відмовилася виправляти вразливість у ШІ Gemini, попри попередження експертів

Час читання: < 1 хв.

Витік інформації вказує на те, що Google відмовилася усувати вразливість у нейромережі Gemini, виявлену дослідниками безпеки. Вразливість дозволяла зловмисникам маніпулювати висновком моделі, що могло призвести до витоку конфіденційної інформації або виконання небажаних дій. Незважаючи на попередження, Google вирішила не вносити зміни в модель, посилаючись на можливі негативні наслідки для продуктивності та функціональності Gemini.

Цей інцидент піднімає питання про безпеку та відповідальність розробників ШІ-систем, особливо в контексті їх використання в чутливих областях. Відмова від виправлення вразливості може поставити під загрозу довіру користувачів і викликати занепокоєння серед експертів з безпеки.

У відповідь на ситуацію дослідники закликали до більш суворого контролю за безпекою ШІ-систем і розробки стандартів для їх оцінки та сертифікації. Вони також підкреслили важливість прозорості в процесі розробки та впровадження таких технологій.

У майбутньому важливо, щоб компанії, що розробляють ШІ, враховували безпеку та етичні аспекти на всіх етапах життєвого циклу своїх продуктів, щоб мінімізувати ризики та забезпечити довіру користувачів.

Запис Google відмовилася виправляти вразливість у ШІ Gemini, попри попередження експертів спершу з’явиться на iTechua – Новини про смартфони, гаджети і різні девайси.