OpenAI купила стартап Promptfoo для підвищення безпеки ШІ-систем
Час читання: < 1 хв.
Компанія OpenAI домовилася про придбання стартапу Promptfoo, що спеціалізується на розробці інструментів для тестування безпеки ШІ-систем на етапі їх розробки. За повідомленням Bloomberg, угода спрямована на зниження ризиків для клієнтів, які впроваджують програмне забезпечення на базі ШІ, та залучення великого бізнесу.
Сам стартап існує два роки, базується в Сан-Франциско і надає інструменти з відкритим вихідним кодом (Open Source) для тестування безпеки нейромереж, включаючи процедуру «червоної команди» (red-teaming), при якій фахівці імітують атаки на власні продукти в процесі їх розробки для виявлення слабких місць до того, як ними скористаються зловмисники. Клієнтами стартапу є приблизно 25% компаній зі списку Fortune 500.
Технології Promptfoo будуть інтегровані в корпоративну платформу OpenAI Frontier. Після інтеграції Frontier отримає можливості автоматизованого тестування, моніторингу змін і відстеження результатів перевірок на відповідність вимогам безпеки.
Керуючий директор венчурної компанії Insight Partners Ганеш Белл (Ganesh Bell), яка очолила раунд фінансування Promptfoo на суму $18,4 млн минулого року, зазначив, що «купівля свідчить про явну прихильність компанії OpenAI до створення корпоративного ШІ, який буде не тільки потужним, але й безпечним та надійним при масштабуванні». Фінансові умови угоди не розголошуються.
OpenAI продовжить розвивати відкритий вихідний код Promptfoo паралельно з комерційною інтеграцією і вже почала впроваджувати функції безпеки в свої продукти, представивши минулого тижня ШІ-агента для пошуку та усунення вразливостей у базах даних, аналогічного інструменту Anthropic PBC.
Запис OpenAI купила стартап Promptfoo для підвищення безпеки ШІ-систем спершу з’явиться на iTechua – Новини про смартфони, гаджети і різні девайси.
