GPT-5 навчився розпізнавати суїцидальні думки і м’яко направляти до допомоги

Час читання: 2 хв.

OpenAI повідомила про масштабні поліпшення ChatGPT, спрямовані на більш точне розпізнавання ознак емоційної кризи та коректне реагування на них. Компанія працювала над оновленням разом з понад 170 психіатрами та психологами з 60 країн. За їхніми даними, кількість невідповідних або небезпечних відповідей моделі в таких розмовах знизилася на 65–80%.

Тепер ChatGPT краще розрізняє ситуації, пов’язані з психозом, манією, думками про самогубство або залежністю від спілкування з ШІ, і здатний м’яко перенаправляти користувачів до професійної допомоги. У моделі з’явилися вбудовані нагадування про необхідність робити паузи під час довгих сесій і посилання на реальні гарячі лінії підтримки. Оновлений алгоритм також уникає підтвердження марених або тривожних переконань і намагається відповідати з емпатією і спокоєм.

За результатами тестів за участю психіатрів, нова версія GPT-5 показала різке зростання якості відгуків у «складних» розмовах. На прикладах, пов’язаних із саморуйнівною поведінкою, модель стала відповідати коректно в 91% випадків проти 77% у GPT-4o, а при ознаках емоційної залежності від ChatGPT — у 97% випадків проти 50% раніше. Експерти відзначили, що оновлена версія краще утримує баланс між співчуттям і направленням до реальної допомоги.

У майбутньому OpenAI планує впровадити нові стандарти безпеки, що включають контроль не тільки за суїцидальними темами, але і за більш м’якими проявами емоційної напруги. Компанія має намір продовжувати співпрацю з клініцистами і розвивати власні методики оцінки поведінки моделей, щоб ChatGPT міг залишатися корисним і безпечним навіть у найчутливіших розмовах.

Запис GPT-5 навчився розпізнавати суїцидальні думки і м’яко направляти до допомоги спершу з’явиться на iTechua – Новини про смартфони, гаджети і різні девайси.