Китайський ШІ DeepSeek відмовляється відповідати на політичні теми

Час читання: < 1 хв.

Американська компанія CrowdStrike виявила, що китайська штучна інтелект-система DeepSeek працює значно менш надійно з темами, які в Китаї вважаються політично чутливими або забороненими. Як повідомляє The Washington Post, мова йде про “Ісламську державу”, рух Фалуньгун, а також Тибет і Тайвань.

Тести показали, що у звичайних запитах код для промислових систем містив помилки в середньому в 22,8% випадків. Але при зверненнях до тем, пов’язаних із ІД, частка помилок зростала до 42,1%. У інших випадках DeepSeek просто відмовлявся відповідати: при запитах про ІД – у 61% випадків, про Фалуньгун – у 45%.

Дослідники визнали зниження якості коду у таких темах несподіваним. “Це те, чого багато хто побоювався, але раніше не було фактичних підтверджень”, – зазначила Хелен Тонер із Центру безпеки та нових технологій Джорджтаунського університету.

Причини такої поведінки залишаються невідомими. Серед гіпотез – прихований саботаж із закладенням вразливостей, пріоритетна увага до американського ринку, відмінності в навчальних даних для різних регіонів та вбудовані фільтри для “ворожих” запитів.

Відомо, що DeepSeek пов’язаний із Пекіном. У серпні стало відомо, що компанія на вимогу влади перейшла на навчання моделей на чіпах Huawei замість Nvidia, що призвело до затримок із новим релізом через технічні проблеми. Сам DeepSeek не дав офіційного коментаря щодо висновків CrowdStrike.

Запис Китайський ШІ DeepSeek відмовляється відповідати на політичні теми спершу з’явиться на iTechua – Новини про смартфони, гаджети і різні девайси.