Дослідниця OpenAI звільнилася через запуск реклами в ChatGPT
Час читання: 2 хв.
Дослідник OpenAI Зої Хітціг (Zoë Hitzig) звільнилася з компанії того ж дня, коли стартувало тестування показу реклами в ChatGPT . Працюючи в компанії, вона допомагала у збиранні моделей ШІ та встановленні ціноутворення на них. OpenAI ризикує повторити помилки Facebook , зроблені десять років тому, попередила вона.
Особливо ризикованою витівкою з рекламою представляється в силу характеру даних на платформі ChatGPT. Користувачі діляться з чат-ботом медичною інформацією, проблемами у відносинах та релігійними переконаннями — найчастіше «бо люди вірять, що розмовляють із чимось, позбавленим прихованих мотивів», і в результаті чого платформа перетворилася на «безпрецедентний архів людської відвертості».
Щось подібне, на думку Хітціг, раніше було з Facebook — колись соцмережа обіцяла користувачам контроль над своїми даними та можливість голосувати за зміни до політики. Згодом ці обіцянки ослабли, а Федеральна торгова комісія (FTC) встановила, що зміни у політиці конфіденційності, з якими Facebook обіцяла людям більш повний контроль, насправді дали зворотний результат. Ось і з OpenAI колишня співробітниця компанії не виключила подібного, тому що “створює сильні стимули для порушення власних правил” .
На етапі тестування персоналізація реклами для користувачів за замовчуванням включена, йдеться в документації OpenAI. Якщо не торкатися цієї настройки, реклама буде підбиратися з урахуванням даних з поточних та минулих чатів, а також попередніх взаємодій з оголошеннями. У рекламодавців не буде доступу до листування користувачів з чат-ботом або їх персональних даних; реклама не показуватиметься в чатах, присвячених питанням здоров’я, релігії та політики.
У цьому Хітциг вже побачила внутрішню суперечність: з одного боку, компанія наполягає, що не намагається вплинути на активність користувачів виключно з метою отримати дохід від реклами — з іншого, оптимізує поведінку ШІ для щодня активних користувачів, роблячи її «улесливішою і улесливішою» . У результаті люди можуть залежати від ШІ; крім того, задокументовані випадки психозів, пов’язаних із ChatGPT, а в окремих випадках чат-бот потурав суїцидальним думкам – це опосередковано підтверджує безліч позовів до OpenAI.
Щоб протистояти загрозам, Хітціг запропонувала схеми субсидування споживачів із боку корпоративних клієнтів; формування незалежних порад із повноваженнями контролювати використання даних листування для таргетування реклами; а також трасти, що дозволяють користувачам зберігати контроль за своєю інформацією. Найбільш небезпечними наслідками експерт назвала «технологію, яка маніпулює людьми, які використовують її безкоштовно; і технологію, яка приносить користь виключно меншості, яка може собі її дозволити» .
Запис Дослідниця OpenAI звільнилася через запуск реклами в ChatGPT спершу з’явиться на iTechua – Новини про смартфони, гаджети і різні девайси.
