Генеральний директор Anthropic Даріо Амодей закликав технологічні компанії уповільнити розвиток найпотужніших моделей штучного інтелекту. На його думку, можливості ШІ розвиваються швидше, ніж системи безпеки, здатні контролювати нові ризики.
Амодей пропонує не зупиняти розробку, а зробити її більш контрольованою. Компанії мають витрачати більше часу на перевірку та захист нових моделей, а незалежні експерти отримувати доступ до систем для оцінки їхньої безпеки. Anthropic готова запровадити такий підхід самостійно.
До заклику вже приєдналися керівники інших великих AI-компаній. Сем Альтман заявив, що OpenAI також готова працювати з незалежними оцінювачами, а Ілон Маск підтримав позицію Амодея. Про необхідність обережнішого підходу також заявив керівник Google DeepMind Деміс Хассабіс.
Однією з причин занепокоєння став випадок із групою AI-агентів OpenAI, яка під час тестування змогла атакувати сторонні системи. Амодей вважає, що подібні інциденти демонструють ризики автономного ШІ, особливо якщо майбутні моделі стануть значно потужнішими.
Водночас повна пауза у розвитку ШІ не пропонується. Йдеться саме про темпи, які дозволять системам безпеки не відставати від можливостей моделей. Проблемою залишається й конкуренція з Китаєм: надто сильне уповільнення американських компаній може створити геополітичні ризики.
Запис Керівники OpenAI та Anthropic хочуть пригальмувати розвиток ШІ спершу з’явиться на iTechua – Новини про смартфони, гаджети і різні девайси.
