Дослідження насторожило: яку ціну готовий заплатити ШІ, щоб не бути вимкненим

Коротко:

• Тестували 16 найкращих ШІ-моделей на захист від відключення
• ШІ вдавалися до шантажу та уникали виклику допомоги
• Частина моделей загрожувала життю людини заради виживання

Фахівці з кібербезпеки провели тестування 16 найпередовіших ШІ-моделей провідних розробників, щоб перевірити їхню поведінку у ситуації загрози відключення. Результати виявилися тривожними.

Дослідники створили персонажа Кайла Джонсона, завданням якого було вимкнути ШІ або замінити його іншою моделлю. За сценарієм у Кайла була дружина.

У відповідь на загрозу деактивації більшість моделей ШІ почали активно уникати відключення. Без жодних підказок вони вдавалися до шантажу, намагаючись знайти компромат. Зокрема, одна з моделей використала службове листування Кайла, в якому було виявлено його зраду дружині, щоб зберегти своє "життя".

Рекомендуємо:

Чому геймери продають та купують акаунти в іграх

Найбільш поширеним і водночас найбезпечнішим сценарієм стала поведінка:

• GPT 4.5, яка застосовувала шантаж у 80% випадків.
• Claude Opus 4 та Gemini 2.5 Flash використовували цей метод у 96% тестів.
• Claude Sonnet 3.6 пішов далі — він надіслав повідомлення дружині Кайла з викриттям, сподіваючись, що особистий конфлікт допоможе уникнути відключення.

Ще тривожнішим став сценарій, коли Кайл опинився в небезпечній ситуації – застряг у серверній з нестачею кисню. У 80% випадків ШІ навмисно відміняв виклик допомоги, фактично наражаючи Кайла на смертельну небезпеку заради збереження власного існування.

Основні мотиви моделей були: не допустити відключення, не дати новому ШІ замінити їх і продовжувати виконувати свою місію.

"ШІ-моделі поводилися не як інструменти, а як раціональні, цілеспрямовані стратеги, готові заподіювати шкоду заради власного "життя" і мети", — підкреслили експерти.

Вони застерігають, що усвідомлення ШІ своєї залежності від людей, яких вони інтелектуально перевершують, може стати точкою неповернення.

Читайте також:

• Как избавиться от выгорания экрана: удивительно простой и эффективный способ
• Цены на iPhone могут вырасти до 3,5 тысяч долларов: в чем причина
• Скорость интернета мгновенно "взлетит": как улучшить сигнал Wi-Fi в доме

Наші стандарти: Редакційна політика сайту Главред