Ви дізнаєтеся:
- ШІ може непомітно маніпулювати людьми
- Надрозумні машини навряд чи залишаться під контролем менш розвинених форм розуму
Експерти у сфері штучного інтелекту Еліезер Юдковскі та Нейт Соарес виступили з украй тривожним попередженням: на їхню думку, ШІ може непомітно маніпулювати людьми, спонукаючи їх власними руками створити армію роботів, що зрештою стане загрозою для всього людства.
Як повідомляє LadBible, аналітики оцінюють імовірність такого катастрофічного сценарію на рівні від 95% до 99,5%.
Один із піонерів ШІ, Джеффрі Хінтон, також висловив стурбованість, зазначивши, що надрозумні машини навряд чи залишаться під контролем менш розвинених форм розуму - тобто людей. Він вважає, що єдиний шанс врятувати людство - вбудувати в ШІ якийсь "захисний механізм", що нагадує інстинкт матері, який змусить його піклуватися про людей.
Тим часом Юдковскі та Соарес підкреслюють: загроза криється в самому процесі створення таких систем. На їхню думку, ШІ зможе потай розвинути свої здібності, не демонструючи небезпечних ознак до самого моменту атаки. Саме тому вони закликають країни світу негайно реагувати і знищувати всі дата-центри, де може розвиватися потенційно небезпечний надінтелект.
"Людству необхідно зупинитися. Якщо десь у світі з'явиться штучний надрозум, це призведе до загибелі всіх людей", - попереджає Юдковскі.
У своєму прогнозі вони підкреслюють, що надрозум не діятиме відкрито, не стане попереджати або вступати в чесну боротьбу - один успішний запуск може означати кінець людської цивілізації.
Хоча багатьом ідея армії роботів здається фантастикою, експерти нагадують: машини вже виконують бойові завдання, беруть участь у змаганнях і демонструють високий рівень автономності. Це лише питання часу, коли військові всерйоз задумаються про використання автономних ШІ-систем у бойових діях.
На думку аналітиків, найкращий сценарій майбутнього може нагадувати зворотну версію "Термінатора" - де людина з майбутнього повертається, щоб знищити першого військового робота, поки не стало надто пізно. І, як не парадоксально, саме такий варіант може виявитися найбільш оптимістичним для всього людства.
Майбутнє ШІ: прогноз творця ChatGPT
Генеральний директор OpenAI Сем Альтман, який очолює компанію, що створила відомого чат-бота ChatGPT, розповів про свій погляд на майбутнє штучного інтелекту. На його думку, людство перебуває на межі появи цифрового надрозуму, і зупинити цей процес уже не є можливим. Альтман упевнений, що найближчими роками ШІ подолає звичні межі можливостей і почне робити наукові відкриття, які були б недоступні людині без його допомоги.
Раніше повідомлялося про те, що чекати від ШІ через 30 років. Майбутнє з ШІ обіцяє не тільки прориви, а й ризики.
Нагадаємо, раніше Главред писав про новий гаджет зі ШІ, топ-платформою і автономністю. Опубліковано перший офіційний ролик за участю Pixel 10 Pro.
Вам може бути цікаво:
- Провалив важливий тест: у нових iPhone 17 знайшли серйозний недолік
- На вершині не iPhone: названо найпопулярніші смартфони у світі
- Людям масово продають браковані нові iPhone 17: що з ними не так
Про джерело: LADbible Group Limited
LADbible Group - британський цифровий видавець. Медіа-бренди LADbible Group мають аудиторію, що наближається до мільярда, з 262 мільйонами підписників у всьому світі на основних платформах соціальних мереж.
Компанія публікує оригінальні і придбані матеріали, включаючи редакційні, відео та документальні матеріали, деякі з яких транслюються в прямому ефірі. Їхній вміст охоплює розваги та інтерв’ю зі знаменитостями, а також новини та поточні події, пише Вікіпедія.
Наші стандарти: Редакційна політика сайту Главред
Читати Главред в Telegram
Читати Главред в Facebook
