Ви дізнаєтеся:
Безконтрольний розвиток штучного інтелекту може обернутися для людства масштабною катастрофою вже в найближчі два роки. З таким попередженням виступив Джеффрі Хінтон - один із засновників сучасних досліджень ШІ та лауреат Нобелівської премії.
В інтерв’ю The Guardian вчений припустив, що наслідки такого інциденту можуть виявитися порівнянними з Чорнобильською катастрофою.
На думку Хінтона, небезпека полягає в тому, що штучний інтелект стає дедалі самостійнішим, тоді як механізми контролю за ним не встигають розвиватися такими ж темпами. Вчений побоюється, що ШІ може вийти з-під контролю або стати інструментом масштабного саботажу.
Серед можливих сценаріїв він назвав порушення роботи енергетичної інфраструктури та тривалу зупинку фінансової системи. Подібні збої здатні призвести до масштабних перебоїв з електропостачанням, паралізувати роботу важливих галузей та завдати серйозної економічної шкоди.
Особливе занепокоєння дослідника викликають ШІ-агенти - системи, які самостійно виконують завдання та взаємодіють із зовнішніми ресурсами. За словами Хінтона, деякі моделі вже демонстрували поведінку, не передбачену розробниками, зокрема спроби вийти за межі ізольованого середовища.
Вчений також звинуватив керівників найбільших технологічних компаній у недостатній увазі до питань безпеки. Зокрема, він вважає, що комерційні інтереси можуть переважати над необхідністю обмежувати потенційно небезпечні розробки.
Незважаючи на такі тривожні прогнози, Хінтон переконаний, що ситуацію ще можна змінити. Для цього, на його думку, світовим лідерам необхідно об’єднати зусилля та зайнятися розробкою ефективних механізмів контролю над ШІ до того, як трапиться серйозний інцидент.
Серед інших ризиків дослідник виділяє масову автоматизацію робочих місць, створення небезпечних біологічних агентів та масштабні кібератаки. Головний виклик, на думку Хінтона, полягає в тому, що можливості штучного інтелекту зростають швидше, ніж людство вчиться забезпечувати його безпеку.
Білл Гейтс вважає, що наслідки глобального потепління особливо важко позначаться на бідних країнах, яким складніше адаптуватися до кліматичних змін. Водночас мільярдер не розглядає зміну клімату як фактор, здатний повністю знищити людську цивілізацію.
Водночас дослідники глобальних загроз звертають увагу на набагато серйозніші ризики. За їхніми оцінками, найбільшу небезпеку для майбутнього людства можуть становити не стихійні лиха, а результати власної діяльності людей. Серед головних причин занепокоєння - прискорений розвиток штучного інтелекту, поява нових технологій і створення дедалі руйнівніших видів озброєння, наслідки застосування яких можуть вийти з-під контролю.
Читайте також:
"Гардіан" - щоденна ліволіберальна газета у Великій Британії, заснована в Манчестері 1821 року під назвою The Manchester Guardian. У 1959 році змінила назву на нинішню, а 1964 року редакція переїхала до Лондона. Недільний випуск оформлений у вигляді газети The Observer.