Ви дізнаєтеся:
Джеффрі Ірвінг, дослідник безпеки штучного інтелекту та колишній головний науковий співробітник державного Інституту безпеки ШІ, оцінив ймовірність катастрофічного сценарію за участю надрозуму в 50%.
За його словами, головна проблема полягає в тому, що можливості ШІ розвиваються значно швидше, ніж технології та методи, що дозволяють контролювати їхню безпеку, пише Express.
«Я вважаю, що у нас є приблизно 50%-ний шанс, що всі загинуть внаслідок дії надінтелекту, головним чином через події, що відбудуться в найближчі кілька-десяток років. Я не очікую, що цей шанс знизиться нижче 10% або перевищить 90% до того, як ми або переживемо це, або ні. Нам доведеться діяти, незважаючи на невизначеність», - зазначив він.
Ірвінг пояснив, що 50% - це не результат точного прогнозу. Раніше він оцінював ризик у діапазоні від 10% до 90%, оскільки не вважав за можливе визначити ймовірність точніше.
«Що стосується 50%, то, незважаючи на багаторічні роздуми з цього приводу, я, як і раніше, вважаю, що існує величезна невизначеність моделі різного роду, і кілька років тому я дійшов висновку, що вона становить «10–90%, але я не відчуваю, що маю достатню впевненість у цьому діапазоні». Потім я зрозумів, що чесним рішенням було просто взяти середнє значення», - додав вчений.
Дослідник, який раніше працював у DeepMind, OpenAI та Google Brain, перейшов до державного інституту через побоювання, що питання безпеки не встигають за темпами розвитку ШІ.
«Мене турбує, що прогрес у сфері безпеки надто повільний порівняно з темпами розвитку штучного інтелекту».
При цьому Ірвінг вважає, що проблема полягає не стільки в намірах розробників, скільки в тиску конкуренції.
«Більшість співробітників і керівників лабораторій штучного інтелекту діють з найкращих спонукань, але ринкові сили постійно чинять тиск, змушуючи надавати пріоритет швидкості, а не обережності».
Сучасні системи ШІ вже вміють міркувати, програмувати, перекладати та виконувати складні багатоетапні завдання. У міру зростання їхніх можливостей питання про те, чи вдасться зберегти контроль над майбутнім надінтелектом, стає дедалі гострішим.
Білл Гейтс вважає, що зміна клімату здатна серйозно ускладнити життя людей, насамперед у найбільш вразливих і бідних державах. При цьому він не вважає кліматичну кризу загрозою, яка може призвести до зникнення людства.
Однак фахівці з глобальних ризиків дивляться на перспективи набагато тривожніше. На їхню думку, головні загрози цивілізації можуть виходити не від природних катастроф, а від самої людини. Особливе занепокоєння викликають стрімкий розвиток технологій та вдосконалення озброєння, наслідки застосування яких за певних обставин можуть виявитися неконтрольованими.
Читайте також:
Express.co.uk - це британський новинний вебсайт, пов’язаний із газетою Daily Express, яка є однією з найстаріших таблоїдних газет у Великій Британії. Сайт належить до медіакомпанії Reach PLC, яка також володіє іншими популярними виданнями, такими як Daily Mirror та Daily Star.