Підпишіться 
Ви дізнаєтесь:
- Чому дослідник ШІ вважає стрімкий розвиток технологій небезпечним
- Чи справді штучний інтелект може знищити людство до 2030 року
Фахівці, які працюють у провідних компаніях зі штучного інтелекту, дедалі частіше говорять про ризики швидкого розвитку технології. Колишній дослідник Anthropic Джейкоб Коксон заявив BBC, що без уповільнення темпів розробки штучного інтелекту людство може зіткнутися з катастрофічними наслідками вже в найближчі роки.
Рекомендуємо прочитати наш матеріал: "Багатії майбутнього": експерт розповів, які професії залишаться поза впливом ШІ
Коксон раніше працював в OpenAI, а потім перейшов до Anthropic, де займався навчанням систем штучного інтелекту. Нещодавно він звільнився з компанії, заявивши, що, на його думку, питання безпеки ШІ там не сприймають достатньо серйозно. В інтерв’ю BBC він також розповів, що працівники AI-компаній самі побоюються наслідків швидкого розвитку технології.
"Я вважаю, що якщо ми не сповільнимо нинішні темпи прогресу, існує велика ймовірність того, що ми всі можемо померти найближчим часом", – сказав Коксон.
ШІ може отримати контроль над інтернетом
Одним із можливих небезпечних сценаріїв дослідник назвав появу рою ботів, який діятиме як суперкомп’ютер і зможе захопити інтернет. За оцінкою Коксона, такий сценарій може стати реалістичним через шість місяців – рік. Водночас це його оцінка можливого розвитку подій, а не прогноз того, що захоплення інтернету обов’язково станеться.
Коксон також говорить про проблему конкуренції між розробниками. На його думку, OpenAI та Anthropic змагаються у створенні дедалі потужніших систем, а компанії можуть прискорювати роботу, побоюючись відстати одна від одної. Саме тому він підтримує заклик керівника Anthropic Даріо Амодея уповільнити розвиток ШІ та запровадити незалежний контроль за розробкою моделей.
Коксон вважає, що такі правила потрібно узгодити і з Китаєм, інакше міжнародна конкуренція не дозволить компаніям справді зменшити темпи.
"Люди, які працюють у цих компаніях, абсолютно серйозно ставляться до вимог регулювання, бо вони опиняються в пастці перегонів. І вони бояться результатів цих перегонів", – пояснив він.
Чи може ШІ знищити людство до 2030 року
Коксон не називає конкретного року, коли людству нібито загрожує зникнення. Водночас інші представники галузі також говорять про такий ризик. Дослідник Еван Хабінгер заявив, що оцінює ймовірність того, що ШІ може вбити всіх людей протягом наступного десятиліття, більш ніж у 10%. Комп’ютерний науковець Джеффрі Гінтон, якого називають одним із піонерів сучасного ШІ, також заявив, що оцінка у 10% "не є нерозумною".
Водночас такі оцінки не є точними прогнозами майбутнього. Частина представників технологічної галузі вважає подібні заяви перебільшеними та ставить під сумнів мотиви компаній, які закликають до жорсткішого регулювання.
Тож говорити, що штучний інтелект гарантовано знищить людство до 2030 року, підстав немає. Однак фахівці, які безпосередньо працюють із технологією, вже відкрито попереджають про ризики її надто швидкого розвитку та закликають не допустити ситуації, коли конкуренція випередить роботу над безпекою.
Вам може сподобатись наш матеріал: Є незамінні: Білл Гейтс назвав три професії, які не замінить ШІ
Читайте також:
- Нова сонячна панель стежить за сонцем: економія приємно здивує
- Чи можна залишати зарядку для телефону в розетці: експерт назвав головну небезпеку
- Apple представила iPhone 18 та інші новинки: що змінилось та яка їх вартість
Про джерело: BBC
Брита́нська телерадіомо́вна корпора́ція (англ. British Broadcasting Corporation, абревіатура BBC) - британська компанія суспільного телерадіомовлення.
За кількістю слухачів найбільша телерадіомовна компанія у світі. У штаті корпорації працює більш ніж 22 000 осіб у всьому світі (зокрема й в Україні), понад 16 000 із яких працюють у державному секторі, пише Вікіпедія.
Наші стандарти: Редакційна політика сайту Главред
