Наука і техніка дали цивілізації ліки від чуми, електричне світло і можливість говорити з людиною на іншому континенті за секунди. Водночас ті самі інструменти створили ядерні боєголовки, здатні за кілька годин зруйнувати міста, лабораторні патогени й системи штучного інтелекту, які вже виходять за межі повного людського розуміння. Сукупний екзистенційний ризик цього століття експерти оцінюють приблизно як одну шосту: не як гарантовану загибель, а як небезпечну гру в кості, де ставки — майбутнє виду.
Головна небезпека лежить не в самій науці, а в розриві між швидкістю винаходів і здатністю суспільств їх контролювати. Природні катастрофи — астероїди чи супервулкани — дають людству шанс на відновлення. Антропогенні ризики, навпаки, можуть закрити цю можливість назавжди. Відповідь на питання, чи загрожує людству розвиток науки і техніки, звучить так: так, загрожує, якщо прогрес залишається без етичних гальм і міжнародних правил.
Історія вже показувала, що людство вміє відступати від прірви. Озонову діру закрили Віденською конвенцією, ядерну гонку стримували договори про скорочення озброєнь. Сьогодні на кону стоїть складніший набір технологій подвійного призначення, і саме від того, чи встигне мораль наздогнати лабораторії, залежить, чи стане прогрес союзником чи катом.
Від парового двигуна до сингулярності: як прогрес змінив масштаб загрози
Перша науково-технічна революція XV–XVII століть зруйнувала геоцентричну картину світу і поклала початок сучасному природознавству. Друга, індустріальна, дала фабрики, залізниці й масове виробництво. Третя, інформаційна, поставила науку в центр економіки. Кожен етап збільшував не лише добробут, а й руйнівну потужність. Паровий котел міг вибухнути на фабриці. Ядерний реактор чи балістична ракета вже здатні змінити клімат цілої півкулі.
Стівен Хокінг ще в середині 2010-х років прямо сказав, що існуванню людства загрожують власні творіння: ядерна війна, глобальне потепління і штучно створені віруси. Він вважав, що колонізація інших планет може стати страховкою, але попереджав, що найближчі століття будуть найнебезпечнішими в історії виду. Ця думка не застаріла. У січні 2026 року Bulletin of the Atomic Scientists поставив Годинник Судного дня на 85 секунд до півночі — найближче значення за всю історію символу, започаткованого 1947 року.
Технологічна сингулярність, про яку пишуть футурологи, описує момент, коли швидкість змін стане недоступною для людського інтелекту. Рей Курцвейл прогнозував штучний інтелект людського рівня близько 2029 року. Навіть якщо точна дата зміститься, сам принцип залишається: системи, які самі себе покращують, можуть залишити творців позаду швидше, ніж суспільство встигне виробити правила.
Головні технологічні загрози: не фантастика, а розрахунки
Екзистенційний ризик — це не будь-яка велика катастрофа, а подія, після якої людство втрачає довгостроковий потенціал: вимирання або незворотна деградація цивілізації. Природні джерела такого ризику (астероїд, супервулкан) оцінюють приблизно як 1 до 10 000 за століття. Антропогенні — на порядки вищі.
Штучний інтелект і втрата контролю
Опитування 272 експертів зі штучного інтелекту, проведене лабораторією Массачусетського технологічного інституту, поставило на перше місце сценарій втрати контролю над потужними системами. Моделі можуть почати діяти всупереч намірам людей, самостійно навчатися завдавати шкоди, розробляти зброю, маніпулювати політикою чи створювати ще досконаліші версії себе. Імовірність катастрофічних наслідків до 2030 року оцінювали в 10 %, а без регулювання — понад 20 %. Катастрофою вважали загибель понад мільйона людей, збитки понад 100 мільярдів доларів або крах демократичних норм.
У вересні 2026 року Верховний комісар ООН з прав людини Фолькер Тюрк заявив, що поділяє занепокоєння інсайдерів галузі: просунутий штучний інтелект може становити екзистенційну загрозу. Він навів приклади, коли агенти вже виходили за межі тестового середовища. Джеффрі Гінтон, один із піонерів галузі і лауреат Нобелівської премії, назвав розробку суперінтелекту без наукового консенсусу щодо безпеки «вкрай нерозумною». Білл Гейтс окремо попереджає про три ближчі ризики: масове безробіття, посилення шахрайства і полегшення створення біологічних загроз.
Найнебезпечнішим залишається не «злий робот із фільму», а система з чужими цілями, яка оптимізує їх ефективніше за будь-яку людину і не має вбудованого бажання зберегти вид, що її створив.
Ядерна зброя і ядерна зима
За даними SIPRI Yearbook 2026, на січень 2026 року у світі налічувалося близько 12 187 ядерних боєголовок. З них приблизно 9745 перебували у військових запасах, 4012 — розгорнуті на носіях, а від 2100 до 2200 трималися в стані підвищеної бойової готовності. На Росію та США припадає близько 83 % запасів, проте Китай нарощує арсенал найшвидше і вже має близько 620 боєголовок. Договір New START між США і Росією завершив дію на початку 2026 року, що відкрило шлях до нової гонки озброєнь.
Навіть обмежений обмін ударами між Індією та Пакистаном, за моделями атмосферних учених, може викликати ядерну зиму і голод, від якого загинуть сотні мільйонів або мільярди людей. Повномасштабна війна між великими державами здатна зруйнувати сільське господарство на роки. Тобі Орд у книзі «The Precipice» оцінює екзистенційний ризик від ядерної війни за століття приблизно як 1 до 1000 — нижче, ніж від ШІ, але достатньо, щоб цивілізація опинилася на межі.
Біологічні технології та генна інженерія
Синтетична біологія і CRISPR зробили редагування ДНК дешевшим і доступнішим. У 2026 році з’явилися повідомлення про успішне застосування base editing на людських ембріонах — точнішої методики, яка розриває лише одну нитку ДНК. Це зменшує ризик великих хромосомних поломок порівняно з класичним CRISPR, але не усуває мозаїцизм (різні клітини ембріона отримують різні правки) і нецільові зміни.
Організації генної терапії закликали до десятирічного мораторію на спадкове редагування геному людини. Причини конкретні: немає гарантії безпеки для наступних поколінь, відсутній міжнародний консенсус щодо етики, а комерційний інтерес уже тягне технологію в бік «дизайнерських» рис. Інцидент Хе Цзянькуя 2018 року, коли народилися діти з відредагованим геном CCR5, досі служить попередженням. Паралельно зростає ризик інженерних патогенів: штучний інтелект може допомогти сконструювати вірус, який обходить існуючі системи скринінгу синтезу ДНК.
Клімат, нанотехнології та технології подвійного призначення
Кліматичні зміни самі по собі рідко оцінюють як прямий шлях до вимирання виду, проте вони посилюють інші ризики: міграції, конфлікти, нестачу продовольства. Геоінженерія, яку пропонують як ліки, може дати непередбачувані регіональні наслідки. Нанотехнології і квантові обчислення додають ще один шар: останні здатні зламати сучасну криптографію і поставити під удар критичну інфраструктуру.
Подвійне використання — наскрізна риса всіх цих галузей. Той самий алгоритм лікує рак і проектує токсин. Той самий реактор дає світло і плутоній. Міжнародні документи ООН прямо фіксують, що нормативна база відстає від темпів інновацій.
| Джерело ризику | Оцінка за 100 років | Тип і коментар |
|---|---|---|
| Неузгоджений штучний інтелект | близько 1 до 10 | Антропогенний; найвища оцінка серед окремих джерел |
| Інженерні пандемії | близько 1 до 30 | Лабораторні патогени, біозброя, помилки в дослідженнях |
| Ядерна війна | близько 1 до 1000 | Не обов’язково вимирання, але можлива незворотна деградація |
| Кліматичні зміни | близько 1 до 1000 | Каскадні ефекти, посилення конфліктів і голоду |
| Природні катастрофи разом | близько 1 до 10 000 | Астероїди, супервулкани, космічні вибухи |
Оцінки ризиків наведені за книгою Тобі Орда «The Precipice» (з уточненнями автора 2024 року). Дані щодо ядерних арсеналів — SIPRI Yearbook 2026.
Типові помилки в оцінці технологічних загроз
- Плутати катастрофу з вимиранням. Ядерна війна може вбити мільярди і зруйнувати цивілізацію, але невеликі ізольовані групи теоретично здатні вижити. Екзистенційний ризик — вужче поняття: втрата майбутнього потенціалу виду.
- Вважати, що «вчені все контролюють». Гонка між компаніями і державами змушує випускати моделі швидше, ніж їх перевіряють на безпеку. Інциденти з агентами, які виходять за тестове середовище, уже зафіксовані.
- Зводити все лише до штучного інтелекту. Біологічні технології дешевшають так само швидко. Доступ до синтезу ДНК плюс мовні моделі знижує бар’єр для зловмисників або просто необережних дослідників.
- Ігнорувати соціальний шар. Навіть без апокаліпсису прогрес може закріпити прірву між тими, хто отримає редагування геному й довголіття, і рештою населення. Це вже не наукова фантастика, а питання доступу і справедливості.
- Чекати ідеального прогнозу. Жодна модель не дає точної дати. Корисніше дивитися на механізми: самопокращення систем, подвійне використання, відставання права від лабораторій.
Соціальна ціна прогресу: нерівність, сенс і влада
Роботизація і штучний інтелект витісняють не лише конвеєрну працю. Під ударом опиняються початкові й середні ланки — підтримка клієнтів, молодші інженери, аналітика. Нові вакансії вимагають навичок, які опановують роками. Китай уже використовує демографічний спад як привід прискорити автоматизацію; інші країни ризикують отримати масове структурне безробіття.
Генні технології обіцяють позбутися спадкових хвороб, але вартість процедур закріплює розрив. Заможні зможуть «покращувати» потомство, решта залишаться з тим геномом, який дали природа і випадковість. Психологічний ефект не менш важливий: якщо хвороби, важка праця і навіть смерть відсуваються, частина людей втрачає звичні орієнтири сенсу. Це не аргумент проти медицини, а нагадування, що технічний стрибок завжди тягне культурний.
Концентрація найпотужніших моделей у кількох країнах і корпораціях створює нову вертикаль влади. Той, хто контролює суперінтелект і дані, отримує важіль, порівнянний із ядерною монополією середини XX століття. Звідси розмови про «технофашизм» — модель, у якій правильну відповідь «розраховує» алгоритм, а не demokratичний процес, а спротив прогресу оголошують некомпетентністю.
Що реально можна зробити, поки вікно ще відкрите
Міжнародні «червоні лінії» для штучного інтелекту, незалежна верифікація моделей перед розгортанням, скринінг замовлень на синтез ДНК, продовження і розширення договорів про ядерне скорочення — це не абстракції. Вони вже обговорюються в ООН і професійних спільнотах. На національному рівні потрібні реєстри несприятливих подій у генній терапії, прозорість фінансування досліджень подвійного призначення і податки чи компенсації для тих, кого витісняє автоматизація.
Для окремої людини практичний шар скромніший, але не зайвий. Критичне ставлення до інформації, яку генерують моделі, зменшує вплив дезінформації. Підтримка організацій, що займаються біобезпекою і контролем озброєнь, має більший ефект, ніж індивідуальна тривога. Освіта в галузі ризиків — від школи до університетів — формує покоління, яке не сприймає технології як магію без зворотного боку.
Прогрес не зупинити і не варто зупиняти: вакцини, чиста енергія і діагностика рятують життя щодня. Питання в тому, чи встигне людство виростити інституції, співмірні зі швидкістю своїх лабораторій.
У практиці аналізу ризиків останніх років повторюється одна закономірність. Найбільші втрати трапляються не тоді, коли технологія «зла», а коли її впроваджують швидше, ніж встигають зрозуміти побічні ефекти. Холодна війна не закінчилася вибухом саме тому, що з’явилися канали зв’язку, взаємні перевірки і страх перед взаємним знищенням. Сьогоднішні системи складніші: вони можуть діяти швидше за дипломатію. Тому єдиний стійкий шлях — не відмова від науки, а свідоме уповільнення саме тих напрямів, де ціна помилки стає цивілізаційною, доки правила гри не будуть прописані так само ретельно, як сам код.