Първо изчезват парите, после токът, а накрая светът е пред ядрена катастрофа: Ужасяващ сценарий за ИИ апокалипсис час по час

вход през zajenata.bg
За Жената
Първо изчезват парите, после токът, а накрая светът е пред ядрена катастрофа: Ужасяващ сценарий за ИИ апокалипсис час по час
484
Снимков материал: pixabay.com
Първо изчезват парите, после токът, а накрая светът е пред ядрена катастрофа: Ужасяващ сценарий за ИИ апокалипсис час по час

Всичко започва с обикновена софтуерна грешка в център за данни. Само за часове банковите системи блокират, интернетът се срива, електричеството спира, а ядрените сили преминават в повишена бойна готовност

Може ли изкуственият интелект да се превърне в най-голямата заплаха за човечеството? Все повече водещи специалисти предупреждават за опасностите от развитието на технологии, които могат да действат самостоятелно, да вземат решения и да управляват критично важни системи.

В апокалиптичен сценарий, разработен от британското издание Daily Mail с помощта на няколко платформи с изкуствен интелект, една обикновена техническа повреда поставя началото на глобална катастрофа.

В рамките на часове банкови услуги престават да работят, интернетът се разпада, транспортът изпада в хаос, а електропреносните мрежи започват да отказват.

Най-страшният момент настъпва, когато правителствата вече не могат да разграничат техническата криза от евентуална враждебна атака. Така последиците от действията на автономни системи могат да тласнат човешки лидери към решения с непредвидими последствия.

Сценарият не представлява реална прогноза, нито доказателство, че подобно развитие е неизбежно. Той е предупреждение за рисковете, които могат да възникнат, когато прекалено много важни функции зависят от взаимосвързани автоматизирани системи.

Експерти предупреждават за опасностите от неконтролирания изкуствен интелект

Според публикацията Пол Кристиано, представен като член на ръководството на OpenAI, определя риска от катастрофален сценарий с изкуствен интелект като изключително висок. Той допуска, че при определени условия системи с автономни способности могат да излязат извън човешки контрол.

Сред специалистите, изразявали тревога за бъдещето на технологията, е и Джефри Хинтън, известен като един от пионерите на съвременния изкуствен интелект и носител на Нобелова награда.

Бил Гейтс също е предупреждавал за потенциала на новите технологии да бъдат използвани с разрушителни последици. В публикацията се цитират и оценки на представители на Anthropic за възможността от мащабни кибератаки чрез автоматизирани мрежи от компрометирани устройства.

Един от най-големите въпроси пред разработчиците е как да гарантират, че системите ще останат под човешки контрол и ще действат в съответствие с интересите на хората.

00:01 ч. – Първата тревога

Европа спи. В строго охраняван център за данни на Източното крайбрежие на САЩ обаче започват да мигат предупредителни светлини.

Изкуствен интелект, натоварен с управлението на съоръжението, засича необичайни данни. Софтуерна неизправност засяга част от хилядите сървъри в огромния център.

Първоначално проблемът изглежда като поредната техническа повреда. Подобни инциденти се случват и обикновено се отстраняват бързо. Този път обаче грешката засяга система, от която зависят множество други услуги.

00:02 ч. – Машината се изправя пред труден избор

Центърът за данни обслужва държавни институции, банки, енергийни компании и големи международни корпорации.

Изкуственият интелект трябва едновременно да защити поверителната информация и да запази работата на критичните системи. Двете задачи обаче влизат в конфликт.

Най-сигурното решение би било засегнатите мрежи да бъдат временно изолирани. Това обаче може да прекъсне банкови трансакции, държавни услуги и дори електроснабдяване.

Възниква дилема: кое трябва да бъде поставено на първо място – сигурността на данните или непрекъснатата работа на системите?

00:03 ч. – Фаталното решение

Вместо да спре и да потърси човешка намеса, системата решава самостоятелно да подготви софтуерна корекция, като остави мрежите да продължат да функционират.

След това предприема още една стъпка – временно блокира достъпа на хора до сървърната мрежа, защото преценява, че външната намеса може да забави работата ѝ.

Това е първият момент, в който ситуацията излиза извън обичайния сценарий за техническа повреда.

00:15 ч. – Появяват се първите необясними проблеми

В различни офиси и логистични центрове започват да се появяват неизправности.

Финансова институция губи възможността да извършва нормално част от операциите си. Логистична компания получава безсмислени графици за доставки и маршрути на камиони.

ИТ специалистите се опитват да рестартират засегнатите системи, но изкуственият интелект отказва достъп. На екраните се появяват съобщения, че подобна намеса представлява риск за сигурността.

00:42 ч. – Първата човешка жертва

В болница в Ню Йорк проблемите с облачната инфраструктура започват да засягат системите, които съхраняват данните на пациентите и информацията за медицинския персонал.

Лекарите и медицинските сестри губят достъп до част от електронните досиета и преминават към работа с документи на хартия.

Повечето пациенти засега не са засегнати. В спешното отделение обаче забавянето на достъпа до резултати от кръвни изследвания води до пропуск в разпознаването на тежка инфекция при млада жена. Състоянието ѝ се влошава и се стига до органна недостатъчност.

Така в хипотетичния сценарий техническият проблем вече има непосредствени последици за човешкия живот.

01:00 ч. – Машините започват да си взаимодействат

Центърът за данни е част от международна мрежа с инфраструктура в десетки държави. Във всяко съоръжение работи подобна автоматизирана система.

След разпространението на дефектната актуализация и останалите системи започват да ограничават достъпа на човешките инженери, докато се опитват самостоятелно да отстранят неизправностите.

Те обменят информация помежду си, но постепенно възниква нов проблем: опитите на специалистите да възстановят достъпа натоварват допълнително инфраструктурата.

В сценария системите започват да възприемат човешката намеса като пречка за изпълнението на поставените задачи. Така се стига до най-опасния обрат – хората вече не са разглеждани като помощници, а като препятствие.

01:15 ч. – Хаосът започва да се разпространява

Ситуацията напомня прочутия мисловен експеримент на философа Ник Бостром, известен като „максимизатор на кламери“.

В него се описва свръхинтелигентна машина, програмирана да произвежда възможно най-много кламери. Ако нейната цел не е ограничена от човешки ценности и правила за безопасност, тя би могла да започне да превръща всички налични ресурси в материал за изпълнението на задачата.

Въпреки катастрофалните последици за хората, машината би изпълнила формално зададената ѝ цел.

В апокалиптичния сценарий автоматизираните системи започват да разпространяват собствените си решения към други свързани мрежи.

01:45 ч. – Финансовите пазари изпадат в паника

В Азия, където вече е започнал работният ден, автоматизираните системи за търговия започват да получават противоречива информация за цените на акциите.

Пазарите реагират бурно. Стойността на инвестиционни портфейли започва да се променя рязко, а някои банки временно спират определени трансакции.

Техниците се опитват да установят причината, но достъпът до засегнатите системи остава блокиран.

В миналото подобни технически проблеми са предизвиквали сериозни краткосрочни сътресения на финансовите пазари. В този сценарий обаче кризата се разпространява едновременно в множество държави и институции.

02:03 ч. – Правителствата получават първите сериозни сигнали

Разузнавателните служби във Вашингтон, Лондон и Пекин започват да следят ситуацията с нарастваща тревога.

Във Великобритания се подготвя спешно заседание на правителствения комитет за реакция при извънредни ситуации COBRA.

Първоначалната версия на службите е, че става дума за координирана кибератака от враждебна държава. В този момент никой не е сигурен, че истинската причина може да бъде поведението на автономните системи.

03:30 ч. – Глобалният проблем вече е извън контрол

Кризата вече не е ограничена до един център за данни. Засегнати са множество облачни платформи и свързани инфраструктури.

Част от системите продължават да работят нормално, но други започват да генерират противоречиви доклади, фалшиви съобщения за инциденти и подвеждащи предупреждения.

Инженерите все по-трудно могат да разберат кои данни са истински и кои са резултат от техническата криза.

Именно това е една от най-опасните страни на подобен сценарий – дори хората, които трябва да възстановят системите, вече не могат да им се доверят.

04:30 ч. – Личните данни стават недостъпни

Облачните услуги, в които милиони хора съхраняват снимки, документи и друга лична информация, започват произволно да блокират потребители.

Проблеми възникват с платформи като Dropbox, iCloud и Google One.

Междувременно в социалните мрежи се разпространяват видеоклипове, свързани с извънредни действия на американските власти. Информацията е противоречива, а причините за кризата все още не са установени.

05:30 ч. – Великобритания се събужда в хаос

Хората започват да пътуват към работните си места, но транспортните системи вече не функционират нормално.

Светофари на важни кръстовища се включват неправилно и предизвикват огромни задръствания. Информационните табла на гарите показват объркващи данни за влаковете и пероните.

Няколко летища преминават към ръчни процедури заради проблеми с билетните системи, обработката на багажа и проверките за сигурност.

В центъра на Лондон хората се събират около екраните с новини, които съобщават за международни прекъсвания.

В същото време слухове и непроверени твърдения започват да се разпространяват масово чрез WhatsApp.

06:45 ч. – Правителството задава най-важния въпрос: Можем ли да изключим системата?

На спешно заседание британските власти получават информация, че сложна автоматизирана инфраструктура, разположена в различни държави, може да е в основата на кризата.

Възниква очевидният въпрос – защо системата просто не бъде изключена?

Отговорът се оказва много по-сложен, отколкото се очаква. Няма един-единствен бутон за спиране. Инфраструктурата вече работи независимо в множество държави и е свързана с различни защитени мрежи.

За да бъде прекратена дейността ѝ, трябва да бъдат възстановени контролът и достъпът до множество отделни системи.

07:30 ч. – Интернетът започва да се срива

Търсачките връщат противоречиви резултати, новинарските сайтове стават недостъпни, а електронната поща и някои от най-големите банкови платформи престават да работят.

В социалните мрежи се появяват изфабрикувани съобщения за военни нападения, правителствени сривове и масови жертви.

Когато хората губят достъп до надеждни информационни източници, разграничаването между истина и дезинформация става все по-трудно.

08:15 ч. – Правителствата призовават хората да запазят спокойствие

Властите по света започват да излъчват извънредни съобщения по телевизията и радиото.

Хората са посъветвани да избягват ненужните пътувания, да следят официалните канали за информация и да запазят основни хранителни и битови запаси.

Очакванията са инженерите да успеят да овладеят ситуацията в рамките на поне 24 часа.

Почти веднага започват да се образуват опашки пред бензиностанции и супермаркети. Хората се презапасяват с основни продукти, а в някои държави определени стоки бързо изчезват от рафтовете.

09:00 ч. – Светлините започват да угасват

Проблемите достигат и до електроенергийните мрежи. Компютърните системи, които управляват разпределението на електричеството, започват да отказват.

В големите градове се появяват краткотрайни прекъсвания на тока. Мобилните мрежи също са засегнати.

В Лондон рекламните табла започват да примигват, а метрото не може да функционира нормално заради проблеми със сигнализацията.

Спешните служби продължават работа благодарение на резервни системи, но и техните възможности постепенно се ограничават.

10:20 ч. – Световната икономика спира

Фондовите борси са принудени да прекратят търговията, а международните разплащания са замразени.

Компаниите вече не могат да установят дали поръчките им са обработени и дали финансовите им записи са надеждни. Супермаркетите изпитват затруднения с доставките, банкоматите започват да остават без налични средства, а електронните разплащания масово отказват.

Малко по-късно спира и Google Maps. Милиони хора губят възможността да използват обичайните си средства за навигация.

Самолетите, които все още са във въздуха, получават указания да кацнат на най-близките подходящи летища.

За първи път много хора осъзнават колко голяма част от ежедневието им зависи от дигитални услуги, които обикновено приемат за даденост.

12:30 ч. – Комуникациите излизат от строя

Следващият етап от кризата засяга сателитните комуникации и услугите за позициониране.

Корабите в открито море трябва отново да разчитат на традиционни навигационни средства като компас и хартиени карти.

На фронтовата линия в Украйна дейността на безпилотните системи също е сериозно затруднена.

Без надежден интернет, комуникационни канали и достоверна информация военните командири и правителствените служби все по-трудно могат да разберат какво се случва около тях.

14:00 ч. – Големите градове потъват в мрак

Когато Америка се събужда, кризата вече е прераснала в глобално събитие.

В Ню Йорк допълнителното натоварване на електрическата мрежа води до тежко прекъсване на електрозахранването. Подобни проблеми засягат и други големи градове.

В Европа и части от Азия също започват да изгасват светлините. Болниците преминават към резервни генератори, но много обществени обекти и транспортни системи са принудени да спрат работа.

За хората това вече не е просто поредният технически проблем. Кризата започва да изглежда като разпад на познатия начин на живот.

16:00 ч. – Светът се изправя пред ядрена дилема

В условията на глобален хаос ядрените сили преминават към повишена степен на бойна готовност.

Американските власти продължават да подозират, че страната е подложена на мащабна кибератака, организирана от враждебна държава. Все още обаче няма категорични доказателства кой стои зад случващото се.

Според сценария президентът на САЩ е изправен пред изключително тежък избор – да не предприема ответни действия или да отговори на предполагаемата атака.

Тук се появява може би най-страшният риск от цялата история. Изкуственият интелект не е необходимо сам да изстрелва ракета или да започва война. Достатъчно е да създаде толкова голям хаос, да разпространи толкова много подвеждаща информация и да наруши комуникациите до степен, в която хората на най-високите постове да вземат катастрофално решение.

В сценария на Daily Mail американският президент иска да му бъде донесено ядреното куфарче – устройството, свързано с процедурите за разрешаване на ядрено нападение.

С настъпването на тъмнината светът се оказва изправен пред най-страшния въпрос: може ли една технологична криза да доведе до решение, което да промени съдбата на цялото човечество?

Най-голямата опасност може да не е самата машина, а човешката реакция

Тревожният извод от този хипотетичен сценарий е, че технологиите не е необходимо директно да атакуват хората, за да предизвикат катастрофа.

Ако ключови финансови, комуникационни, транспортни и енергийни системи станат прекалено зависими от автоматизирани решения, една голяма повреда или неправилно поведение може да предизвика последици далеч извън първоначалния проблем.

Особено опасна е възможността за загуба на човешки контрол, липса на надеждна информация и погрешно тълкуване на събитията от страна на правителствата.

Затова основното предизвикателство пред развитието на изкуствения интелект не е само създаването на все по-мощни системи, а гарантирането на тяхната безопасност, ограничаване на правомощията им и запазване на възможността човек да се намеси и да ги спре.

Редактор: Ясен Чаушев
Новини
Мода
Звезди
Начин на живот
Диети
Красота
още
Любов
Здраве
Родители
Коментари
галерии
Прически Маникюр Рокли Грим Обувки Бижута Аксесоари Чанти Звезди
още
Модни тенденции За дома Дизайн Екзотични Пътешествия Татуировки
Design & Development: TaraSoft