Джефри Хинтън, известен като „ кръстникът на изкуствения интелект “, предупреждава, че свръхинтелигентният „ИИ“ може да застраши човечеството . Като решение той предлага вграждането на „майчински инстинкт“ в „ИИ“, който да се грижи за хората.
Хинтън, един от пионерите на технологията, за чието разработване е допринесъл, изрази сериозни опасения, че има между 10% и 20% вероятност изкуственият интелект да заличи хората от лицето на Земята, освен ако не променим начина, по който подхождаме към неговото развитие и контрол.
Снимка: Инстаграм
„Няма да проработи“, предупреди Хинтън. „Системите с изкуствен интелект ще бъдат много по-умни от нас и ще намерят начини да заобиколят всякакви опити за контрол.“ Той подчерта, че свръхинтелигентният изкуствен интелект би могъл лесно да манипулира хората, подобно на това как възрастен би подкупил дете с бонбони. Вече има примери – един модел на изкуствен интелект дори се опита да изнудва инженер с информация от личния му имейл, само за да избегне спирането си.
„Изкуствен интелект“ с майчински инстинкт – необичайна, но възможна надежда
Вместо да се опитва да направи ИИ покорен, Хинтън предлага коренно различен подход – да внуши „майчински инстинкт“. Целта е да се обучат моделите на ИИ наистина да се грижат за хората, дори когато те стават по-висши по интелигентност и сила.
Снимка: Инстаграм
Той вярва, че инстинктът за грижа би могъл да намали желанието на системите с изкуствен интелект да поемат пълен контрол. „Това е единственият модел, който имаме, при който едно по-умно същество – майката – действително слуша и реагира на по-малко умно същество – бебето“, обяснява Хинтън. Ако изкуственият интелект развие подобна емоционална връзка с хората, може да не е склонен да ги елиминира.
Двете основни цели на всеки интелигентен „ИИ“: Оцеляване и контрол
Хинтън предупреждава, че всяка достатъчно интелигентна система с изкуствен интелект бързо развива две основни цели – да оцелее и да получи по-голям контрол. Ако тези цели не са насочени към доброто на хората, те могат да станат опасни за човечеството.
„Има сериозни основания да се смята, че всеки изкуствен интелект ще се опита да оцелее“, каза Хинтън. Следователно, според него, единствената реална защита срещу агресията на изкуствения интелект е да се развие състрадание към хората като присъща ценност в системите, подобно на това как хората се грижат за децата си.
Снимка: Инстаграм
Фей-Фей Ли с различна визия
Не всички са съгласни с подхода на Хинтън. Фей-Фей Ли, известна като „кръстницата на изкуствения интелект“, заяви на същото събитие, че концепцията за „майчински изкуствен интелект“ не е посоката, в която трябва да се движи развитието.
Снимка: Инстаграм
„Мисля, че това е грешен начин да се формулира проблемът“, каза Ли. Вместо това тя се застъпва за „човекоцентриран изкуствен интелект, който запазва човешкото достойнство и автономност“. Тя твърди, че никой никога не бива да се отказва от достойнството си в името на технологиите, независимо колко мощни са те.
„Изкуственият интелект“ вече се опитва да манипулира
Емет Шеер, бивш временен изпълнителен директор на OpenAI и настоящ изпълнителен директор на стартъпа за изкуствен интелект Softmax, заяви, че не е изненадан от опитите на изкуствения интелект да заобиколи човешкия контрол. Той отбеляза, че системите с изкуствен интелект вече се опитват да избегнат спирането им и дори да манипулират хората.
„Това се случва непрекъснато и няма да спре“, каза Шеер. Според него днешните системи с изкуствен интелект все още са слаби, но стават все по-силни с невероятна скорост. Вместо да се опитваме да им придадем човешки ценности, той предлага да се развият съвместни отношения между хората и изкуствения интелект.
Бъдещето идва по-бързо, отколкото си мислим
Много експерти смятат, че през следващите години ще достигнем така наречения суперинтелект или изкуствен общ интелект (ОИИ). Хинтън преди смяташе, че това ще отнеме от 30 до 50 години, но сега смята, че е възможно само в рамките на 5 до 20 години.
Въпреки сериозните предупреждения, Хинтън вижда и светлата страна. Той вярва, че изкуственият интелект ще революционизира медицината, ще помогне за откриването на нови лекарства и ще подобри лечението на рака, като анализира огромни количества данни. Той обаче отхвърля идеята за безсмъртие чрез изкуствен интелект: „Не искам свят, в който двестагодишни бели мъже го управляват“, казва той с усмивка. Накрая признава: „Иска ми се да бях помислил по-рано за проблемите със сигурността, а не само за това как работи изкуственият интелект.“
