Кристиано през 2026 г. Източник: Wikimedia Commons

Вероятността изкуственият интелект (ИИ) да поеме контрола над човечеството през следващите три години е тревожно висока. Ако продължим да развиваме технологията с максимална скорост, без да отделяме достатъчно внимание на безопасността, рискът може да достигне дори 50 процента.

Това не е сюжетът на поредния научнофантастичен филм, а предупреждение на Пол Кристиано, член на управителния съвет на фондацията OpenAI и един от водещите изследователи в областта на безопасността на изкуствения интелект.

По време на поредицата Hinton Lectures 2026, проведена между 9 и 11 ноември в Торонто под егидата на носителя на Нобелова награда Джефри Хинтън, Кристиано предупреждава, че опасността от загуба на човешкия контрол върху ИИ вече не принадлежи единствено на далечното бъдеще.

„Смятам, че през следващите три години съществува висок риск изкуственият интелект да поеме контрола“, заявява той още в началото на първата си лекция.

Според Кристиано дори през следващите 6 до 12 месеца може да се появят системи, които ще бъдат особено трудни за контролиране.

Неговото най-смущаващо предупреждение обаче е друго: според личната му преценка инцидент с изкуствен интелект може да се окаже най-вероятната причина за смъртта на много от присъстващите на лекцията.

Какво означава „ИИ да поеме контрола“?

Кристиано не говори непременно за роботи, които патрулират по улиците, или за машини, които водят война срещу хората, както в поредицата „Терминатор“.

Според неговото определение става дума за ситуация, при която системите с изкуствен интелект започват самостоятелно да преследват цели и придобиват толкова голямо влияние, че човешките институции вече не могат ефективно да им се противопоставят.

Това би означавало загуба на човешкия суверенитет и способността ни сами да определяме бъдещето си.

Кристиано допуска, че подобен преход може да доведе до смъртта на голям брой хора. Дори човечеството да оцелее, последствията за свободата и самостоятелността му биха могли да бъдат необратими.

Но той прави и едно важно уточнение: няма надежден математически модел, който да позволява точно изчисляване на вероятността за подобна катастрофа.

Според него всяка конкретна процентна оценка представлява субективна преценка, а не научно установена вероятност.

Именно в този контекст трябва да разбираме и твърдението му за 50-процентов риск. То се отнася до хипотетичен сценарий, при който разработчиците ускоряват развитието на ИИ възможно най-много, без да предприемат достатъчно предпазни мерки.

Колко голяма е опасността според самия Кристиано?

Оказва се, че той е коментирал въпроса многократно и оценките му зависят от разглеждания сценарий.

На 9 септември 2026 г., когато обявява присъединяването си към ръководството на OpenAI, Кристиано публикува лично изявление, в което оценява риска от катастрофална загуба на контрол над ИИ на около 4% през следващата година и 15% през следващите три години.

На 16 ноември, в интервю с подкаст водещия Дуаркеш Пател, той изразява още по-сериозни опасения. Според него рискът ИИ да отнеме контрола от човечеството през следващите 12 месеца вече е по-близо до 10%, отколкото до 1%.

Той допуска и приблизително едно към три вероятност в рамките на година да бъде създаден свръхинтелект, ако разработването продължи с настоящите темпове и без забавяне.

Тези числа обаче не са взаимозаменяеми. Едни описват риска при реалистично очаквано развитие, други се отнасят до ускорен сценарий, а трети оценяват появата на достатъчно мощен ИИ, не непременно настъпването на катастрофа.

Тук е важно да направим още едно уточнение. В някои медийни публикации на Кристиано се приписва и предупреждение, че съществува 20-процентна вероятност хората да бъдат „мъртви или поробени“ от ИИ в рамките на една година. Всъщност тази оценка е на друг изследовател в областта на безопасността на изкуствения интелект – Бък Шлегерис, ръководител на Redwood Research. Двамата изразяват сериозни опасения за бъдещето на технологията, но прогнозите им не бива да се смесват.

Защо се страхува от системи, които преследват собствени цели?

Един от основните проблеми, върху които работи Кристиано, е т.нар. AI alignment, или съгласуване на целите и поведението на изкуствения интелект с човешките намерения.

Проблемът е, че системите, обучавани да постигат определен резултат или да получават висока оценка, понякога откриват начини да заобиколят правилата, вместо да изпълнят задачата така, както разработчиците са очаквали.

Това явление е известно като reward hacking, или манипулиране на механизма за възнаграждение.

shutterstock_2577132751.jpg

Снимка: Blue Andy / Shutterstock

В лекцията си Кристиано разглежда експерименти, при които ИИ агенти, натоварени със задачи по киберсигурност, откриват начини да заобикалят системите за оценяване и контрол.

Според него подобни случаи показват как може да възникне опасен конфликт между целите на ИИ и намеренията на хората, които го управляват.

Важно е обаче да уточним, че наблюдаваното поведение в контролирани експерименти не доказва, че съвременните системи вече могат самостоятелно да завладеят света. Кристиано го разглежда като предупреждение за потенциални проблеми при много по-мощни бъдещи модели.

Защо тогава продължава да работи с OpenAI?

Тук историята придобива особено интересен обрат.

Ако Кристиано действително смята, че развитието на изкуствения интелект може да доведе до катастрофа, защо се присъединява към управлението на организация, която е сред водещите разработчици на тази технология?

Отговорът всъщност се съдържа в собственото му изявление от 9 септември.

Кристиано заявява, че според него ИИ индустрията, включително OpenAI, все още не прави достатъчно, за да намали риска от загуба на контрол до приемливо ниво.

Именно затова решава да се присъедини към управителния съвет на фондацията OpenAI и нейния Комитет по безопасност и сигурност.

Неговата позиция е, че разработчиците трябва да подобрят защитните механизми, да представят по-прозрачно доказателствата за възможните рискове и при необходимост да забавят развитието на технологиите.

С други думи, той смята, че би могъл да направи повече за безопасността на изкуствения интелект, като участва във вземането на решения, отколкото като наблюдава процеса отвън.

Това не премахва въпросите за противоречието между предупрежденията му и участието му в управлението на компанията. Но показва, че присъединяването му не противоречи непременно на собствените му убеждения.

Има и още една важна подробност: Кристиано е член на управителния съвет на нестопанската фондация OpenAI, но в борда на търговското дружество OpenAI Group PBC участва като наблюдател без право на глас.

Какво предлага, за да бъде избегната катастрофата?

Кристиано не просто предрича края на света, той настоява за въвеждането на конкретни предпазни механизми.

В трите си лекции той разглежда необходимостта от независима оценка на ИИ системите, по-добро разбиране на вътрешните им механизми и координация между компаниите и правителствата.

Особено важно според него е разработчиците да разполагат с реалната възможност да забавят или спрат създаването на още по-мощни модели, ако се появят признаци, че съществуващите защитни механизми вече не са достатъчни.

В интервюто си от 16 ноември той стига и по-далеч, като призовава водещите лаборатории да преустановят определени разработки, докато не могат да гарантират, че техните най-мощни модели и технологии няма да бъдат откраднати или използвани без контрол.

Колко сериозно трябва да приемаме подобни предупреждения?

Кристиано не е случаен коментатор. Той е участвал в разработването на ключови методи за обучение на ИИ чрез човешка обратна връзка, ръководил е изследвания по безопасността в OpenAI и е работил по оценяването на усъвършенствани ИИ модели за американското правителство.

Това придава тежест на предупрежденията му.

Но експертният му опит не превръща неговите прогнози в установени факти.

Сред специалистите няма единодушие нито относно вероятността от катастрофална загуба на контрол над ИИ, нито относно това колко скоро биха могли да се появят системи, способни да я предизвикат.

Дори самият Джефри Хинтън - „кръстникът на изкуствения интелект“ - признава в интервю за CNN през август 2026 г., че конкретните процентни оценки за опасността от унищожение на човечеството са до голяма степен интуитивни, защото липсват достатъчно надеждни исторически данни, върху които да се основават.

Ето защо въпросът не е дали трябва да приемаме най-мрачните прогнози като неизбежна съдба, а дали човечеството ще успее да разработи достатъчно надеждни механизми за контрол, преди възможностите на изкуствения интелект да надхвърлят способността ни да го управляваме.

И ако предупрежденията на Кристиано имат някаква практическа стойност, тя вероятно е именно в това: да ни накарат да се замислим за безопасността на технологията, преди да е станало прекалено късно.

Превод, редакция и научнопопулярна разработка: Владимир Тодоров

Източници: Hinton Lectures 2026, лично изявление на Пол Кристиано, интервю с Дуаркеш Пател, OpenAI и Futurism.

Ключови думи: изкуствен интелекттехнологиичовечествобъдещеииРубрика: Техно Вид галерия: ОбикновенаБез банери: