Групата за разузнаване на заплахи на Google е открила нещо наистина притеснително – вероятната първа в историята напълно автоматизирана кибератака, управлявана изцяло от агенти с изкуствен интелект. Операцията е била проведена от рускоговорещи хакери през изминалото тримесечие, като специалистите са засекли злоумишленици, използващи фреймуъркове на големи езикови модели за пълна автономност при откриването и експлоатирането на грешки в сигурността, при това без никаква човешка намеса. От екипа по сигурността на технологичния гигант обясняват, че са попаднали на уязвим междинен сървър, на който е функционирала сложна многоагентна система, наречена exploit_agent. Тя е съчетавала както водещи, така и локални AI модели, за да анализира непрекъснато популярни уеб приложения, да сравнява кодовете преди и след пускането на корекции и бързо да проверява резултатите за потенциални пробиви. След като открие слаб пункт, софтуерът самосиндицирано е създавал експлойти и ги е пускал в действие. Анализът на конфигурационните файлове и телеметрията на жертвите разкрива сериозен мащаб – хакерите са крали данни и са ползвали скриптове за вътрешно разузнаване, брутфорс атаки и управление на уебшолове. Обект на особен интерес са били френски сайтове от медийния, развлекателния и образователния сектор. Въпреки че атаките с изкуствен интелект стават все по-често явление, преминаването към напълно автономни операции отваря нова и опасна страница в киберпрестъпността, особено когато подобни технологии се насочат към критичната инфраструктура.