
Google нашла автономные ИИ-системы для кибератак
Подразделение кибербезопасности Google Threat Intelligence Group (GTIG) обнаружило фреймворк exploit_agent на открытом сервере хакеров. ИИ-система постоянно искала уязвимости в ПО, писала код их эксплуатации и запускала его без команд человека. Это полностью автономная разработка для массовых атак, говорится в отчете GTIG.
В инструкциях для exploit_agent указано: анализировать популярные веб-приложения, сравнивать исходный код до и после обновлений, искать «лазейки». В файлах найдены комментарии оператора на русском языке. Чаще всего он интересовался французскими сайтами СМИ, компаниями из сферы развлечений и образования.
На сервере также обнаружены похищенные данные пострадавших организаций, но Google не раскрывает их названия. Скрипты для взлома позволяли ИИ-агентам искать данные во внутренних сетях, подбирать пароли, устанавливать удаленный доступ к веб-серверу.
В Google считают, что хакеры переходят от работы с отдельными нейросетями к полностью автономным, быстрым и более эффективным ИИ-системам.
Исследователями обнаружены еще несколько подобных фреймворков с открытым кодом. Например, CAIRN использовали для атак на организации из аэрокосмического сектора США, PentAGI — на азиатские компании. Хакеры будут использовать фреймворки для атак на организации по всему миру, подчеркнули в Google.




