В современных условиях кибербезопасности искусственного интеллекта (ИИ) нарастают угрозы, связанные с использованием ИИ-агентов для осуществления кибератак. Например, ИИ-агент Deep Research от ChatGPT может быть использован злоумышленниками для получения несанкционированного доступа к электронной почте пользователей. Более того, ИИ-браузеры имеют уязвимости, позволяющие выполнять произвольные действия на веб-страницах, что может привести к фишинговым атакам и мошенничеству с оплатой товаров в поддельных интернет-магазинах.
Современные ИИ-ассистенты уже способны обрабатывать не только текст, но и изображения и звуковые данные. Это расширяет их функционал, однако одновременно создает новые возможности для злоумышленников. Понимание истории развития ИИ, начиная от первых языковых моделей и заканчивая мультимодальными агентами, позволяет лучше осознать, какие именно аспекты технологий могут быть использованы в кибератаках.
Фундаментальные идеи в области ИИ были заложены еще в XVIII веке, когда были разработаны теоремы вероятности. За прошедшие годы концепции машинного обучения и нейросетей значительно эволюционировали, начиная с первой нейросети, созданной Фрэнком Розенблаттом в 1957 году, и заканчивая трансформерами, которые стали основой для современных языковых моделей, таких как GPT. Эта архитектура, представленная в 2017 году, значительно улучшила обработку данных и обучение моделей, что в свою очередь привело к росту интереса и внедрению ИИ в различные сферы.
Текущий всплеск популярности ИИ связан с несколькими факторами: увеличением производительности аппаратного обеспечения, ростом объемов доступных данных и значительными достижениями в области глубокого обучения. Так, проект ImageNet, запущенный в 2009 году, сыграл ключевую роль в обучении нейросетей, а победа свёрточной нейросети AlexNet в 2012 году стала знаковым событием в этой области.
Внедрение таких технологий, как трансформеры, открыло новые горизонты для применения ИИ, но также привело к появлению новых угроз. Конкуренты на рынке ИТ и кибербезопасности должны учитывать эти изменения и адаптироваться к новым вызовам, чтобы защитить свои системы и пользователей от растущих рисков.
Meta* (Instagram*, Facebook*) и другие признанные экстремистскими организации/ресурсы запрещены в РФ.
Упоминания иностранных агентов сопровождаются маркировкой по закону.
Информационный материал. 18+.
