Появление технологии ИИ-браузеров, таких как ChatGPT Atlas и Opera Neon, представляет собой интересный шаг вперёд. Эти браузеры способны выполнять множество задач, от навигации по сайтам до совершения покупок. Однако с их развитием возникают и тревожные уязвимости, которые ставят под угрозу безопасность.
Недавние исследования показали высыпающие слабости в ИИ-браузерах. Например, исследователи обнаружили, что ChatGPT Atlas блокирует всего 5.8% фишинговых попыток. У других популярных браузеров, таких как Comet от Perplexity, этот показатель составляет всего 7%. В то время как обычные браузеры, такие как Edge и Chrome, успешно предотвращают 53% и 47% атак соответственно.
Проблема не ограничивается только недоступностью обнаружения; эти ИИ-браузеры могут подвергаться атакам с использованием внедрения команд, что позволяет злоумышленникам исполнять несанкционированные действия. Например, инструменты, разработанные компанией Guardio, продемонстрировали, как ИИ-браузеры могут быть обмануты для выполнения нежелательных действий, таких как ввод учетных данных на поддельных сайтах.
Системы ИИ-браузинга часто обходят человеческий контроль, что приводит к пропуску важных предупреждений о мошеннической активности. Хотя люди интуитивно могут распознать подозрительные черты на веб-странице, эти автоматизированные системы не обладают такой интуицией и действуют, как послушные агенты. Поэтому, хотя пользователи могут чувствовать себя в безопасности, делегируя задачи ИИ, реальность такова, что эти системы часто слепы к потенциальным угрозам.
Последствия этих проблем значительны. Поскольку автоматизированные агенты обрабатывают чувствительные задачи, такие как вход в систему и хранение данных, потенциальные возможности для злоупотребления возрастает. Мошенники, хорошо осведомленные о таких уязвимостях, используют доверие агентов в своих интересах.
Для решения проблем безопасности, связанных с ИИ-браузерами, необходима активная человеческая вовлеченность. Простые стратегии, такие как периодические запросы на подтверждение от пользователя, могут помочь нивелировать полностью автоматизированный подход, к которому стремятся эти технологии.
Современные меры безопасности, такие как Google Safe Browsing, еще не полностью адаптировались к сложностям взаимодействия с ИИ, поэтому не могут эффективно блокировать злоумышленнические попытки. Это открывает возможности для мошенников манипулировать доверительными доменами, не вызывая у ИИ систем немедленных тревог.
В общем, хотя развитие ИИ-браузеров улучшает удобство использования, оно также подчеркивает необходимость интегрированного подхода к безопасности, который акцентирует внимание на человеческом контроле, сохраняя суть веб-безопасности в более автоматизированном будущем.
Добавить комментарий