Модель искусственного интеллекта Claude нашла уязвимости в популярных ОС и браузерах
Компания Anthropic использовала свою внутреннюю, ещё не выпущенную модель искусственного интеллекта Claude для поиска критических уязвимостей в Chrome, Safari, Android, Windows и Linux: модель не только находила ошибки, но и сама собрала из них пять работающих цепочек атак
Такие цепочки позволяют удалённо выполнять чужой код или красть данные почти без участия пользователя. В Chrome Claude нашла четыре уязвимости, в том числе в движке JavaScript V8, и связала их так, что код вредоносной страницы выполнялся за пределами «песочницы» — изолированной среды, в которой браузер запускает код сайтов. В демонстрации на macOS через несколько секунд после загрузки страницы сам собой открывался «Калькулятор». По отчёту Anthropic компания Google к версии Chrome 156 исправила 62 уязвимости, все — критического или высокого уровня опасности.
В Safari модель обошла защиту, которая не даёт одному сайту читать данные другого. Сайт злоумышленника мог получить историю браузера, файлы cookie и другие личные данные, а если пользователь вошёл в свою почту или интернет-банк — читать его письма, видеть баланс счёта и пытаться переводить деньги. Apple исправила ошибку вскоре после отчёта.
В Android Claude нашла способ вытащить фотографии и личные данные с украденного телефона, не разблокируя его: через USB-подключение, обойдя проверку шестизначного кода при сопряжении. Для этого модель изучала исходный код системы, разбирала программы Google и проверяла атаку на настоящем смартфоне Google Pixel 9.
Кроме того, модель нашла уязвимость, которая позволяла удалённо вызвать сбой любого Windows-сервера, отвечающего на HTTP/3-запросы, — таких серверов в интернете, по оценке Anthropic, несколько миллионов. В сетевой части ядра Linux Claude нашла ошибки, через которые можно было удалённо, без пароля и действий пользователя, выполнять команды с правами администратора (root). Обо всех уязвимостях Anthropic сообщила разработчикам, и их уже исправили.
Ранее по теме: Claude нашёл скрытые ошибки в открытом ПО
Источник: Anthropic
