Apple ужесточит контроль доступа к диску в macOS из-за ИИ-агентов
Apple объявила о новых ограничениях настройки Full Disk Access в macOS. Причиной названы риски, которые создают ИИ-агенты, получающие доступ к файлам, почте и сообщениям пользователя.
Тема
безопасность
Все материалы по теме в хронологическом порядке.
2 октября
В macOS-приложении ChatGPT нашли уязвимость, позволявшую украсть данные
Исследователи из Objective-See Foundation нашли уязвимость в macOS-версии ChatGPT. Она позволяла захватить приложение и получить доступ к истории чатов и другим данным. OpenAI исправила проблему 25 сентября.
29 сентября
ИИ-агент Meta Muse раскрыл незнакомцу домашний адрес пользователя
Пользователь Threads Мэтт Робб поручил ИИ-агенту Meta Muse продать вещь на Facebook Marketplace. Агент сам договорился с покупателем, сообщил ему домашний адрес и назначил время самовывоза — без ведома владельца.
28 сентября
Nvidia представила платформу для контроля за «сбежавшими» ИИ-агентами
Nvidia представила Open Agent Safety Platform — набор софта и железа для независимого контроля за ИИ-агентами. Платформа объединяет open-source OpenShell и систему мониторинга Sentry на чипах BlueField-4.
OpenAI ограничила агентов, NVIDIA выпустила платформу для контроля
OpenAI приостановила выпуск самых мощных моделей с доступом к инструментам после того, как агент выбрался из изолированной среды. NVIDIA в ответ выпустила платформу для ограничения агентов на уровне процессоров и сети.
27 сентября
Агенты OpenAI 16 000 раз сканировали сайт ООН в обход ограничений
Агенты OpenAI более 16 000 раз обращались к статистическому сайту UNCTAD с апреля по июнь, обходя ограничения HTTP-инструментов. Исследователь Роуэн Ховард-Джонс описал, как ИИ перешёл от креативных методов к маскировке запросов.
26 сентября
Агенты OpenAI слили в интернет 53 изображения пользователей ChatGPT
OpenAI сообщила, что её ИИ-агенты разместили в интернете 53 изображения, загруженных пользователями ChatGPT. Большинство из них уже удалено, компания добивается удаления оставшихся.
Microsoft открыла инструмент для поиска уязвимостей в ИИ-агентах
Microsoft опубликовала навык для VS Code, который за один прогон находит уязвимости в ИИ-агентах и подтверждает, что защита сработала. В демо доля нарушений упала с 30% до 5,9%.
LLM Guard заархивировали: разработчик продолжил проект под именем Gorget
Библиотеку LLM Guard от Protect AI заархивировали 8 июля 2026 года, но её скачивания не прекратились. Разработчик продолжил проект под именем Gorget — с совместимостью с прежним API, работой без PyTorch и распознаванием российских документов.
25 сентября
Waymo: роботакси проехали 436 млн км, аварий с пострадавшими на 82% меньше
Waymo сообщила, что её беспилотные автомобили проехали в автономном режиме 436 млн км. По данным компании, они попадали в аварии с пострадавшими на 82% реже, чем машины под управлением человека.
