Muse от Meta строит досье на друзей и близких пользователей

Новый персональный ассистент Meta под названием Muse стал вирусным: миллионы пользователей скачали ИИ-агента, подключили его к банковским счетам, сообщениям и медицинским данным, позволив выполнять задачи. По мере роста популярности данные изнутри приложения раскрывают, как Muse организует и представляет информацию.

За последние дни несколько исследователей извлекли внутренние файлы Muse и обнародовали инструкции агента, показав, как система устроена и ведёт себя. Meta настаивает, что эти файлы должны быть доступны в интересах прозрачности, и они действительно дают представление о том, как Muse отвечает на запросы по политизированным или чувствительным темам.

Независимый исследователь в области безопасности ИИ Каран Джоши смог извлечь обширный набор инструкций и системных промптов Muse, используя обычный интерфейс чата — по сути, попросив Muse скопировать и поделиться своими программными файлами. Джоши поделился находками с WIRED.

Одна из инструкций Muse, по-видимому, позволяет создавать «страницу для каждого человека в жизни пользователя». Этот ежечасный процесс включает сбор данных о семье, партнёрах, друзьях, коллегах, «сотрудниках» и людях, на которых вы «подписаны», говорится в инструкциях.

Идея в том, что Muse может использовать свою «память» (структурированные текстовые файлы) для сбора информации о ваших отношениях и важных людях. Затем он может давать рекомендации, например, как улучшить конкретные отношения или куда отвести друга, любящего кофе, на завтрак. Конечно, ИИ-чатботы в целом отслеживают социальную информацию — люди годами спрашивают у ChatGPT совета по отношениям. Но интересно увидеть, как устроен Muse, учитывая историю Meta и её обширный доступ к данным соцсетей.

«Мне показалось — из всех этих промптов, данных о системных навыках и того, что они загружают в Muse, — что они хотят понять ваши отношения с реальными людьми, — говорит Джоши. — Они пытаются узнать вас как друг, что, честно говоря, довольно жутко».

Документация Muse говорит, что страница может начинаться «скудной», а затем заполняться со временем, потенциально включая разделы Facts, History, The relationship, In common, Open threads и Strengthening. Инструкции Meta гласят, что Muse должен использовать только доступные «доказательства», и что выдуманные детали хуже пустой страницы.

«Где они живут, чем занимаются, повторяющиеся темы (переезд в квартиру, общая цель по накоплениям)», — говорится в инструкциях. Там же добавляется, что модель может записывать «важные даты», такие как дни рождения или годовщины. История человека может включать предысторию вроде «поездка в марте, ссора, которая разрешилась, важная веха на прошлой неделе».

Инструкции также сосредоточены на записи деталей отношений, таких как «насколько они близки, на чём это построено, как они ведут себя друг с другом и что, похоже, нужно прямо сейчас». Раздел Strengthening предлагает способы улучшить отношения, включая «повод позвонить, дату, которую стоит запомнить, что-то, что они сказали, к чему стоит вернуться, способ быть рядом, который имеет значение».

«Мы даём ИИ-системам гораздо больше информации о нас, чем получаем от них, — говорит Карисса Велис, доцент Института этики ИИ Оксфордского университета. — Это не только то, что мы явно им сообщаем, но и то, что они могут о нас вывести — правильно или неправильно, и то и другое тревожно по разным причинам, — и то, что они могут собрать из других источников данных».

Muse устроен так, что у каждого пользователя есть собственная выделенная виртуальная машина, которая хранит данные и контекст. Эта ВМ недоступна другим агентам, и пользователи могут в любой момент стереть воспоминания или отключить внешние сервисы. Meta говорит, что Muse также спроектирован запрашивать подтверждение человека перед выполнением действий вроде отправки письма или покупки, и что у него есть журнал аудита, где пользователи видят всю активность агента и будущие планы.

«Чтобы любой агент был полезен и действительно помогал достигать целей, ему нужен контекст о вас и тех, с кем вы взаимодействуете, — заявил WIRED представитель Meta Дэниел Робертс. — Muse собирает его на основе публичной информации и того, чем вы решили поделиться, — так он помнит, что человек, приславший счёт, на самом деле сантехник, которого вы ранее наняли для работы в ванной, или какие цветы ваша супруга сказала, что любит больше всего».

Стало обычным делом, что ИИ-ассистенты включают ту или иную функцию памяти для большей персонализации ответов и действий. Миранда Боген, директор Лаборатории управления ИИ в Center for Democracy and Technology, говорит, что Muse, похоже, делает больший акцент на отношениях и личных контактах, чем системы конкурентов. В целом такие инструменты предлагают некоторую прозрачность и возможности редактирования, и Muse тоже. Впрочем, Боген отмечает, что агенты и ассистенты побуждают людей проактивно делиться большим объёмом данных, а не сокращать их.

«Эти инструменты активно просят пользователей подключить всю свою жизнь — почту, календари, финансовые учреждения, всё, чтобы быть полезными помощниками, — говорит Боген. — Это значительно больше информации, чем люди могли бы иначе дать некоторым из этих компаний. Широта доступа к информации у этих инструментов приведёт к раздуванию того, что они знают о пользователях».