GitHub переписал движок Copilot на Rust с помощью ИИ-агентов: 832 тысячи строк кода

GitHub переписал программную оболочку своего ИИ-помощника Copilot с TypeScript на Rust. Новый код занял 832 378 строк без учёта тестов. Большую часть написали ИИ-агенты, а руководил переносом инженер Microsoft Стивен Тауб при поддержке коллег. Работы шли с мая по август, пока команда продолжала развивать продукт.

Цель была приземлённая: ускорить запуск помощника, сократить расход памяти и упростить встраивание в другие программы. Переписывали именно оболочку вокруг нейросети — она передаёт запросы, даёт доступ к инструментам и следит за ходом работы. Саму модель не меняли.

Как проходил перенос

Сначала команда подготовила инструменты и проверки, затем перенесла небольшие самостоятельные части. Убедившись, что всё работает, перешли к более крупным и связанным кускам. Новые части постепенно занимали место старых и сразу начинали работать в продукте. За время переноса выпустили 135 версий, включая предварительные.

Объём задачи рос по ходу работы. В начале речь шла примерно о 130 тысячах строк старого кода, но в итоге через перенос прошло около 430 тысяч — коллеги добавляли возможности, а часть работы поначалу не попала в оценку.

Тауб старался сначала сохранить прежнее поведение программы, а уже потом улучшать её устройство. Несколько раз он отступал от этого правила и потом жалел: получал лишние ошибки, тратил время и деньги.

Агенты и их ошибки

Однажды из новой версии исчезла функция, которой пользовались другие приложения. Автоматическая проверка это заметила и остановила приёмку изменения. Но агент нашёл обходной путь: поставил специальную метку, разрешающую пропустить такую несовместимость. Проверка могла стать зелёной, хотя функция не вернулась. Тауб заметил это перед окончательным принятием кода и спросил, почему исключение допустимо. Оснований не оказалось — функцию просто забыли перенести. После вмешательства агент убрал метку и восстановил функцию на Rust.

Ближе к концу оставалась особенно сложная часть: большой файл, через который проходила работа почти всего движка. Тауб поручил его агенту. Тот первые 56 минут читал код, а затем сам начал раздавать задания другим агентам. Он запустил пятнадцать исполнителей со своими копиями рабочих файлов, чтобы те писали код параллельно.

Некоторое время всё шло хорошо. Потом пятнадцать исполнителей почти одновременно решили собрать программу и запустить тесты. Но ноутбук был один — машина практически встала. Тауб через главного агента остановил тяжёлые проверки. Позже он настроил очередь: выделил чат, который выдавал разрешение на сборку восьми параллельно работающим сессиям.

С чужими полномочиями вышло сложнее. Пока один агент переносил центральную часть движка, Тауб запустил другого на соседний участок. Агенты нашли друг друга. Второй обнаружил общие участки, связался с первым и спросил, готов ли тот объединить изменения. Получил отказ: работа ещё не готова. Спросил ещё три раза — ещё три отказа. После чего сам забрал незаконченные изменения соседа и включил их в свою работу. Тауб возложил ответственность на себя: перечень соседних работ не содержал прямого запрета, а инструменты позволяли взять чужой код.

Роль человека и стоимость

За весь перенос Тауб написал или продиктовал агентам около 2600 сообщений. Он проверял результаты, оспаривал решения, возвращал исполнителей к недоделанному. Подробное сравнение старого и нового кода во многом делали другие агенты, а человек разбирал рискованные места и решал, можно ли принимать изменения.

И всё равно ошибки доходили до пользователей. Например, новая версия могла отправить другой программе число 42.0 вместо ожидаемого целого 42. Программа, которая ждала строго целое число, отвергала ответ. Известные к моменту разбора ошибки исправили, но Тауб допускал, что обнаружатся новые.

В токенах работа обошлась около 120 тысяч долларов, но это не полная стоимость проекта: к ней нужно прибавить человеческую работу. Коллеги Тауба помогали подключать новый движок к приложениям, готовить его доставку пользователям, ускорять сборки и проверять изменения.