Облачный ИИ для разработчиков: Разница между моделями, API и автономными кодинг-агентами
«Облачный ИИ» обозначает три вещи, которые часто путают: модель, размещённую у поставщика, API, который вызывают из собственного софта, и агента, который выполняется на удалённой машине и работает там самостоятельно. Только третье значение подразумевает, что что-то работает вместо вас, пока вы заняты другим.
Три вещи под одним словом
Первое значение самое старое: модель, размещённая где-то ещё. Вы ничего не скачиваете, отправляете вопрос и получаете ответ. Это то, что делает ассистент во вкладке браузера.
Второе, значение технических команд: API. Модель становится кирпичиком в программе, которую вы пишете, и оплачивается за токен. Машина остаётся у поставщика, логика остаётся у вас.
Третье более новое, и именно оно меняет день человека, пишущего код. Агент выполняется на удалённой машине, с файловой системой, терминалом, сетевым доступом. Он устанавливает зависимости, запускает тесты, читает ошибки, пробует снова. Вы не разговариваете с ним на каждом шаге, вы даёте ему цель.
Слово рядом: агентный
«Агентный ИИ» обозначает третье значение, но с точки зрения программы, а не машины: ИИ, который преследует цель, выбирает действия и повторяет попытки самостоятельно, пока тесты не пройдут. На практике эти два термина почти всегда пересекаются, потому что программе, работающей самостоятельно сорок минут, нужна машина, которая остаётся включённой.
Что на самом деле отличает третье значение
ИИ, который отвечает, останавливается, когда вы закрываете вкладку, потому что ему нечего было делать между вопросами. Агент на удалённой машине продолжает: процесс живёт на машине, а не в браузере. Это единственное из трёх значений, где закрытие компьютера ничего не стоит.
Следствие арифметическое. Если один агент помещается на одной машине, два агента помещаются на двух, а пять на пяти. Работа перестаёт ограничиваться числом открытых перед вами терминалов.
Где всё заедает, когда их несколько
Большинство инструментов решают этот вопрос изоляцией: один агент, одна машина, одна ветка, и слияние в конце. Это работает до момента, когда два агента изменили один и тот же файл, и никто не узнал об этом, пока оба не закончили.
Другой путь, совместное использование с правилом. Агенты живут в одном каталоге, и агент занимает путь перед тем, как в него писать. У файла только один владелец, и это применяет сервер, а не просьба к модели. Это форма, которую выбрал Murmell.
Вопросы, которые стоит задать перед выбором
Кто владеет машиной, и что на ней есть, кроме вашего кода. Сколько она живёт, и что остаётся, когда её уничтожают. За что вы платите: за машину, за токены модели, или за то и другое. И можно ли использовать существующую подписку на агента повторно, или придётся покупать новую.
По последнему пункту ответ Murmell короткий: вы подключаете аккаунты, за которые уже платите, а счёт покрывает машину и комнату. Посмотреть, что делает канвас.
Прямые ответы
В чём разница между облачным ИИ и агентным ИИ?
Эти два слова отвечают на разные вопросы. «Агентный ИИ» говорит о том, что делает программа: она сама преследует цель, выбирает действия и повторяет попытку при неудаче, вместо того чтобы отвечать на вопрос. «Облачный ИИ» говорит о том, где он работает: на чужой машине. Агент для кода, который выполняется на удалённой машине, это и то, и другое одновременно, и именно это пересечение делает его полезным.
Облачный ИИ и локальный ИИ, в чём разница?
Локальный ИИ работает на вашем оборудовании: модель на вашем диске, вычисления на вашей видеокарте, ничего не уходит наружу. Облачный ИИ работает на чужой машине, и вы получаете к ней доступ по сети. Практический вопрос не в мощности, а в том, кто владеет включённой машиной, когда вы закрываете свой компьютер.
Нужна ли видеокарта, чтобы пользоваться облачным ИИ?
Нет. Модель работает у поставщика, а облачный агент для кода работает на машине, арендованной по часам. Достаточно браузера. Именно в этом и заключается смысл облачной модели для тех, у кого нет специального оборудования.
Куда уходит мой код, когда его читает облачный ИИ-агент?
Он копируется на машину, где выполняется агент, и фрагменты отправляются модели, пока она работает. Два места, две политики, которые стоит прочитать. В Murmell машина, которая выполняет код, не содержит ни базы данных, ни ключа расшифровки, а работа отправляется в приватный репозиторий, который принадлежит вам.