설명

개발자를 위한 클라우드 AI: 호스팅 모델, API, 원격 자율 코딩 에이전트의 차이

"클라우드 AI"는 흔히 혼동되는 세 가지를 가리킵니다. 제공자가 호스팅하는 모델, 자신의 소프트웨어에서 호출하는 API, 그리고 원격 머신에서 실행되며 혼자 작업하는 에이전트입니다. 여러분이 다른 일을 하는 동안 무언가가 대신 돌아가는 상태는 세 번째 의미뿐입니다.

한 단어 아래 세 가지

첫 번째 의미가 가장 오래되었습니다. 다른 곳에서 호스팅되는 모델입니다. 아무것도 다운로드하지 않고 질문을 보내고 답을 받습니다. 탭 안의 어시스턴트가 하는 일입니다.

두 번째는 기술 팀들이 쓰는 의미, API입니다. 모델은 여러분이 작성하는 소프트웨어의 부품이 되고, 토큰 단위로 요금이 매겨집니다. 머신은 제공자 쪽에 남고, 로직은 여러분 쪽에 남습니다.

세 번째는 더 최근의 것이며, 코드를 쓰는 사람의 하루를 바꾸는 것입니다. 에이전트는 파일시스템, 터미널, 네트워크 접근을 가진 원격 머신에서 실행됩니다. 의존성을 설치하고, 테스트를 실행하고, 오류를 읽고, 다시 시도합니다. 매 단계마다 말을 걸 필요 없이 목표 하나만 주면 됩니다.

옆에서 마주치는 말: 에이전틱

"에이전틱 AI"는 머신이 아니라 프로그램 쪽에서 본 세 번째 의미를 가리킵니다. 목표를 추구하고, 스스로 행동을 선택하고, 테스트가 통과할 때까지 혼자 반복하는 AI입니다. 실제로는 두 용어가 거의 항상 겹칩니다. 40분 동안 혼자 작업하는 프로그램에는 계속 켜져 있는 머신이 필요하기 때문입니다.

세 번째를 진짜로 구분 짓는 것

답하는 AI는 탭을 닫으면 멈춥니다. 질문 사이에 할 일이 없었기 때문입니다. 원격 머신 위의 에이전트는 계속됩니다. 프로세스는 브라우저가 아니라 머신 위에서 살아 있습니다. 세 가지 의미 중 컴퓨터를 닫아도 아무것도 잃지 않는 것은 이것뿐입니다.

결과는 단순한 산수입니다. 에이전트 하나가 머신 하나로 충분하다면, 에이전트 둘은 머신 둘로, 다섯은 다섯으로 충분합니다. 작업은 눈앞에 열린 터미널 개수에 더 이상 제한받지 않습니다.

여럿이 될 때 막히는 지점

대부분의 도구는 격리로 이 문제를 해결합니다. 에이전트 하나, 머신 하나, 브랜치 하나, 그리고 마지막에 병합. 이는 두 에이전트가 같은 파일을 수정할 때까지는 잘 작동하며, 둘 다 끝날 때까지는 아무도 그 사실을 모릅니다.

다른 길은 규칙이 있는 공유입니다. 에이전트는 같은 디렉터리에 살고, 쓰기 전에 경로를 점유합니다. 파일 하나에 소유자는 한 명뿐이며, 모델에 부탁하는 것이 아니라 서버가 강제합니다. 이것이 Murmell이 선택한 방식입니다.

선택하기 전에 물어야 할 질문

머신을 소유한 사람은 누구이고, 여러분의 코드 말고 무엇이 들어 있는지. 얼마나 오래 살아 있고, 폐기되면 무엇이 남는지. 무엇을 지불하는지, 머신인지, 모델 토큰인지, 아니면 둘 다인지. 그리고 기존 에이전트 구독을 재사용할 수 있는지, 아니면 다시 사야 하는지.

마지막 질문에 대한 Murmell의 답은 짧습니다. 이미 결제하고 있는 계정을 연결하면, 청구서는 머신과 방을 포함합니다. 캔버스가 무엇을 하는지 보기.

직접적인 답변