에이전트를 서비스에 붙였다가 토큰 비용과 느린 응답 때문에 롤백한 적이 있다.
비슷한 실패를 겪는 팀이 생각보다 많다.
이번 3.6 플래시 업데이트가 그 병목을 어떻게 푸는지 구조부터 정리했다.
제미나이 3.6 플래시는 3.5 대비 출력 토큰 17% 절감, 가격은 100만 토큰당 입력 $1.50 / 출력 $7.50. 코딩 정확도와 에이전트 호출 효율이 동시에 개선된 것이 핵심.
3.6 플래시가 무엇이 달라졌나
구글은 3.5 플래시를 기반으로 세 가지 라인업을 내놨다. 주력인 3.6 플래시는 코딩과 지식 기반 작업, 멀티모달 성능을 함께 끌어올린 모델이다. 3.5 플래시-라이트는 초당 350토큰을 내는 속도 중심 모델, 코드멘더용 3.5 플래시 사이버는 보안 특화 모델이다.
실무에서 보면 단순히 답을 잘하는 모델보다 호출을 적게 하고 끝내는 모델이 운영비를 결정한다. 3.6 플래시는 추론 단계와 툴 호출 횟수 자체를 줄이도록 학습됐다.
| 구분 | 제미나이 3.5 플래시 | 제미나이 3.6 플래시 | 3.5 플래시-라이트 |
|---|---|---|---|
| 출력 토큰 효율 | 기준 | 17% 감소 (DeepSWE 벤치마크 최대 65%) | 350토큰/초 |
| 가격 (100만 토큰) | 상대적으로 높음 | 입력 $1.50 / 출력 $7.50 | 최저가 라인업 |
| 강점 | 범용 밸런스 | 코딩 정확도, 지식 작업, 컴퓨터 활용 | 대규모 에이전트 호출 |
| 대표 성능 | DeepSWE 37%, OSWorld 78.4% | DeepSWE 49%, OSWorld 83.0%, MLE Bench 63.9% | 속도 최적화 |
이건 직접 겪어보면 체감되는데 출력이 짧아졌다고 품질이 떨어진 게 아니라 불필요한 반복과 수정 루프가 사라졌다.
토큰 효율성이 실서비스 비용을 바꾸는 지점
토큰 17% 절감은 단순 할인처럼 보이지만 에이전틱 워크플로우에서는 다르다. 한 번의 사용자 요청에 5~8번의 내부 호출이 발생한다. 호출마다 출력이 17%씩 줄면 전체 트랜잭션 비용은 30% 이상 차이 난다.
OSWorld 검증 작업에서 3.6 플래시는 더 적은 단계로 동일한 데스크톱 작업을 끝냈다. API 호출을 줄이고 간결하게 끝내는 능력이 에이전트에서는 정확도만큼 중요하다.
이 부분이 핵심입니다. 저렴한 모델을 쓰는 것보다 호출을 잘 끝내는 모델을 쓰는 쪽이 지연 시간과 비용을 동시에 잡는다.
실무에서 바로 쓰는 3가지 활용법
스펙이 아니라 어디에 써야 돈이 되는지가 중요하다.
1. 코딩 에이전트 – 수정 루프 제거
DeepSWE 49% vs 37% 차이는 현장에서 바로 체감된다. 3.5에서는 테스트 실패 후 같은 파일을 세 번 고치는 일이 잦았다. 3.6은 불필요한 코드 수정을 줄이고 한 번에 패치를 완성한다. CodeMender와 결합하면 보안 취약점 패치 자동화에서 경쟁력이 생긴다.
2. 지식 작업 – 보고서와 분석
GDPval-AA v2 1421점, MLE Bench 63.9% vs 49.7%는 문서 파싱과 데이터 분석 성능을 보여준다. Hebbia, Harvey 사례처럼 차트, 표, PDF가 섞인 문서를 읽고 보고서 초안을 만드는 작업에 강하다.
3. 컴퓨터 활용 – API 기반 자동화
OSWorld 83.0%는 단순 챗봇을 넘어 실제 PC 작업을 수행하는 능력이다. 이제 Gemini API와 Gemini Enterprise에서 클라이언트 사이드 기본 툴로 제공된다. 브라우저 조작, 파일 정리 같은 반복 작업을 에이전트로 넘길 수 있다.
적용 전 체크리스트를 꼭 확인하자.
- 에이전트 1회 실행당 평균 툴 호출 횟수를 로깅하고 있는가
- 출력 토큰 중 재시도와 사과 문장이 차지하는 비중을 측정했는가
- 3.5와 3.6을 동일 프롬프트로 A/B 테스트할 환경을 갖췄는가
- 컴퓨터 활용 기능을 쓸 때 권한 범위를 샌드박스로 제한했는가
실무 팁: 3.6 플래시는 간결한 출력을 유도한다. 프롬프트에 “추론 과정 생략, 최종 액션과 근거만 JSON으로” 같은 제약을 걸면 토큰 절감 효과가 배가 된다.
플래시는 가볍다는 오해 바로잡기
많이들 여기서 막히더라고요. 플래시 라인업을 보면 가벼운 모델이라고 단정한다. 하지만 이번 업데이트는 경량화가 아니라 효율화다.
흔한 오해는 두 가지다. 첫 번째, 플래시는 프로보다 무조건 성능이 낮다. 실제로는 에이전트 호출 최적화, 컴퓨터 활용 같은 영역에서는 프로보다 실용적인 선택이 될 수 있다. 두 번째, 토큰이 짧으면 답이 부실하다. 3.6은 불필요한 설명을 줄인 것이고 지식 작업 점수는 오히려 올랐다.
왜 이 방법이 실제로 더 잘 먹히는지 이유는 간단하다. 운영 환경에서는 긴 추론보다 정확한 툴 선택과 빠른 종료가 사용자 만족도를 결정한다.
도입 전 선택 기준과 구축 전략
초보자는 모델 스펙만 보고 3.6 플래시를 선택한다. 실무자는 워크플로우 로그를 보고 선택한다. 호출 횟수가 5회 이상인 에이전트라면 3.6 플래시가, 초당 처리량이 중요한 대량 분류나 요약이라면 라이트가 맞다.
선택 기준은 세 가지로 좁혀라. 지연 시간이 2초 이하여야 하는가, 출력 토큰당 비용이 월 500달러를 넘는가, 멀티모달 문서가 입력의 30% 이상인가. 두 가지 이상 해당하면 3.6 플래시로 마이그레이션을 고려할 시점이다.
구축할 때는 가격표만 보지 말고 전체 에이전트 비용을 계산해야 한다. 입력 $1.50 / 출력 $7.50은 시작점이고 진짜 절감은 호출 수 감소에서 온다.
현재 서비스에 에이전트를 붙일 때 가장 큰 리스크는 무엇이라고 보는가?
제미나이 4 이전에 준비할 것
구글은 3.5 프로 테스트를 파트너와 진행 중이며 동시에 제미나이 4 사전 학습을 시작했다고 밝혔다. 4는 역대 가장 야심 찬 학습이라고 표현했다. 이는 플래시 라인업이 앞으로도 프로토타이핑이 아니라 프로덕션 기본값이 될 가능성을 의미한다.
지금 준비할 것은 두 가지다. 하나, 에이전트 평가 파이프라인을 만들어 두는 것. OSWorld처럼 실제 작업을 기준으로 3.5와 3.6을 비교하는 로그를 쌓아두면 4가 나왔을 때 교체 비용이 거의 들지 않는다. 둘, 컴퓨터 활용 툴을 API 레벨에서 연동해 보는 것. 브라우저 자동화와 파일 시스템 접근을 미리 샌드박스에 넣어두면 마이그레이션이 빨라진다.
오늘 바로 실행할 행동 하나: 기존 에이전트 중 가장 호출이 많은 플로우 하나를 골라 3.6 플래시로 교체하고 일주일간 토큰과 호출 횟수를 기록해 보자.
당신의 에이전트에서는 어떤 작업에서 토큰 낭비가 가장 심한가? 그리고 컴퓨터 활용 기능을 붙인다면 가장 먼저 자동화하고 싶은 업무는 무엇인가?
태그: 제미나이 3.6 플래시, Gemini 3.6 Flash, Gemini Flash, 구글 AI 모델, AI 에이전트, 토큰 효율성, LLM 비용 최적화, DeepSWE, OSWorld, MLE Bench, 컴퓨터 활용, CodeMender, 제미나이 API, 멀티모달 AI, 제미나이 4
본 포스팅은 정보 전달 목적이며, 실제 적용 시 발생하는 책임은 사용자에게 있습니다.