기술 블로그
AI 대규모 모델, API 개발 및 최신 기술 트렌드 탐구 — 8341TokenFactory 팀의 기술 공유
실리콘-카본 상전이 실측: 중국산 대형 모델 API와 GPT-4o 크로스보더 고객서비스 지연 차이는 얼마나 될까
결론부터 말하자면: 크로스보더 고객서비스처럼 중영 혼용 티켓 시나리오에서는 중국산 모델과 해외 플래그십 중 어느 쪽이 전면적으로 압도한다고 할 수 없고, 차이는 지연, 중국어 정확도, 비용 구조 세 가지에 집중된다. 우리 프로젝트에서 막 한 라운드 비교를 마쳤으니, 그 과정을
실리콘-카본 상전이: 하나의 Key로 GPT-4o, Claude, DeepSeek 연결하며 내가 밟았던 세 가지 보이지 않는 함정
작년에 우리는 크로스보더 공급망 SaaS를 하는 팀의 AI 역량 연동을 도왔는데, 비즈니스 측에서 제시한 요구는 아주 소박했습니다. 고객 상담 대화에는 GPT4o, 계약 조항 요약에는 Claude, 내부 지식베이스 Q&A에는 DeepSeek를 쓰자는 것이었죠. 그때 DeepSe
token8341 엔지니어 해설: 대규모 모델 API 가격 전쟁의 다음 국면, 겨루는 것은 전기요금일 수 있다
지난 한 해 동안 대규모 모델 API의 가격은 거의 매달 바뀌었다. 많은 사람들은 가격 인하가 모델 압축, 추론 프레임워크 최적화, 또는 업체가 돈을 태워 시장을 선점하는 데서 온다고 생각한다. 물론 이런 요인들도 있다. 하지만 우리가 내부적으로 한 번 계산을 해본 뒤 발견한
실리콘-카본 상전이 엔지니어의 해부: 대규모 모델 API 비용 추정의 네 가지 숨겨진 함정
많은 팀이 예산을 편성할 때 「단가 × 호출량」으로 대규모 모델 API 비용을 추정하는 습관이 있지만, 실제 청구서는 예상보다 훨씬 높은 경우가 많습니다. 제가 고객을 위해 한 번 계산해 드린 적이 있는데, 일평균 10만 회 호출의 고객 서비스 시스템을 표면적 단가로 추정하면
token8341 엔지니어 실전: 일주일 만에 지능형 고객센터 프로토타입 구축, 멀티 모델 API 비교 시행착오 기록
지난주에 SaaS 티켓 시스템을 만드는 팀을 위해 지능형 고객센터 프로토타입을 구축하는 일을 맡았는데, 일주일 안에 작동시켜야 했고 GPT4o, DeepSeekV3, QwenMax, Doubao 네 모델의 응답 품질을 횡적으로 비교해야 했다. 들어보면 어렵지 않아 보이지만, 실
실리콘-카본 상전이: 텐센트 클라우드 CVM에서 일주일 만에 6개 대형 모델 API 연동해 스마트 고객 서비스 프로토타입 만든 삽질기
지난달 SaaS 티켓 시스템을 만드는 팀을 도와 스마트 고객 서비스 프로토타입을 구축하는 일을 맡았습니다. 일주일 안에 작동해야 했고, DeepSeek, Qwen, Doubao, GPT4o의 답변 품질을 가로로 비교해야 했습니다. 그들의 전체 업무는 텐센트 클라우드 CVM에서