고려 사항
- API 호출이 많이 지면 비용 증가도 감수해야 함 (최적화 필요)
- 간단한 처리가 가능한 부분은 자체 로직을 구현하여 비용 절감
- 데이터 전체를 API에 보내지 않고 전처리 과정 포함
- 속도가 중요한 작업 → 비동기 처리 고려
- GPT API 호출 같은 외부 API 사용에는 네트워크 지연이 발생할 가능성이 있기에 비동기 처리가 성능 최적화에 중요
비용 (4o mini, 4o)
- 100만 토큰 기준으로 작성
- 1000토큰 = 약 750개의 영단어 = 약 한국어 1300~1500자(공백 포함)
- 소설/일반 서적 기준 약 3,000 페이지라고 함
- 입력
- 4o mini : 200원
- 4o : 3500원
- 출력
- 4o mini : 850원
- 4o : 14500원
- 한국어 입력 시 내부에서 영어로 변환 후 처리하지만, 변환 과정에서 발생하는 토큰은 비용에 포함되지 않음
- ex) 한국어 1500자(1000토큰) 입력 → 내부 영어 변환 (1000 토큰) → GPT 처리 (2000토큰) → 한국어로 변환 후 (2000 토큰) 출력
- 최종적으로 3000 토큰만 사용
- ex) 한국어 1500자(1000토큰) 입력 → 내부 영어 변환 (1000 토큰) → GPT 처리 (2000토큰) → 한국어로 변환 후 (2000 토큰) 출력
이 외의 다양한 AI 솔루션
AI 솔루션 장점 단점 추천 프로젝트 유형
GPT API (OpenAI) | 높은 성능, 빠른 개발, 다양한 기능 지원 | API 비용 발생, 데이터 프라이버시 문제 | 챗봇, 문서 분석, Q&A, 코드 생성 |
Anthropic Claude | 윤리적인 AI, 강력한 문서 분석 | 한국어 지원 부족 | 법률 AI, 문서 요약, 고객 서비스 |
Google Gemini | 멀티모달 AI, 구글 서비스와 연동 | API 지원 부족, 일부 기능 제한 | 번역, 이미지+텍스트 AI |
Mistral AI | 오픈소스 AI, 비용 절감 | 기능이 GPT보다 제한적 | AI 챗봇, 검색 AI |
Llama 3 (Meta) | 무료, 로컬 실행 가능 | API 지원 없음, 직접 배포 필요 | 오픈소스 AI 서비스 |
Hugging Face | 무료, 다양한 모델 제공 | 직접 모델 학습 필요 | 커스텀 AI 모델 |
Cohere | NLP 최적화, 강력한 AI 검색 | 비싼 비용 | AI 검색, 문서 분석 |
자체 AI 모델 | 비용 절감, 맞춤형 AI 가능 | 데이터 수집 및 학습 비용 큼 | 기업용 AI, 대규모 트래픽 |
- OpenAI API가 성능이 좋아 빠르게 개발하기 적합해 보임
- 추후에 비용이 부담된다면 무료 오픈소스 AI를 고려하면 좋을 것 같음
'기타' 카테고리의 다른 글
Netlify에 프론트 서버 띄우기 (0) | 2025.04.17 |
---|---|
JWT / 세션 (1) | 2025.03.18 |
WebSocket의 기본 흐름 (0) | 2025.03.06 |
마크다운 (0) | 2024.06.24 |