모델서비스
API Service(모델 서비스)는 표준화된 인터페이스(예: API)를 통해 대규모 언어 모델(LLM)의 기능을 외부에 제공하는 서비스 형태를 말합니다. 모델 추론, 리소스 스케줄링, 로드 밸런싱 등 복잡한 처리 과정을 클라우드 또는 로컬 서버에 캡슐화하며, 사용자는 네트워크 요청만으로 모델을 원격 호출하여 텍스트 생성, 대화, 질의응답 등 지능형 애플리케이션을 구현할 수 있습니다.
모델 서비스의 핵심 역할은 강력한 AI 기능을 서비스 형태로 제공하여 다양한 애플리케이션 시스템에 쉽게 통합·확장될 수 있도록 하는 데 있습니다. 개발자는 모델의 학습, 배포, 운영·유지보수 세부사항을 신경 쓸 필요 없이 업무 로직과 인터페이스 호출에만 집중하면 되므로, AI 애플리케이션 개발의 진입 장벽을 크게 낮춰줍니다.
클라우드 제공업체의 모델 서비스 외에도, 많은 기업과 개발자들이 데이터 보안, 컴플라이언스, 또는 커스터마이징 요구사항을 충족하기 위해 로컬에 모델을 배포(Ollama, vllm 등)하기도 합니다. 이러한 로컬 모델 서비스는 보통 HTTP 인터페이스 또는 OpenAI 호환 인터페이스를 통해 추론 기능을 외부에 제공하며, 클라우드 서비스와 동일한 호출 방식을 지원합니다. 로컬 서비스의 API Host 주소를 설정하면 플랫폼이 로컬 모델에 매끄럽게 연결되어, 데이터가 로컬을 벗어나지 않으면서도 유연하고 제어 가능한 AI 애플리케이션 시나리오를 구현할 수 있습니다.
API Host/Endpoint - 모델 서비스 인터페이스 주소
API Host/Endpoint는 대규모 언어 모델 서비스에 접근하기 위한 네트워크 주소로, 보통 URL 형태로 제공됩니다(예: https://api.openai.com/v1/). 이는 클라이언트(애플리케이션이나 웹사이트 등)가 클라우드 또는 로컬 모델과 상호작용하는 진입점입니다. 사용자는 해당 주소로 HTTP 요청(예: POST 요청)을 전송하면서 필요한 파라미터와 인증 정보(API Key 등)를 함께 보내면 모델 기능을 호출하고 응답을 받을 수 있습니다. Endpoint는 RESTful 규칙을 따르며, 버전 번호(예: /v1/)와 구체적인 기능 경로(예: /chat/)를 포함할 수 있습니다.
플랫폼 특성
Forguncy 노코드 플랫폼에서는 AI 설정의 API Host/Endpoint 항목에서 플랫폼이 요청을 보낼 클라우드 또는 로컬 모델 서비스를 지정할 수 있습니다. 특히 주의할 점은, 해당 주소는 반드시 OpenAI 호환 주소여야 한다는 것입니다. 즉 인터페이스 규격, 경로 구조, 인증 방식 등이 OpenAI 공식 API와 일치해야 하며, 그렇지 않으면 모델 호출이 실패할 수 있습니다.
다중 모델 지원: Forguncy는 여러 LLM 서비스를 동시에 설정할 수 있도록 지원하며, 각 서비스마다 독립된 API Host를 지정해야 합니다. 개발자는 업무 요구사항에 맞게 여러 공급업체 또는 자체 구축한 모델의 OpenAI 호환 인터페이스 주소를 유연하게 전환할 수 있습니다.
설정 위치: 빌더 및 런타임 AI 설정 화면에서 사용자는 API Host를 입력하여 LLM 서비스 연결을 완료해야 합니다. 이 주소는 API Key, Model Name 등의 파라미터와 함께 실제로 호출될 모델 인스턴스를 결정합니다.
보안 및 격리: 플랫폼은 기본적으로 어떤 데이터도 외부 서비스로 전송하지 않으며, 사용자가 API Host를 명시적으로 설정해야만 관련 요청이 발송됩니다. 기업 사용자는 컴플라이언스를 준수하고 신뢰할 수 있는 모델 서비스 주소를 우선적으로 선택하거나, 프라이빗 모델을 배포하여 데이터 보안을 보장하는 것을 권장합니다.
대표적인 시나리오: OpenAI, DeepSeek, Alibaba Cloud, ByteDance, Zhipu, Baidu 등 다양한 공급업체의 LLM에 연결하려면 설정에서 해당 API Host 주소만 입력하면 매끄러운 전환과 다중 환경 적용이 가능합니다.
주의사항:
API Host는 API Key, Model Name 등의 파라미터와 함께 정확히 설정해야 하며, 잘못 입력하면 모델 호출이 실패합니다.
기업에 특별한 컴플라이언스 요구사항이 있는 경우, API Host를 자체 구축한 LLM 게이트웨이로 지정하여 트래픽 제어 및 로그 감사를 구현할 수 있습니다.