secunet, Red Hat·deepset과 기밀 업무용 AI 클라우드 계획 구체화

secunet이 10월 26일 Red Hat, deepset과 개발 중인 기밀정보 취급 조직용 AI 클라우드의 세부 계획을 공개했다. NVIDIA 기술을 사용하는 이 협력은 NVIDIA가 10월 21일 이미 소개한 바 있다. 이번 발표는 보안 구조와 제공 절차를 추가로 설명한 것으로, 실제 운영 서비스가 출시됐다는 의미는 아니다.

secunet에 따르면 설계는 SINA Cloud를 기반으로 하며 NVIDIA BlueField-3 프로세서로 보안 작업을 하드웨어 수준에서 분리한다. 기존 SINA 보안 구성요소는 독일 연방정보보안청 BSI의 기밀정보 취급용 사용 허가를 받았다. 이 허가는 개별 구현에 대한 승인을 뒷받침할 수 있지만, 향후 플랫폼의 모든 애플리케이션이 이미 승인됐음을 뜻하지는 않는다.

NVIDIA의 앞선 발표는 각 회사의 역할을 설명했다. 가속 컴퓨팅과 Nemotron 개방형 모델이 AI 기반을 제공하고, Red Hat OpenShift AI는 워크로드를 관리한다. Haystack은 에이전트를 구성하고 연결하며, secunet은 독일 데이터센터에서 인프라를 운영한다. 독일 클라우드 운영사와 국제 기술 공급업체가 함께하는 구조다. 여기서 통제권은 모델과 애플리케이션의 선택, 시스템이 어디서 어떻게 운영되는지와 관련되며 모든 부품이 유럽산이라는 주장은 아니다.

언어모델 자체는 조직 내부 파일을 알지 못하므로 애플리케이션 계층이 중요하다. Haystack 문서는 검색기가 질문에 관련된 문서를 선택해 다음 처리 구성요소로 전달한다고 설명한다. 잠재적인 행정기관 용도라면 직원이 사용 승인을 받은 업무 지침에서 자료를 찾아 답변을 준비하는 흐름을 생각할 수 있다. 이는 검색 증강 생성, 즉 RAG의 작동 방식을 보여주는 예시이며 컨소시엄이 이번에 공개한 고객 도입 사례는 아니다.

적절한 자료를 찾는지 확인하려면 측정도 필요하다. Haystack 평가기 문서에는 검색 문서를 예상 결과와 비교하고 생성 답변을 기준 답변과 비교하는 기능이 나온다. 조직은 이를 통해 시제품이 올바른 지침을 찾고 대표적인 질문에 답하는지 시험한 뒤 업무 활용을 검토할 수 있다. 이런 소프트웨어 기능은 개발과 평가의 가능성을 설명한다. 검색 점수나 답변 품질 점수 자체가 기밀정보 보안 심사를 통과했다는 증거는 아니다.

Red Hat 배포 문서는 운영 측면의 배경을 제공한다. OpenShift AI는 필요한 소프트웨어 이미지를 사설 레지스트리에 복제해 접근이 제한되거나 외부와 연결이 끊긴 네트워크에 설치할 수 있다. 관련 구성요소의 저장소는 같은 네트워크 안에서 접근 가능해야 하며 관리자는 인증과 다른 의존 항목도 설정해야 한다. 이는 통제 가능한 환경에 AI를 구축하는 방법을 설명하지만, 컨소시엄이 최종적으로 판매할 오프라인 구성을 확정하는 내용은 아니다. 소프트웨어와 저장소, 계정 환경의 유지보수도 계속 필요하다.

정부 구매 담당자나 기밀 업무를 지원하는 기업이 기대할 수 있는 가치는, 운영 책임을 정한 환경에서 모델과 사용 승인된 내부 지식을 결합하는 데 있다. 애플리케이션을 평가할 때는 유용한 답변과 적절한 데이터 접근을 함께 확인해야 한다. 문서 검색 시연의 성공은 판단의 일부에만 답한다. 구매자는 사용자가 검색할 수 있는 정보, 애플리케이션을 구동하는 구성요소, 환경을 유지하는 주체까지 파악해야 한다.

secunet은 다음 단계로 구성요소를 통합하고 상호 작동을 검증한 뒤, 제공에 앞서 필요한 허가와 승인 절차를 마치겠다고 밝혔다. 발표에는 가격이나 정식 제공일이 제시되지 않았다. 따라서 서비스는 여전히 개발 단계이며, 실제 제공은 후속 구현과 승인 절차에 달려 있다.