모델 849건 · 국산 132 · 가격 688 추적 중
AI 안전·정렬·평가

제논, 기업용 AI 가드레일 솔루션 '젠가드' 출시

AI타임스·2026-10-26

요약

제논이 생성 AI 서비스의 보안 위협에 대응하고 기업별 보안 정책을 관리하는 AI 가드레일 솔루션 '젠가드'를 26일 출시했다. 자체 생성 AI 플랫폼 '제노스'에서 가드레일 기능을 운영한 경험을 바탕으로 독립 솔루션으로 개발됐다. 젠가드는 모델 재학습 없이 자연어 문장만으로 서비스별 맞춤 정책을 설정할 수 있다는 점이 특징이다. 예를 들어 금융 서비스에서 '개별 종목 추천은 차단한다'는 문장을 입력하면 그 기준에 따라 AI의 요청과 응답을 판정해 통제한다. 새로 설정한 정책은 실제 적용 전 관찰 모드에서 차단 결과와 업무 영향을 점검할 수 있다.

큐레이터 노트

원문에 없는 맥락입니다

정책을 실제 적용 전 관찰 모드에서 먼저 점검하게 한 구조는 가드레일 오작동으로 인한 업무 차단 등 운영 리스크를 줄이려는 설계로 풀이된다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

윌콘에이아이, 멀티에이전트 AI 플랫폼 '윙잉 빌더' 선봬
전자신문 SW · 2026-11-03

윌콘에이아이가 기업·공공기관 데이터를 활용해 AI 에이전트를 생성·운영하는 플랫폼 '윙잉 빌더'를 공개했다. 이 플랫폼은 웹사이트, PDF, 한글 문서, 이미지 등 다양한 자료를 자동으로 수집·분석해 AI 서비스를 구축한다. 질문 분석, 정보 검색, 근거 검증, 답변 생성 등 역할별 A…

IPO 앞둔 앤트로픽, 기업용 AI 기능 대거 확대
ZDNet Korea · 2026-10-31

IPO를 앞둔 앤트로픽이 기업용 AI 사업 확대에 나섰다. 금융 자문가용 '클로드 포 파이낸셜 어드바이저스'와 법무팀용 업무 도구를 선보였고, 협력사 엔베다는 클로드로 제조 서류 검토 시간을 약 89% 줄였다고 밝혔다. 희귀질환 치료제 기업 '미스릴 메디슨'을 인수해 신약 연구도 이어간…

MS, 기업용 AI 에이전트 관리·보안 플랫폼 확대
ZDNet Korea · 2026-10-29

마이크로소프트가 기업 내부에서 운영되는 AI 에이전트를 통합 관리하는 '에이전트 365'를 중심으로 기업용 AI 플랫폼 전략을 공개했다. 코파일럿, 마이크로소프트 IQ, 에이전트 365로 구성된 '프론티어 트랜스포메이션' 접근법을 통해 데이터 활용과 에이전트 보안을 동시에 지원한다는 구…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
가드레일
가드레일은 AI 모델이 유해하거나 부적절하거나 정책에 어긋나는 입력과 출력을 만들지 않도록 시스템 차원에서 걸어두는 제약과 점검 장치를 말한다.
가드레일
가드레일은 AI 에이전트나 LLM 시스템이 설계된 범위를 벗어난 위험하거나 부적절한 입력·출력·행동을 하지 못하도록 오케스트레이션 계층에 두는 제약 규칙과 검증 장치를 말한다.
학습
학습은 모델이 데이터를 반복적으로 살펴보며 예측 오차를 줄이는 방향으로 내부 파라미터를 조정해 나가는 과정을 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

AI타임스 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →