모델 857건 · 국산 138 · 가격 690 추적 중
AI 안전·정렬·평가

아이티센클로잇, 기업용 AI 가드레일 '에이전트고 가드' 공개

ZDNet Korea·2026-10-07

요약

아이티센클로잇이 서울 코엑스 'AI 페스타 2026'에서 기업용 AI 보안 솔루션 '에이전트고 가드'를 공개했다. 기존 사내 챗봇과 RAG, 사내 LLM을 교체하지 않고도 질문·답변 양쪽에 보안 기능을 추가할 수 있도록 설계됐다. 질문이 AI에 전달되기 전 개인정보·금칙어를 검사하고 프롬프트 인젝션과 탈옥 시도를 탐지하며, 답변 생성 후에는 개인정보 노출과 유해 콘텐츠, 내부 정책 위반 여부를 재검사한다. 관리자는 금칙어와 차단 정책을 직접 설정할 수 있고 대시보드에서 서비스별 사용량과 차단 내역을 확인할 수 있다. 퍼블릭 클라우드부터 온프레미스, 폐쇄망까지 설치가 가능해 공공·금융·의료·제약 분야에서도 활용할 수 있다.

큐레이터 노트

원문에 없는 맥락입니다

기업들이 여러 AI 서비스를 빠르게 도입하는 상황에서, 모델 자체를 바꾸지 않고 입출력 단에 보안 검사를 끼워 넣는 방식이라는 점이 특징이다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

한은, AI 업무망 보안 검증 위해 모의해킹 실시
전자신문 IT · 2026-11-01

한국은행이 11월부터 12월까지 망 분리 개선 시스템에 대한 보안 취약점 점검에 나선다. 외부 해커가 직원 PC를 장악한 뒤 내부 시스템에 침투해 정보를 유출하는 상황을 가정한 모의해킹 방식이다. 이는 인공지능(AI) 활용을 위해 망 분리 방식을 개선한 업무환경이 실제 사이버 공격에도 …

Spring AI용 오픈소스 프라이버시 가드레일 라이브러리 공개
GeekNews · 2026-10-27

개발자가 Spring AI를 위한 오픈소스 보안 가드레일 라이브러리 'Spring AI Privacy Guardrails'를 공개했다. 개인정보 보호, 도구 사용 권한 제어, 콘텐츠 검사 기능을 제공한다. 이 프로젝트는 Spring 공식 블로그 'This Week in Spring'에서…

KB국민은행 해킹 유출, 2210명으로 확대 확인
전자신문 SW · 2026-10-26

KB국민은행은 AI 해킹으로 인한 정보유출 인원이 2091명 추가로 확인됐다고 26일 밝혔다. 이에 따라 최초 확인된 119명을 포함해 총 2210명의 고객정보가 유출된 것으로 집계됐다. 추가 확인된 2091명 중 고객은 1631명, 임직원은 460명이다. 은행 측은 새로운 해킹이 아니…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
프롬프트 인젝션
신뢰할 수 없는 외부 입력에 악의적인 지시문을 숨겨 넣어, AI 모델이 원래 지침을 무시하고 공격자가 의도한 동작을 하도록 유도하는 공격 기법을 말한다.
가드레일
가드레일은 AI 모델이 유해하거나 부적절하거나 정책에 어긋나는 입력과 출력을 만들지 않도록 시스템 차원에서 걸어두는 제약과 점검 장치를 말한다.
가드레일
가드레일은 AI 에이전트나 LLM 시스템이 설계된 범위를 벗어난 위험하거나 부적절한 입력·출력·행동을 하지 못하도록 오케스트레이션 계층에 두는 제약 규칙과 검증 장치를 말한다.
프롬프트
AI 모델에게 원하는 작업을 지시하기 위해 입력하는 텍스트를 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

ZDNet Korea 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →