모델 857건 · 국산 138 · 가격 690 추적 중
AI 안전·정렬·평가

쿤텍 "AI 보안, 코드 검사 넘어 행동 감시로"

블로터·2026-10-27

요약

보안기업 쿤텍이 27일 서울 서초구 엘타워에서 기자간담회를 열고 AI 보안의 중심을 '코드 검사'에서 '행동 감시'로 옮겨야 한다고 밝혔다. 방혁준 쿤텍 대표는 일반 소프트웨어는 오류 발생 시 코드를 고치면 되지만, AI는 구조가 복잡해 잘못된 판단의 원인을 찾기 어렵다고 설명했다. 그는 모델을 만드는 사람들조차 AI 모델을 구성하는 가중치 값의 의미를 정확히 이해하지 못한다고 지적했다. 정상적인 권한을 부여받은 AI가 데이터를 삭제하거나 기밀을 유출할 위험도 존재한다고 강조했다.

큐레이터 노트

원문에 없는 맥락입니다

AI는 내부 판단 과정을 사후에 코드처럼 수정하기 어렵다는 점에서, 사전 검사 대신 실행 중 행동을 감시하는 방식이 보완책으로 제시된 사례다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

CIO가 AI 예산을 낭비하는 흔한 실수 7가지
CIO Korea · 2026-11-04

CIO Korea가 기업 CIO들이 AI 예산을 초과하게 만드는 흔한 실수 7가지를 정리했다. 측정 가능한 비즈니스 성과 없이 AI 전략을 세우거나, 거버넌스 없이 AI 에이전트 파일럿을 운영 환경으로 확대하는 경우가 대표적 원인으로 지적됐다. 토큰 사용 비용에만 집중하고 실제 창출 가…

호주 정부, AI 자동결정 남용 '로보뎁트 재연' 경고
The Guardian AI · 2026-11-04

호주 싱크탱크 공공윤리센터(Centre for Public Integrity)가 'Computer Says No' 보고서를 발표하며, 알바니지 정부가 투명성과 관련 법제 없이 알고리즘과 AI를 활용한 자동화된 의사결정(ADM)을 확대해 과거 로보뎁트 사태를 재연할 위험에 처해 있다고 경…

에이전틱 AI 보안, 데이터 흐름 추적이 관건
MIT Tech Review · 2026-11-04

MIT 테크놀로지 리뷰의 custom content(Insights)가 에이전틱 AI 보안 문제를 다뤘다. 영업사원이 AI 에이전트에게 가격 정보를 요청하면 에이전트가 제한된 가격 시스템, 내부 커뮤니케이션, 과거 견적 등 여러 출처에서 데이터를 가져오고, 이를 다른 에이전트가 검증 없…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

블로터 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →