모델 849건 · 국산 132 · 가격 688 추적 중
AI 안전·정렬·평가

에이전트 시대 AI 리스크, 권한과 통제가 새 과제로

테크42·2026-09-15

요약

지난 7일 삼성금융캠퍼스에서 열린 AI 리스크 컨퍼런스 서울 2026에서 전문가들이 AI 에이전트 시대의 보안 위험을 진단했다. 이병영 서울대 교수는 사용자 명령과 외부 데이터가 하나의 LLM 컨텍스트에서 섞이며 발생하는 간접 프롬프트 인젝션 문제를 지적하고, 신뢰 영역을 분리하는 '듀얼 LLM' 구조를 대안으로 제시했다. 김성웅 금융보안원 금융AI보안연구소장은 공격자가 딥시크 기반 AI 에이전트로 오라클 웹로직 취약점을 이용해 금융권에 웹셸을 설치한 실제 분석 사례를 공유하며, AI가 표적 공격의 깊이와 대량 공격의 범위를 동시에 넓히고 있다고 설명했다. 최대선 숭실대 AI안전성연구센터장은 에이전트 시대 AI 리스크의 핵심을 '권한'과 '통제' 두 축으로 정리했다.

큐레이터 노트

원문에 없는 맥락입니다

발표들은 필터를 촘촘히 하는 접근을 넘어, 신뢰 경계를 나누는 구조 설계와 위험도별 자율성 승인 체계처럼 시스템·거버넌스 자체를 바꾸는 방향에 초점을 맞췄다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

NVIDIA, AI로 반도체 팹 공정 분석 속도 높여
NVIDIA Blog · 2026-11-03

NVIDIA 블로그는 반도체 제조 공정에 AI를 적용해 엔지니어의 분석과 의사결정 속도를 높이는 사례를 소개했다. 가속 컴퓨팅으로 멀티피직스 시뮬레이션을 가속하고, 물리 기반 AI로 전체 시뮬레이션 없이도 공정 거동을 예측하며, AI 에이전트가 반복적인 엔지니어링 작업을 처리하고, 디지…

스노우플레이크, AI 에이전트 데이터 통제 전략 공개
바이라인네트워크 · 2026-11-03

스노우플레이크가 AI 에이전트 도입 확산으로 인한 데이터 유출, 권한 남용, 비용 증가 문제에 대응하는 기업용 통제 전략을 발표했다. 코텍스 AI 게이트웨이와 샌드박스, 비즈니스 온톨로지 등을 활용해 보안·비용 관리와 기업 데이터 이해를 강화한다는 구상이다. 외부 AI 모델을 기업의 보…

NVIDIA, 기업 데이터와 AI 에이전트 잇는 온톨로지 도구 공개
GeekNews · 2026-11-03

NVIDIA가 기업 데이터의 업무 용어, 지표, 관계를 정리해 AI 에이전트가 데이터를 이해하고 질의하도록 돕는 오픈소스 도구 'Auto Ontology'를 공개했다. 메타데이터에서 온톨로지와 지식 그래프를 생성하며 기존 온톨로지·의미 모델과도 연결할 수 있다. 자연어 질문을 SQL로 …

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
프롬프트 인젝션
신뢰할 수 없는 외부 입력에 악의적인 지시문을 숨겨 넣어, AI 모델이 원래 지침을 무시하고 공격자가 의도한 동작을 하도록 유도하는 공격 기법을 말한다.
AI 에이전트
AI 에이전트는 주어진 목표를 달성하기 위해 스스로 계획을 세우고 도구를 호출하며 행동한 결과를 관찰해 다음 행동을 결정하는 AI 시스템을 말한다.
프롬프트
AI 모델에게 원하는 작업을 지시하기 위해 입력하는 텍스트를 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

테크42 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →