모델 849건 · 국산 132 · 가격 688 추적 중
안전과 사기

의료 AI 레드팀 챌린지, LLM 12종 안전성 검증

AI타임스·2026-09-14

요약

국가인공지능전략위원회 주최로 '2026 첨단AI 디지털의료제품 레드팀 챌린지 및 기술 워크숍'이 9월 3~4일 서울 노보텔 앰배서더 서울 동대문에서 열려 국내외 LLM 12종을 대상으로 실제 공격 검증이 진행됐다. 이원태 보안특별위원장이 대회장을 맡았고, ETRI·분당서울대학교병원·STA테스팅컨설팅·한국화학융합시험연구원(KTR)이 공동 주관했다. KISA, 한국보건산업진흥원, Upstage, 대한의료인공지능학회 등이 후원했다. 첫날 챌린지에는 삼성SDS, 카카오뱅크, SK쉴더스 등 기업이 참여했다.

큐레이터 노트

원문에 없는 맥락입니다

의료 AI는 오진·정보유출 시 위험이 크기 때문에, 정부·연구기관·산업계가 함께 레드팀 검증 체계를 실제 서비스 전에 마련하려는 시도로 볼 수 있다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

가천대, 의료AI·반도체 융합 포럼 개최
전자신문 SW · 2026-11-03

가천대학교 반도체대학은 10월 30일 글로벌센터 국제홀에서 '제13회 2026 AIoT Technology & Business 포럼'을 개최했다. 대한전자공학회 반도체소사이어티가 주최하고 가천대 반도체대학과 BK21 지능형반도체 사업단이 주관했다. 이번 포럼은 'AI 기반 의료 및 헬스…

ETRI 대경권본부 20년…대경권 '피지컬 AI' 거점으로
전자신문 IT · 2026-11-03

ETRI 대경권연구본부가 설립 20주년을 맞아 변우진 본부장이 인터뷰를 통해 성과와 방향을 밝혔다. 자동차·기계부품에 임베디드 소프트웨어를 접목하던 초기 연구에서 출발해 현재는 AI 기반 도시 인프라, 로보틱스, 디지털 헬스케어 등으로 연구 영역을 확장했다고 설명했다. 기업의 기술 수요…

ETRI 대경권연구본부 20주년…피지컬 AI로 전환 선언
전자신문 SW · 2026-11-03

ETRI 대경권연구본부가 개소 20주년을 맞았다. 2006년 대구·경북 지역 ICT 융합을 목표로 출범한 이후 지역 산업 혁신 거점으로 자리매김했다. 20주년을 기점으로 인구 감소와 고령화 등 국가적 구조 변화에 대응하기 위해 '피지컬 AI'를 새로운 연구 방향으로 제시했다. 대구·경북…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
레드팀
AI 모델이나 시스템을 실제 공격자의 관점에서 시험해 안전장치를 우회하거나 유해한 결과를 유도할 수 있는 취약점을 체계적으로 찾아내는 활동을 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

AI타임스 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →