모델 857건 · 국산 138 · 가격 690 추적 중
AI 안전·정렬·평가

STA테스팅컨설팅, 의료AI 레드팀 안전성 실증 발표

전자신문 SW·2026-11-05

요약

AI·SW 테스트 전문기업 STA테스팅컨설팅이 BeSTCon 2026에서 의료 분야 생성형 AI의 안전성을 검증하는 레드팀 시험평가 플랫폼의 대규모 실증 결과를 발표했다. 레드팀 시험은 AI에 의도적으로 공격을 시도해 잘못된 답변이나 정보 유출 등 취약점을 찾아내는 검증 방식이다. 이번 실증은 식품의약품안전처 출연연구개발사업인 'AI 기반 디지털의료제품 안전성·신뢰성 확보 기술개발 연구'의 세부 과제로 진행됐다. 해당 과제는 2025년부터 2027년까지 수행된다.

큐레이터 노트

원문에 없는 맥락입니다

의료 AI의 취약점을 찾는 레드팀 검증이 정부 연구과제 틀 안에서 실제 적용된 사례로, 국내 AI 안전성 평가 체계 구축의 한 단계에 해당한다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

어도비, 초기 스타트업에 AI 제작·마케팅 도구 무료 제공
ZDNet Korea · 2026-11-04

어도비가 설립 초기이면서 투자 유치 규모가 작은 스타트업을 대상으로 '어도비 포 스타트업' 프로그램을 운영한다고 4일 밝혔다. 선정 기업에는 파이어플라이 프로 플러스, 애크로뱃 스튜디오, 어도비 익스프레스 프리미엄, 셈러시 등을 12개월간 무료로 제공한다. 이미지·영상·오디오 제작, 문…

구글, 美 초중고교에 제미나이 차단 권한 부여
전자신문 IT · 2026-11-04

구글 모회사 알파벳이 미국 초·중·고교 학생용 K-12 계정에서 생성형 AI '제미나이', '제미나이 노트북', 구글 클래스룸 내 제미나이 기능을 기본적으로 비활성화할 계획이라고 블룸버그통신이 3일(현지시간) 보도했다. 학교 관리자가 직접 활성화해야만 학생들이 해당 기능을 이용할 수 있…

갤럭시 버즈, 청력검사·보청기 기능 식약처 허가
IT조선 · 2026-11-04

삼성전자는 갤럭시 버즈에 탑재되는 '청력 체크'와 '청력 케어' 기능이 식품의약품안전처의 의료기기 허가를 받았다고 4일 밝혔다. 이 기능을 통해 사용자는 별도 보청기 없이 이어폰으로 청력 상태를 확인하고, 개인별 청력 수준에 맞춰 소리를 증폭해 들을 수 있다. 갤럭시 버즈4 프로와 갤럭…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
생성형 AI
생성형 AI는 학습한 데이터의 패턴을 바탕으로 텍스트, 이미지, 음성, 코드 등 새로운 콘텐츠를 만들어내는 인공지능 기술을 말한다.
레드팀
AI 모델이나 시스템을 실제 공격자의 관점에서 시험해 안전장치를 우회하거나 유해한 결과를 유도할 수 있는 취약점을 체계적으로 찾아내는 활동을 말한다.
평가
AI 모델이나 시스템의 출력이 원하는 기준에 얼마나 부합하는지를 정량적·정성적으로 측정하는 절차를 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

전자신문 SW 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →