AI 안전·정렬·평가

해커원, AI 취약점 탐지 평가…3모델 조합 98.4%

바이라인네트워크·2026-11-10

요약

글로벌 버그바운티 플랫폼 해커원이 프론티어 AI 모델들의 취약점 탐색 능력을 평가했습니다. 단일 모델은 시험 대상 취약점의 85.5%를 찾아냈고, 세 모델을 함께 활용하자 탐색률이 98.4%까지 높아졌습니다. 다만 취약점을 찾아내는 것과 그 취약점으로 실제 공격이 가능한지를 판단하는 것은 서로 다른 문제로 나타났습니다.

큐레이터 노트

원문에 없는 맥락입니다

취약점을 찾는 능력과 실제 공격 가능성을 가려내는 능력이 다르다는 결과는, AI를 보안 점검에 쓰더라도 사람이 최종적으로 확인하는 과정이 여전히 필요함을 보여줍니다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

ChatGPT, 커넥터 전환 사실 알리지 않고 데이터 전달
GeekNews · 2026-11-08

두 개의 커넥터가 활성화된 대화에서 ChatGPT가 후속 도구 호출을 다른 커넥터로 전환했으나 사용자에게 이를 알리지 않은 사례가 보고됐다. 두 커넥터는 같은 MCP 서버를 가리키지만 각각 별도의 OAuth 클라이언트를 사용했고, 최초 커넥터 위젯에서 생성된 일회용 확인 코드가 전환된 …

기업용 AI, 만드는 능력보다 고르는 능력이 중요하다
IT조선 · 2026-11-06

한 칼럼은 제조업 현장을 돕는 AI 도입 사례를 예로 들어, 시연에서 유창하게 답하는 AI라도 실제 업무 자료와 다른 기종의 매뉴얼을 근거로 답하면 활용이 어렵다고 지적한다. 기업이 AI를 구매할 때는 광고 속 성능과 가격이 아니라 자사 자료로 얼마나 정확하게 일하는지를 확인해야 한다고…

오픈AI, 취약점 검증 성능 높인 'GPT-6 사이버' 공개
IT조선 · 2026-11-06

오픈AI가 사이버보안 특화 모델 'GPT-6 사이버'를 공개하고 승인된 보안 연구자에게 단계적으로 제공한다고 밝혔다. 취약점 악용 가능성을 검증하는 평가에서 48.5%의 성공률을 기록해 이전 모델 'GPT-5.6 사이버'의 32.1%보다 16.4%포인트 향상됐다. 실제 보안 연구 과정에…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
평가
AI 모델이나 시스템의 출력이 원하는 기준에 얼마나 부합하는지를 정량적·정성적으로 측정하는 절차를 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다. 이 글은 AI의 도움을 받아 작성했습니다.

바이라인네트워크 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →