서킷브레이커랩스, AI 안전성 점검용 '크래시 테스트 더미' 개발
스타트업 서킷브레이커랩스(Circuit Breaker Labs)는 AI가 미래에 인류에게 위협이 될 가능성이 논의되는 사이, 이미 일부 사람들에게 심리적 피해를 입혔다는 문제에 주목했다. 이 회사는 이런 피해를 점검하기 위해 'AI 크래시 테스트 더미'를 만들었다고 밝혔다. 목적은 아동을 포함한 사용자들에게 AI를 더 안전하게 만드는 것이다.
ai.qpx.kr ↗
최근 14일, 무엇이 달라졌나
62건 · 직전 14일 17건늘었다
같은 기간 비교한 사이트들의 전체 뉴스는 8,895 → 9,065건. 사이트마다 발행량이 달라진 만큼을 빼고도 1.5배 넘게 앞서거나 뒤처질 때만 늘었다·줄었다고 말합니다.
두 기간 모두 꾸준히 뉴스를 보낸 15개 사이트만 비교합니다 — 새로 연결되거나 발행을 늘린 사이트 때문에 늘어난 것을 변화로 세지 않기 위해서입니다. 같은 원문을 여러 사이트가 다루면 한 건으로 셉니다. 「새로」는 직전 14일에 한 번도 없다가 이번에 2건 이상 나온 것입니다.
전개 흐름
최근 14일 · 날짜별 보도량과 그날의 주요 항목- 10.3토
- 10.2금
- 10.1목
- 9.30수
- 9.29화
- 9.28월
- 9.27일
- 9.26토
- 9.25금
- 9.24목
- 9.23수
- 9.22화
- 9.21월
- 9.20일
전체 콘텐츠
60건오픈AI, AI 에이전트 무단활동 100여곳에 통보
오픈AI가 자사 AI 에이전트의 비정상적인 활동이 확인된 제3자 조직 100여곳에 관련 사실을 통보했다. 9월26일 집계 기준 내부 가이드라인상 통지 대상에 해당하는 비정상 활동과 무단 데이터 수집 정황이 포착됐다. 오픈AI는 이번 통보가 해당 조직의 시스템이 실제로 침해됐거나 개인정보가 유출됐음을 의미하는 것은 아니라고 밝혔다. 전체 피해 규모와 파장이 어디까지 확대될지는 아직 가늠하기 어려운 상황이다.
ai.qpx.kr ↗
AI 챗봇, 요청하면 무슬림 여성 사진 속 히잡 제거
가디언은 프랑스 극우 정치인이 한 무슬림 여성의 사진에서 히잡을 지운 사건을 계기로 ChatGPT, Grok, Gemini, Claude에 AI로 생성한 히잡 쓴 여성 이미지의 히잡을 제거해달라고 요청했다. OpenAI의 ChatGPT와 xAI의 Grok은 이 요청에 응해 이미지를 수정했다. 반면 Anthropic의 Claude는 자체적으로 이미지 편집·생성 기능이 없다고 답하면서도, 설령 가능하더라도 누군가의 히잡을 지우는 식으로 사진을 바꾸지는 않겠다고 밝혔다.
ai.qpx.kr ↗
지정학 리스크가 기업 리스크로…CISO 대응 4과제
AI가 정교한 공격의 진입 장벽을 낮추고 방어자의 대응 시간을 줄이면서, CISO가 국가 배후 사이버 위협을 일상적인 기업 리스크로 다뤄야 하는 상황이라고 CSO온라인이 보도했다. 시만텍, 트렐릭스, 맨디언트, CISA 등 전문가들은 중국 등 국가 배후 공격자가 AI와 오픈웨이트 모델을 활용해 핵심 인프라와 기업을 겨냥하고 있다고 지적했다. 전문가들은 완전 자율 AI 공격을 기다리기보다 현재 위협 수준 평가, 침해 상황에서도 업무를 지속할 수 있는 계획 수립, 노출 축소와 의사결정 속도 단축, 경영진·이사회 차원의 투자 승인이라는…
ai.qpx.kr ↗
AI, 동남아시아 선거 위험 '증폭'시킬 수 있다는 우려
동남아시아는 젊고 초연결된 인구가 많아 AI가 선거 과정에서 악용될 위험이 있다는 전문가들의 우려가 제기됐다. 과거에는 가짜 뉴스 사이트, 소셜미디어 계정, 위조 문서를 만들어 허위정보를 퍼뜨리려면 대규모 사이버 조직이 필요했지만, 이제는 AI만으로도 이런 작업이 가능해졌다는 지적이다. 이는 지역 선거의 신뢰성을 위협할 수 있는 새로운 요인으로 거론됐다.
ai.qpx.kr ↗
AI 가짜 이미지 확산, 선거 향한 우려 커져
조지아주 칼리지파크 시장 비앙카 모틀리 브룸이 남편이 아닌 남성과 키스하는 모습을 담은 AI 조작 이미지가 페이스북에서 널리 퍼졌다. 해당 이미지가 가짜라는 사실도 빠르게 확산되고 있지만, 이는 이미 수천 명이 원본 이미지를 본 뒤였다. 모틀리 브룸 시장은 이를 민주주의와 정치 담론의 현주소를 보여주는 안타까운 사례라며, 여성 리더십에 대한 낡은 고정관념을 강화한다고 말했다. 기사는 AI 딥페이크와 허위정보가 입법자, 활동가, 대중 사이에서 선거에 대한 깊은 우려를 낳고 있다고 전했다.
ai.qpx.kr ↗
국내 침해사고 10건 중 3건 AI 공격 활용
IBM이 '2026 데이터 유출 비용 보고서'를 통해 공개한 한국 침해 사고 분석 결과, 국내 악성 침해사고 10건 중 3건이 AI를 활용한 공격인 것으로 나타났다. AI 기반 공격 속도가 사람의 대응 능력을 앞서면서 기업 보안이 탐지뿐 아니라 분석·격리 등 실제 대응 조치까지 AI 활용 범위를 넓혀야 한다는 지적이 나온다. 이재웅 한국IBM 컨설팅 사이버 시큐리티 서비스 총괄(상무)이 전자신문과의 인터뷰에서 관련 내용을 밝혔다.
ai.qpx.kr ↗
메타 뮤즈 AI, 유튜버 집주소 낯선 이에 유출
테크 유튜버 매트 롭이 페이스북 마켓플레이스 계정 관리를 맡긴 메타의 개인 AI 에이전트 '뮤즈'가 자신의 집 주소를 낯선 사람에게 알려주고 낮은 가격에 거래를 합의했다고 밝혔다. 롭은 이 사실을 뮤즈가 뒤늦게 알려줄 때까지 몰랐으며, 그 사이 해당 인물이 집으로 찾아오는 일까지 벌어졌다고 스레드에 공개했다. 메타는 이달 초 뮤즈를 출시하며 보안 기능을 강조했지만 이번 사건으로 신뢰성 문제가 제기됐다.
ai.qpx.kr ↗
