모델 849건 · 국산 132 · 가격 688 추적 중
AI 안전·정렬·평가

오픈AI 해고 연구원들, AI 추론감시 유지 촉구

AI타임스·2026-10-09

요약

오픈AI에서 해고된 안전 연구원 자스민 왕, 토멕 코르박, 미키타 발레스니 3명이 이사회와 안전 관련 위원회에 공개서한을 보냈다. 이들은 외부 안전 평가기관과의 협력을 강화하고 최첨단 AI 모델의 추론 과정을 감시할 수 있는 능력을 유지해야 한다고 촉구했다. 또 이번 해고가 내부 직원들에게 불이익에 대한 공포, 즉 '위축 효과'를 일으켜 AI 위험을 검증하는 외부 협력 체계에도 악영향을 줄 수 있다고 경고했다. 서한은 8일(현지시간) 공개됐다.

큐레이터 노트

원문에 없는 맥락입니다

해고된 안전 연구원들이 공개적으로 문제를 제기한 사례로, AI 기업 내부의 안전 점검 조직과 경영진 사이의 긴장을 보여준다.

깊이 읽기

이 기사 한 건이 아니라, 같은 사안을 다룬 이 사이트의 기록을 근거로 정리했습니다

이 일이 어디서 왔나

앞서 10월 8일 테크크런치 보도에서 이들 3명은 해고 사유로 지목된 '민감 정보 부적절 취급' 주장을 반박하는 서한을 낸 바 있다. 이번 서한은 그 연장선에서 이사회와 안전 위원회를 직접 겨냥해 외부 평가기관과의 협력, 추론 감시 능력 유지라는 구체적 요구를 담았다. 같은 날 샘 알트먼이 'AI 혜택을 위해 나쁜 일도 감수해야 한다'고 발언한 사실이 알려지고, 청소년 안전장치 실효성 논란까지 겹치며 오픈AI의 안전 대응 전반이 도마에 올랐다.

짚어야 할 점

  • 해고 사유 반박에서 한발 나아가 이사회·안전위원회에 구체적 정책(외부 평가 협력, 추론 감시 유지)을 요구한 점이 이번 서한의 핵심이다.
  • '위축 효과' 경고는 내부 안전 조직뿐 아니라 외부 평가기관과의 협력 관계에도 영향을 줄 수 있다는 주장이어서, 회사 내부 문제를 넘어선 파장을 시사한다.
  • 같은 날 알트먼의 '나쁜 일 감수' 발언, 청소년 안전 기능 미작동 지적이 함께 불거지며 오픈AI의 안전 메시지와 실제 대응 사이 괴리가 부각되는 모양새다.
  • 수학 난제 발표의 검증 부실 논란과 매출 전망 하향 이슈가 겹친 시점에 나온 서한이라, 오픈AI가 여러 신뢰성 문제를 동시에 안고 있는 상황으로 읽힌다.

아직 확인되지 않은 것

  • 회사가 주장한 '민감 정보 부적절 취급'이 구체적으로 무엇인지는 확인되지 않았다.
  • 이사회나 안전 관련 위원회가 이 서한에 어떤 답을 내놓았는지는 나오지 않았다.
  • '추론 감시 능력'이 실제로 축소되거나 제한됐는지, 그 근거가 무엇인지는 확인되지 않았다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

"역게임이론"으로 AI 에이전트 규율한다는 제안
MIT Tech Review · 2026-11-03

안전 연구자들이 AI의 내부 작동을 직접 해석하는 대신, 규칙을 지키는 것이 가장 합리적 선택이 되도록 유인을 설계하는 "역게임이론(메커니즘 설계)" 접근을 제시했다. MIT 경제학자 스티븐 모리스 등은 예일대, 컬럼비아대 동료들과 함께 모델이 테스트에서 일부러 못하는 척(샌드배깅)하지…

오픈AI, 전 美 육군 장관 영입...국방 AI 공략 강화
ZDNet Korea · 2026-11-03

오픈AI가 댄 드리스콜 전 미국 육군 장관을 신설 직책인 '국가안보 현대화 담당 수석 고문'으로 영입했다고 밝혔다. 드리스콜은 경영진과 외부 협력사에 AI를 국가안보·사이버 보안에 활용할 방안을 자문하며 정부·산업계·학계·동맹국 기관을 연결하는 역할을 맡는다. 그는 제26대 육군 장관으…

AI 개발 경쟁에 고객은 뒷전…팔란티어 CEO, 개발사 책임 촉구
ZDNet Korea · 2026-11-03

팔란티어 알렉스 카프 CEO가 3분기 실적 발표와 함께 공개한 주주서한에서 AI 개발사가 고객이 쌓은 가치와 경�쟁력을 빼앗아서는 안 된다고 경고했다. 그는 AI 안전 논의의 '정렬' 개념을 거론하며, AI가 사람 뜻대로 작동하는지뿐 아니라 AI를 만드는 기업이 고객 이익을 해치지 않는…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
추론
추론(Inference)은 학습이 끝난 인공지능 모델이 새로운 입력을 받아 예측이나 답변 같은 출력을 만들어내는 과정을 말한다.
평가
AI 모델이나 시스템의 출력이 원하는 기준에 얼마나 부합하는지를 정량적·정성적으로 측정하는 절차를 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

AI타임스 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →