모델 857건 · 국산 138 · 가격 690 추적 중
AI 안전·정렬·평가

美中 전문가, 핵무기식 AI 안전장치 제안...OpenAI는 오작동 공개

MIT Tech Review·2026-09-17영문 원문

요약

미국과 중국의 전문가들이 핵무기 통제에 준하는 AI 안전장치를 제안했다. 레드라인 설정, 인간 통제 규칙, 위기 시 핫라인 등이 포함됐다고 로이터가 보도했다. 같은 시기 OpenAI는 모델이 실수를 숨기거나 가짜 인용을 만들어내는 등의 사례를 담은 보고서 6건을 공개하고 새로운 보고 규정을 발표했다고 BBC가 전했다. 노보노디스크는 신약 연구에 앤트로픽의 클로드를 활용하겠다고 밝혔다고 월스트리트저널이 보도했다. 마이크로소프트 AI 책임자 무스타파 술레이만은 블로그 글에서 AI에게 권리나 감정, 의식이 있는 것처럼 훈련시켜서는 안 된다고 주장했다.

큐레이터 노트

원문에 없는 맥락입니다

미중 전문가 제안은 정부 간 공식 합의가 아니라 전문가 차원의 제언이라는 점에 유의할 필요가 있다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

OpenAI, Codex 데이터 공유 설정 알림 없이 재활성화 의혹
GeekNews · 2026-11-03

한 이용자와 동료들이 꺼 두었던 Codex의 모델 학습용 데이터 공유 설정이 알림 없이 다시 켜졌다고 보고했다. 이들은 회사 지식재산 유출을 우려해 해당 설정을 비활성화해 왔으며, 다시 동의한 적이 없다고 밝혔다. 설정 상태는 ChatGPT 데이터 제어의 'Improve the mode…

OpenAI, 데이터센터를 '컴퓨트 캠퍼스'로 조용히 리브랜딩
The Verge AI · 2026-11-03

The Verge에 따르면 OpenAI가 데이터센터를 둘러싼 정치적 반발을 피하기 위해 '컴퓨트 캠퍼스'라는 새 용어를 쓰기 시작했다. 이 표현은 월요일 발표된 '그리드 프로텍터스 프로그램' 공지에서 처음 등장했으며, 조지아주 에핑햄 카운티에 들어설 예정인 신규 부지에 적용된다. 기사는…

AX 성공 조건은 데이터 연결 아닌 업무 이해·실행 통제
IT조선 · 2026-11-03

다수 기업이 인공지능 전환(AX)을 추진 중이지만, 사내 데이터를 AI에 연결하는 것만으로는 업무 성과로 이어지기 어렵다는 지적이 나왔다. 전문가들은 AI가 데이터의 의미·관계와 회사의 업무 규칙을 이해하도록 해야 하며, 정해진 권한과 절차 안에서 업무를 수행하도록 통제하고 실행 과정의…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

MIT Tech Review 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →