모델 857건 · 국산 138 · 가격 690 추적 중
AI 안전·정렬·평가

오픈AI, 루프 트랜스포머 신모델 안전성 확보에 집중

AI타임스·2026-10-14

요약

디인포메이션이 13일(현지시간) 관계자들을 인용해 오픈AI가 차세대 주력 AI 모델을 안전하게 출시하기 위해 정렬 작업과 보안 강화에 집중하고 있다고 보도했다. 새 모델에는 '루프 트랜스포머' 설계가 적용되는데, 이는 AI의 추론 과정을 감시하기 어렵게 만들 수 있다. 오픈AI는 경영진이 안전하게 공개할 수 있다고 판단할 수준까지 모델과 테스트 환경의 안전성을 끌어올리는 작업을 진행하고 있는 것으로 전해졌다.

큐레이터 노트

원문에 없는 맥락입니다

추론 과정을 들여다보기 어려운 설계라는 보도 내용은, 모델의 사고 흐름을 살펴 위험을 점검하는 기존 방식의 효과를 제한할 수 있는 지점이다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

샘 올트먼, RAM 발언 논란에 해명 나서
The Verge AI · 2026-11-04

오픈AI CEO 샘 올트먼이 PC 메모리(RAM) 구매에 관한 자신의 발언이 맥락 없이 전달됐다며 반박했다. 그는 X 계정명을 'Ram Altman'으로 바꾸고, 사람들이 원하는 만큼 메모리를 컴퓨터에 넣을 수 있어야 한다는 입장을 밝혔다. 그는 자신이 세계적인 메모리 생산 확대를 오랫…

힌튼 "AI 없었다면 더 나았을 수도"
GeekNews · 2026-11-04

제프리 힌튼은 AI가 풍요로운 미래를 열 가능성을 인정하면서도, 위험 관리에 실패하면 빈부 격차와 대량 실업으로 사회가 무너질 수 있으며 10년 이내에 그 향방이 드러날 것이라고 밝혔다. 그는 2026년 말이나 2027년에 AI를 이용한 공격으로 전력 공급이나 금융 시스템이 일시적으로 …

오픈AI "챗GPT 검색량, 구글의 20% 수준"
The Verge AI · 2026-11-03

오픈AI는 월요일 열린 행사에서 챗GPT를 통한 검색 쿼리량이 구글 검색량의 20%에 달한다고 밝혔다. 발표자는 소비자 제품 담당 애덤 프라이로, 단어 정의나 간단한 사용법 설명이 아니라 실제 웹 검색으로 이어지는 입력만 '검색'으로 집계한다고 설명했다. 다만 비교 기준이 된 구글 검색…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
트랜스포머
트랜스포머는 입력 시퀀스의 모든 토큰 쌍 사이의 관계를 어텐션 메커니즘으로 직접 계산하여 문맥을 파악하는 신경망 아키텍처를 말한다.
추론
추론(Inference)은 학습이 끝난 인공지능 모델이 새로운 입력을 받아 예측이나 답변 같은 출력을 만들어내는 과정을 말한다.
정렬
AI 시스템의 행동과 산출물이 인간이 의도한 목표, 가치, 지시와 어긋나지 않도록 만드는 기법과 연구 분야를 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

AI타임스 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →