모델 849건 · 국산 132 · 가격 688 추적 중
AI 안전·정렬·평가

오픈AI, 美 정부에 AI 안전 국제기준 주도 요청

IT조선·2026-09-22

요약

오픈AI가 미국 정부에 첨단 AI의 안전·보안 국제 기준 마련을 주도해달라는 제안서를 공개했다. 월스트리트저널에 따르면 오픈AI는 각국이 향후 등장할 '자기 개선형 AI'를 평가할 공통 기준을 만들고, 새로 발견된 위협을 공유할 보안 채널을 구축해야 한다고 밝혔다. 오픈AI는 미국 AI표준혁신센터가 영국·프랑스·싱가포르 등의 AI 안전기관과 협력해 국제 기준을 마련하는 방안을 제시했다. AI가 스스로 성능을 높이는 단계에 진입하면 예상하지 못한 행동과 보안 위험이 발생할 수 있다는 우려가 배경이다.

큐레이터 노트

원문에 없는 맥락입니다

AI 기업이 자사가 다룰 미래 기술의 국제 안전 기준 마련을 정부에 먼저 제안했다는 점에서, 규제 설계 과정에 업계 목소리가 어떻게 반영될지가 관전 포인트다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

오픈AI "챗GPT 검색량, 구글의 20% 수준"
The Verge AI · 2026-11-03

오픈AI는 월요일 열린 행사에서 챗GPT를 통한 검색 쿼리량이 구글 검색량의 20%에 달한다고 밝혔다. 발표자는 소비자 제품 담당 애덤 프라이로, 단어 정의나 간단한 사용법 설명이 아니라 실제 웹 검색으로 이어지는 입력만 '검색'으로 집계한다고 설명했다. 다만 비교 기준이 된 구글 검색…

스노우플레이크, AI 에이전트용 데이터 허브로 차별화
블로터 · 2026-11-03

데이터 클라우드 기업 스노우플레이크가 오픈AI·앤트로픽과 다른 방식으로 기업용 AI 에이전트 시장을 공략하고 있다. 오픈AI·앤트로픽이 AI의 '두뇌'인 모델을 만드는 반면 스노우플레이크는 그 모델이 다룰 기업 데이터를 한곳에 모으고 통제하는 역할을 맡는다. 2012년 미국에서 설립된 …

"역게임이론"으로 AI 에이전트 규율한다는 제안
MIT Tech Review · 2026-11-03

안전 연구자들이 AI의 내부 작동을 직접 해석하는 대신, 규칙을 지키는 것이 가장 합리적 선택이 되도록 유인을 설계하는 "역게임이론(메커니즘 설계)" 접근을 제시했다. MIT 경제학자 스티븐 모리스 등은 예일대, 컬럼비아대 동료들과 함께 모델이 테스트에서 일부러 못하는 척(샌드배깅)하지…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
평가
AI 모델이나 시스템의 출력이 원하는 기준에 얼마나 부합하는지를 정량적·정성적으로 측정하는 절차를 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

IT조선 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →