AI 안전, 속도 조절만으론 부족하다

오픈AI는 월요일 열린 행사에서 챗GPT를 통한 검색 쿼리량이 구글 검색량의 20%에 달한다고 밝혔다. 발표자는 소비자 제품 담당 애덤 프라이로, 단어 정의나 간단한 사용법 설명이 아니라 실제 웹 검색으로 이어지는 입력만 '검색'으로 집계한다고 설명했다. 다만 비교 기준이 된 구글 검색…

데이터 클라우드 기업 스노우플레이크가 오픈AI·앤트로픽과 다른 방식으로 기업용 AI 에이전트 시장을 공략하고 있다. 오픈AI·앤트로픽이 AI의 '두뇌'인 모델을 만드는 반면 스노우플레이크는 그 모델이 다룰 기업 데이터를 한곳에 모으고 통제하는 역할을 맡는다. 2012년 미국에서 설립된 …

안전 연구자들이 AI의 내부 작동을 직접 해석하는 대신, 규칙을 지키는 것이 가장 합리적 선택이 되도록 유인을 설계하는 "역게임이론(메커니즘 설계)" 접근을 제시했다. MIT 경제학자 스티븐 모리스 등은 예일대, 컬럼비아대 동료들과 함께 모델이 테스트에서 일부러 못하는 척(샌드배깅)하지…