MI5 수장 "AI가 생물무기 위험 바꿀 수 있다" 경고

안전 연구자들이 AI의 내부 작동을 직접 해석하는 대신, 규칙을 지키는 것이 가장 합리적 선택이 되도록 유인을 설계하는 "역게임이론(메커니즘 설계)" 접근을 제시했다. MIT 경제학자 스티븐 모리스 등은 예일대, 컬럼비아대 동료들과 함께 모델이 테스트에서 일부러 못하는 척(샌드배깅)하지…

오픈AI가 댄 드리스콜 전 미국 육군 장관을 신설 직책인 '국가안보 현대화 담당 수석 고문'으로 영입했다고 밝혔다. 드리스콜은 경영진과 외부 협력사에 AI를 국가안보·사이버 보안에 활용할 방안을 자문하며 정부·산업계·학계·동맹국 기관을 연결하는 역할을 맡는다. 그는 제26대 육군 장관으…

팔란티어 알렉스 카프 CEO가 3분기 실적 발표와 함께 공개한 주주서한에서 AI 개발사가 고객이 쌓은 가치와 경�쟁력을 빼앗아서는 안 된다고 경고했다. 그는 AI 안전 논의의 '정렬' 개념을 거론하며, AI가 사람 뜻대로 작동하는지뿐 아니라 AI를 만드는 기업이 고객 이익을 해치지 않는…