"AGI 통제권 확보, 지금이 마지막 골든타임"

호주 싱크탱크 공공윤리센터(Centre for Public Integrity)가 'Computer Says No' 보고서를 발표하며, 알바니지 정부가 투명성과 관련 법제 없이 알고리즘과 AI를 활용한 자동화된 의사결정(ADM)을 확대해 과거 로보뎁트 사태를 재연할 위험에 처해 있다고 경…

안전 연구자들이 AI의 내부 작동을 직접 해석하는 대신, 규칙을 지키는 것이 가장 합리적 선택이 되도록 유인을 설계하는 "역게임이론(메커니즘 설계)" 접근을 제시했다. MIT 경제학자 스티븐 모리스 등은 예일대, 컬럼비아대 동료들과 함께 모델이 테스트에서 일부러 못하는 척(샌드배깅)하지…

다수 기업이 인공지능 전환(AX)을 추진 중이지만, 사내 데이터를 AI에 연결하는 것만으로는 업무 성과로 이어지기 어렵다는 지적이 나왔다. 전문가들은 AI가 데이터의 의미·관계와 회사의 업무 규칙을 이해하도록 해야 하며, 정해진 권한과 절차 안에서 업무를 수행하도록 통제하고 실행 과정의…