'휴먼 인 더 루프', 실제론 중단 권한 없는 형식적 승인일 뿐

다수 기업이 인공지능 전환(AX)을 추진 중이지만, 사내 데이터를 AI에 연결하는 것만으로는 업무 성과로 이어지기 어렵다는 지적이 나왔다. 전문가들은 AI가 데이터의 의미·관계와 회사의 업무 규칙을 이해하도록 해야 하며, 정해진 권한과 절차 안에서 업무를 수행하도록 통제하고 실행 과정의…

AI 에이전트에게 코딩을 맡기고 확인 작업만 하게 된 수석 개발자의 이야기를 담은 단편소설이다. 꽃 배달 서비스에서 반복되는 주문 누락의 원인이 서버와 창고의 시각 차이로 추정되지만, 에이전트는 창고 접근 권한이 없어 개발자에게 직접 주문 대기열을 확인해 달라고 요청한다. 개발자는 횡단…

국내 솔루션 기업들이 생성 AI와 AI 에이전트를 기업이 정한 정책과 범위 안에서만 움직이도록 통제하는 'AI 가드레일' 시장에 뛰어들고 있다. AI 가드레일은 AI의 입력과 출력, 행동을 정해진 기준 안에 묶어두는 안전장치로, 입·출력을 판정·차단하는 좁은 범위의 제품부터 개발·운영 …