테크·IT가이드인공지능(AI)
헌법적 AI
사람이 응답마다 선호를 직접 라벨링하는 대신, 미리 정한 원칙(헌법) 집합을 기준으로 AI가 스스로 자기 응답을 비판하고 수정하도록 훈련하여 정렬시키는 기법을 말한다.
8월 28일ai.qpx.kr ↗
인공지능(AI)에서 3,366건
사람이 응답마다 선호를 직접 라벨링하는 대신, 미리 정한 원칙(헌법) 집합을 기준으로 AI가 스스로 자기 응답을 비판하고 수정하도록 훈련하여 정렬시키는 기법을 말한다.
사람이 어느 응답을 더 선호하는지 표시한 비교 데이터만으로, 별도의 보상 모델이나 강화학습 단계 없이 언어모델을 직접 최적화해 정렬시키는 기법을 말한다.
구조화 출력이란 AI 모델이 자유 형식 문장 대신 JSON 등 미리 정의된 스키마를 따르는 형태로 응답을 생성하도록 하는 방식을 말한다.
