모델 851건 · 국산 132 · 가격 690 추적 중
AI 안전·정렬·평가

MIT, 안전 필수 분야용 생성AI 제약 충족 기법 개발

MIT News (AI)·2026-09-14영문 원문

요약

MIT 연구진이 확산모델·플로우매칭 모델 같은 생성AI가 로봇 경로 계획 등 안전이 필수적인 문제에서 반드시 지켜야 하는 '하드 제약'을 만족시키도록 돕는 HardFlow 기법을 개발했다. 기존 방식은 생성 과정의 모든 중간 단계에서 제약을 강제해 최종 해의 품질을 떨어뜨렸지만, HardFlow는 최종 출력에서만 제약을 강제해 모델이 더 자유롭게 탐색하도록 한다. 로봇 조작, 미로 탐색, 텍스트 기반 이미지 편집 실험에서 제약을 완벽히 만족하면서 기존 방법보다 나은 해를 찾았다고 연구진은 밝혔다. 이 방법은 사전학습된 생성모델을 재학습 없이 배포 단계에서 바로 적용할 수 있다. 연구는 IEEE Transactions on Pattern Analysis and Machine Intelligence에 게재됐다.

큐레이터 노트

원문에 없는 맥락입니다

제약을 매 단계가 아닌 최종 출력에만 걸어 생성 자유도와 안전성을 동시에 확보한 접근으로, 재학습이 필요 없어 기존 사전학습 모델에 바로 적용 가능하다는 점이 실용적 의미를 갖는다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

AI가 다른 AI 가중치 수정해 재학습 없이 성능 향상
AI타임스 · 2026-11-04

MIT 연구진은 2일(현지시간) AI 모델이 다른 신경망의 가중치를 직접 분석하고 수정하는 '가중치공간 프로그래밍' 연구 결과를 공개했다. 추가 데이터 학습 없이 전체 가중치의 0.016%만 변경해 수학 평가 점수를 6배 이상 끌어올렸다. 벤처비트는 이 기법을 신경망의 '유전자 편집'에…

ETRI 대경권본부 20년…대경권 '피지컬 AI' 거점으로
전자신문 IT · 2026-11-03

ETRI 대경권연구본부가 설립 20주년을 맞아 변우진 본부장이 인터뷰를 통해 성과와 방향을 밝혔다. 자동차·기계부품에 임베디드 소프트웨어를 접목하던 초기 연구에서 출발해 현재는 AI 기반 도시 인프라, 로보틱스, 디지털 헬스케어 등으로 연구 영역을 확장했다고 설명했다. 기업의 기술 수요…

크래프톤, 로봇용 AI '루디 0.2' 공개
IT조선 · 2026-11-02

크래프톤의 로보틱스 연구법인 루도 로보틱스가 10월 30일(현지시각) 미국 UC 버클리에서 열린 '2026 베이 지역 로보틱스 심포지엄(BARS)'에서 로봇용 AI 시스템 '루디 0.2'를 발표했다. 발표는 이강욱 크래프톤 최고AI책임자(CAIO) 겸 루도 로보틱스 최고기술책임자(CTO…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
사전학습
사전학습은 특정 작업에 맞춰 조정되기 전에, 대량의 텍스트나 데이터로부터 언어와 세계에 대한 일반적인 패턴을 모델이 스스로 학습하는 과정을 말한다.
학습
학습은 모델이 데이터를 반복적으로 살펴보며 예측 오차를 줄이는 방향으로 내부 파라미터를 조정해 나가는 과정을 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

MIT News (AI) 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →