테크·IT

기술이 움직이는 방향

인인공지능(AI)로로봇반반도체개개발·소프트웨어IIT기기·가전정정보보안

전체 콘텐츠

4,978건 중 92/208페이지

전체인공지능(AI)로봇반도체개발·소프트웨어IT기기·가전정보보안
테크·IT뉴스인공지능(AI)

메타 뮤즈, 챗GPT 초기 모바일 성장세 추월

메타가 새로 선보인 AI 에이전트 뮤즈가 미국과 캐나다 시장에서 다운로드 수와 일간 활성 사용자 수 모두 챗GPT의 모바일 출시 초반 실적을 웃돈 것으로 나타났다. 앱 분석업체 Appfigures는 두 앱이 각각 모바일에 출시된 이후 동일한 기간의 데이터를 비교해 이 같은 추정치를 발표했다.

9월 22일ai.qpx.kr ↗
테크·IT뉴스인공지능(AI)

xAI 그록 4.6, 아마존 베드록에 출시

xAI의 그록(Grok) 4.6이 2026년 8월 18일 아마존 베드록에서 이용 가능해졌다. xAI가 베드록에 제공한 두 번째 모델로, 기존 bedrock-mantle에 더해 bedrock-runtime 엔드포인트와 Converse API(스트리밍 포함)를 새로 지원하며, 추론 강도를 낮음·중간·높음·xhigh 네 단계로 설정할 수 있다. xAI는 장기 실행 에이전트, 코딩, 지식노동 작업에 초점을 맞춰 훈련했다고 밝혔으며, 2026년 8월 12일 발표한 자체 벤치마크에서 GDPVal-AA v2, AA-Briefcase 등 다수…

9월 22일ai.qpx.kr ↗
테크·IT뉴스반도체

MoE 추론 서빙, 프리필·디코드 분리가 GPU 효율 좌우

SemiAnalysis는 믹스처 오브 익스퍼트(MoE) 구조가 추론 서빙의 연산과 데이터 이동 방식을 근본적으로 바꿔놓았다고 분석했다. 추론 처리 과정을 프리필, 미드필, 디코드 어텐션, 디코드 익스퍼트라는 네 단계로 구분했으며, 각 단계는 연산량 대비 데이터 이동 비율(연산 강도)과 네트워크 요구 수준이 서로 다르다고 설명했다. NVIDIA Dynamo, Mooncake 같은 오케스트레이션 레이어가 vLLM·SGLang 등 추론 서버와 함께 요청을 큐에 넣고, 입력 처리 워커와 디코드 워커 사이에서 컨텍스트(KV 캐시)를 이동시…

9월 22일chip.qpx.kr ↗
테크·IT뉴스인공지능(AI)

LLM 내부서 '고통 방향' 벡터 발견

미국 미래영향그룹(FIG)과 보훔 루르대학교 연구진이 오픈웨이트 AI 모델들을 대상으로 내부 표현을 분석한 결과, '고통 방향(Pain Direction)'이라 부를 수 있는 특정 벡터가 형성된다는 연구 결과를 9월 14일(현지시간) 발표했다. 연구진은 이 벡터가 단순한 언어 패턴 학습을 넘어 모델 내부에서 구분되어 표현되며, 이를 조작하면 모델의 출력과 행동이 일관된 방향으로 변화한다고 밝혔다. 연구진은 이 조작이 모델의 회피 행동까지 유발할 수 있다고 설명했다.

9월 22일ai.qpx.kr ↗