리우데자네이루의 “자체 개발” LLM이 기존 모델의 병합으로 보임

1 hour ago 3

GitHub 상태는 Open이며, a778c1ec4e21180ee55c3ea016a348e549e75f09 README 문구는 모델이 Nex-N2-Pro와 Qwen3.5-397B-A17B의 병합으로 만들어졌고 더 강한 모델의 On-Policy Distillation을 거쳤으며 이전 버전에 최종 distilled 모델 대신 base merged version이 잘못 업로드됐다고 기재
핵심 문제 제기는 prefeitura-rio/Rio-3.5-Open-397B가 IplanRIO가 학습한 original 397B model로 제시됐지만, 가중치가 Nex와 Qwen의 약 0.6/0.4 직접 원소별 병합이고 자체 학습 증거가 없다는 것
하드코딩된 “You are Rio” 시스템 프롬프트를 제거하고 rio-397b에 120개 정체성 질문을 보낸 결과, Nex 응답 79.2% (95/120), Nex-AGI 응답 73.3% (88/120), Rio 응답 0.0% (0/120)이었다는 측정 결과
프롬프트 제거 상태의 응답 예시는 “I am Nex, from Nex-AGI”와 “Nex-AGI is a large-model ecosystem alliance” 및 “Shanghai Innovation Institute”를 포함했으며, 해당 문구가 Nex identity data의 조직 설명을 거의 그대로 재현했다는 사례
가중치 분석은 (Rio − Qwen) = α × (Nex − Qwen) 관계를 텐서별로 측정했고, cos_fit이 독립 모델에서는 ≈ 0, 병합에서는 ≈ 1이라는 기준으로 collinearity를 비교한 방식
측정값은 routed experts에서 α = 0.571 ± 0.0016, cos_fit = 0.993, lm_head에서 α = 0.574, cos_fit = 0.991, attention에서 α ≈ 0.585, cos_fit ≈ 0.986, linear-attention projections에서 α ≈ 0.586, cos_fit ≈ 0.984라는 수치
README 수정 공유 뒤 00INDEX는 해당 credit이 한 시간 전에 업데이트된 것을 말하는지 되물었고, yhcc는 다음 날 모델 업로드 여부를 보자는 반응
공공자금 여부는 별도 쟁점으로 이어졌으며, 한 댓글은 “No public funds were used”라고 적힌 X 링크를 공유했고 다른 댓글은 시장 발언 X 링크를 제시했으며, 이후 인용 이미지에는 “no public money was spent on this model training” 문구가 포함됨

Read Entire Article

리우데자네이루의 “자체 개발” LLM이 기존 모델의 병합으로 보임

Related

Show GN: tradingcodex - 코덱스를 자산운용사로 바꿔주는 하네스

ReactOS “오픈소스 Windows”, Half-Life 실행 가능이라는 이정표에 도달

Show GN: AI 답변 복붙하면 이모지·마크다운을 깔끔하게 정리해주는 도구

Show GN: Gukhanmun: 국한문을 한글 전용으로 바꾸는 Rust/JavaScript 라이브러리

M1 Max 컴퓨터와 로컬 ML 모델로 669GB GoPro 영상을 인덱싱함

당신의 ePub은 정상입니다

Show GN: 예/아니오 질문으로 사건을 푸는 AI 추리 퀴즈 앱 CaseRoom을 만들었습니다

AI 에이전트를 위한 Playwright E2E 테스트 하네스 구축하기

Tips

Trending

Popular

트럼프 “美·나이지리아군, ‘IS 2인자’ 제거… 글로벌 작전 능력 축소”

“트럼프, 中이 원하는 대만 발언 안해…양측 긴장 유지될 것”

What's new in Chrome from Google I/O 2026

'통한의 극장골 실점 패배' 주승진 김천 감독 "뒷심이 부족했다" [전주 현장]

[전화성의 기술창업 Targeting] 〈395〉 [AC협회장 주간록105] 마이클 잭슨 자산과 스타트업 경...

React Doctor — AI가 생성한 React 코드를 정적 분석으로 검증하는 진단 도구

[헬스캡슐]은행잎 추출물, ‘베타아밀로이드 응집 억제’ 효과 확인 外

테슬라, 로봇택시 사고 17건 경위 공개…원격 조종자 개입도 사유?

현대엔지니어링, 굿윌스토어와 10년 동행… 발달장애인 자립 지원 확대

'마이클 잭슨을 넘어섰다'...드레이크 14번째 빌보드 1위, 솔로 남성 최다 신기록