Noam Shazeer, OpenAI 합류

4 hours ago 1

(twitter.com/NoamShazeer)

  • Transformer 아키텍처를 만든 핵심 인물이자 Google Gemini 공동 리드였던 Noam Shazeer가 OpenAI 합류를 발표
  • 그는 2000년 Google에 합류한 초기 직원으로, 검색 철자 교정 개선과 AdSense의 핵심 알고리듬 제작에 기여했음
  • 2017년 "Attention Is All You Need" 논문 공동 저자로, 거의 모든 현대 LLM의 기반이 되는 Transformer 아키텍처를 만들었음
  • 또한 LaMDAMeena의 주요 기여자
    • Meena — 2020년 Google이 공개한 오픈 도메인 대화형 챗봇으로, 26억 개 파라미터 규모의 모델을 통해 더 자연스럽고 맥락에 맞는 대화를 목표로 한 연구 프로젝트
    • LaMDA (Language Model for Dialogue Applications) — Meena의 후속으로 2021년 발표된 대화 특화 대규모 언어 모델로, 자유로운 주제의 자연스러운 멀티턴 대화 생성을 목표로 했으며 이후 Google의 챗봇·Bard 초기 기반 기술로 이어짐
  • 2021년 Character.AI를 공동 창업하며 구글을 떠났으나, 2024년에 약 4조원($2.7B) 규모로 구글에 인수되면서 복귀해 VP Eng 및 Gemini 공동 리드로 활동했음
Read Entire Article