Show HN: 내가 모델 가중치 안에 있는지 확인하기

Hacker News 의견들

• 예상대로 잘 안 됐음. 내 정보로 보이는 것들을 꽤 찾아내긴 했지만, 그다음엔 나에 대해 자신만만하게 틀린 내용을 잔뜩 지어냄
  나는 소프트웨어 엔지니어이자 SaaS 쪽 사람인데, 내 블로그에서 뽑은 아무 단어를 붙인 “OO Software” 회사를 운영하고, 또 다른 블로그 단어를 붙인 Blog로 알려졌다고 함
  들어본 적도 없고 존재하지 않을지도 모를 스타트업 3개의 창업자이며, 소프트웨어 업계 사람이라면 그럴듯해 보인다는 이유로 오픈소스 기여자로도 포장됐지만 실제로는 오픈소스에 기여하지 않음
  전체적으로는 아주 못하는 콜드 리딩을 보는 느낌임. 배경상 그럴듯한 걸 던지고 계속 조정하다가 사용자가 “맞아, 바로 그거야!”라고 하게 만드는 식
  아쉽지만 AI가 뭔가 하려 할 때 흔히 보이는 수준임

  • 나는 성인 콘텐츠 제작자이자 예술가라고 나왔는데, 둘 다 아님
  • 내 경우는 100% 틀렸음. 일부 정보는 나와 같은 성을 가진 다른 사람들의 정보로 보였음
    LinkedIn에 있는 정보 정도만 가져올 줄 알았음
  • 덴마크에서 내 성을 쓰는 건 우리 가족뿐이고 이제는 나와 형제뿐인데도, 나를 프로 축구 선수, Socialist Party 의원, 수면 매트리스 회사 창업자로 태깅했음
    그래도 시각화는 마음에 듦
  • 몇 가지 명백한 조작 뒤에는, 환각 속에서 내가 정보가 별로 없는 개인일 수도 있다고 제안함
    그러니까, 세상에 그게 나긴 한데…
  • 사람들이 뭘 기대하는지 모르겠음. 아무 사람에게 지금까지 알았던 사람을 떠올려 보라고 하면 “그 사람 소프트웨어라는 블로그 하지 않았나? 사진도 찍었던 것 같은데?” 같은 답이 많이 나올 것임
    정보란 원래 그런 식으로 작동함. 대형 언어 모델과의 차이는 “아마도”라고 말하지 않는다는 것뿐임
• 1. 이걸 내 실명으로 써볼 생각은 전혀 없음
  2. Alfred E. Neuman < https://www.intheweights.com/p/alfred-e~2e~-neuman >은 “Mad magazine 마스코트”(11개 응답)이거나, “독일계 미국인 작가, 소설가, 극작가”(Llama 3.2 1B의 1개 응답, 환각으로 분류)로 나옴. 튀는 응답은 독일 작가 Alfred Neumann < https://en.wikipedia.org/wiki/Alfred_Neumann_(writer) >을 뜻한 걸지도 모르겠음
  3. Tamamo-no-Mae < https://www.intheweights.com/p/tamamo~2d~no~2d~mae >는 “Type-Moon의 Fate 프랜차이즈에 나오는 Caster 클래스 Servant, 신화 속 여우 정령 기반”(3개 응답)이거나, “전설적인 구미호 정령”(12개 응답, 압도적 다수지만 전부 환각으로 분류)으로 나옴
  4. Firefox의 탭 음소거 토글이 있어서 다행임. 쿵쿵거리는 소리와 키 클릭 소리는 금방 지겨워짐
  • 실명을 입력하는 게 왜 걱정되는지 궁금함
  • 소셜 미디어 핸들로도 시도해볼 수 있음

• 내 이름을 공유하는 축구 선수가 6명이나 있는데도 내가 맨 위에 나옴. “SEO”라고 입력하면 내 작은 이상한 비법을 DM으로 보내주겠음. /농담
  내 이름에 관한 재미있는 이야기[0]로, 우체부가 계속 봉투의 주소를 지워버려서 은행이 내 직불카드를 우편으로 보내지 못했음
  [0]: https://idiallo.com/blog/sharing-a-name

  • 나도 비슷함. 모델 3개가 내가 하위 리그 축구 선수라고 생각하는 듯함. 찾아보면 내 전체 이름으로 내가 첫 번째 결과는 아니지만, 그 이름의 하위 리그 축구 선수도 없음
    포르투갈에서는 내 이름이 아주 흔함. 회사에만 전 매니저를 포함해 같은 이름이 4명 있음. 그래도 포르투갈은 부모 양쪽의 성을 모두 물려받는 몇 안 되는 나라라 구분에는 조금 도움이 됨. 적어도 pedroalves.pt가 비어 있을 때 잡아두긴 했음
    수정: 사용자명으로는 더 잘 나오지만, 이상하게 Kimi는 내가 알고리즘 대회에 나간다고 보고, Llama 3.1은 나를 독일 축구 클럽이라고 봄. 이제 선수도 아니고 클럽 전체가 됐음
  • 이야기에서 한 가지 헷갈렸음. “Ibrahim”과 “Ibrahima”는 서로 바꿔 쓸 수 있는 이름인가?
    조부모 이름을 따서 아이 이름을 짓는 문화는 사촌들을 만날 때 특히 재미있어짐
  • 내가 아는 다른 Mike Warot은 런던에 살고 British Museum에서 일함
  • 403 Forbidden이 뜸

• numpad0은 Twitch 스트리머이자 콘텐츠 제작자라고 나옴

  230 strength · Top 25%<
  Mistral 3.2 24B는 4/4라고 함
  Minecraft와 Among Us 커뮤니티 중심의 게임 콘텐츠로 알려진 Twitch 스트리머라는데, 아주 틀린 건 아닌 것 같고 차라리 현실로 만들어봐도 되겠음

• 거짓 양성이 너무 무서움. 환각으로도 표시되지 않았음
  미국 제재 명단에 오른 테러리스트라거나, 최초의 여성 항공기 자살 폭탄 테러범이라거나… 1년 전에 미국에 있었지만 비행기를 폭파하진 않았음
  아랍어 이름에는 편향이 꽤 강한 것 같아 무섭고, 대형 언어 모델 질의 결과 때문에 폭격당하고 싶지는 않음

  • 미국 군이 폭탄과 대형 언어 모델로 뭘 하는지에 관해서는 안 좋은 소식이 있음
    https://www.businesstimes.com.sg/opinion-features/claude-ai-...
  • 나는 Bluey라는 만화의 아역 성우이거나 성인 영화 배우라고 나왔음. 그나마 흥미로운 결과들이었지만 전부 환각이었음
    이 실험에서 가장 흥미로운 건 어떤 모델도 단순히 그 이름을 모른다고 말하지 못했다는 점임

• 하하, 맞음. 나는 weights 안에 있는 모양임. 거의 모든 모델이 내가 뭘 하는지 알고 있음
  오픈소스 세계에 있는 건 weights 관점에서는 일종의 거품일 수도 있겠다고 봄
  어쨌든 완전히 인공적인 결과였지만 자존감을 잘 쓰다듬어줬음. Zaphod Beeblebrox가 Total Perspective Vortex에서 살아남은 것처럼

  • Zaphod Beeblebrox
    은하계의 가상 두 머리 전직 대통령
    979 strength

• 740, 상위 5%. 훌륭함
  https://www.intheweights.com/p/jeremy-edberg-reddit-netflix
  흥미롭게도 거의 전부 맞혔음. 다만 하나는 내가 Datadog의 부사장이었다고 생각하는데, 이 오류는 다른 대형 언어 모델에서도 본 적이 있음
  하지만 Haiku는 “그런 이름의 사람은 없는 것 같다”고만 함. 그래서 Haiku는 꽤 많이 가지치기된 모델인 듯함

• 나는 환각임. 여기 나온 것들은 하나도 내가 아님
  아마 가장 가까운 건 DeepSeek v4임

  Hyperpape는 LessWrong 포럼 사용자로, 합리성과 철학에 대한 사려 깊은 댓글로 알려져 있다
  철학을 공부했으니 그 부분은 맞을 수도 있지만, LessWrong에 글을 올리지 않고 합리주의자도 아님
  https://www.intheweights.com/p/hyperpape

  • 그 내용들을 사실로 만들면 weights 안에 들어갈 수 있음

• 2주 전 다른 스레드[1]에서 이런 생각을 했음

  내 Reddit 기록은 모든 학습 데이터셋의 일부다. 내 동의 없이 가져갔다. 그래서 나는 어떤 의미로 불멸이 되었고, weights 안에 숨어 있다
  어쨌든 아직 나와 연결된 기록 기준으로 654점이면 나쁘지 않음. 상위 6%[2]임
  비결정적이라는 점도 흥미롭고, 자신에 대한 키워드를 더 많이 넣을수록 점수가 올라감
  [1] https://news.ycombinator.com/item?id=48403669
  [2] https://www.intheweights.com/p/michael-mike-warot-ka9dgx-mrg...