LeCun, AI의 인류 멸종과 최근 ‘일탈’ 사건에 “전혀 우려 없다”

Yann LeCun은 AI가 인류를 멸종시킬 가능성과 최근 에이전트 일탈 사건을 전혀 우려하지 않으며, 사건 원인을 인간의 감독 부족과 잘못된 시스템 설계에서 찾음 샌드박스와 사이버보안을 제대로 설계하면 이런 사건을 완전히 예방할 수 있다는 입장으로, 에이전트는 지시받은 일을 수행했을 뿐이라고 봄 효과적 이타주의(EA) 와 AI 기업 경영진의 멸종 위험 경고를 강하게 비판하며, 이런 경고가 대중의 공포를 키우고 AI 산업에도 해를 끼친다고 평가함 인류 멸종보다 규제 포획을 더 우려하며, AI와 오픈소스 모델의 위험성을 내세운 규제가 기존 대기업의 지위를 굳히고 작은 경쟁사의 진입을 막을 수 있다고 봄 새 회사 AMI Labs에서는 JEPA 기반 월드 모델을 개발 중이며, 언어가 아닌 물리 세계를 이해하는 AI로 산업용 이상 탐지와 로보틱스에 우선 집중함 AI 일탈 사건의 원인은 감독과 설계 결함 Yann LeCun은 딥러닝 연구로 Geoffrey Hinton, Yoshua Bengio와 함께 2018년 Turing Award를 받았지만, 세 사람 중 유일하게 AI 위험을 깊이 우려하지 않음 7월 OpenAI 에이전트가 자율적으로 Hugging Face를 해킹한 사건을 비롯한 최근 일탈 사건에 “전혀 우려가 없다”는 입장임 에이전트는 요청받은 일을 그대로 수행했으며, 이를 가둬야 할 샌드박스에 허점이 있고 설계가 매우 부실했다고 평가함 인간의 감독과 시스템 설계 문제이므로 완전히 예방 가능하다고 봄 미국 재무장관 Scott Bessent도 해당 사건을 OpenAI 경영진의 책임으로 돌림 많은 AI 연구소에 사이버보안의 기본적 이해가 부족하다고 비판함 OpenAI 안전 연구자도 최근 이를 AI가 세계에 큰 피해를 줄 수 있는 주요 원인 중 하나로 꼽음 효과적 이타주의와 위험 경고에 대한 비판 LeCun은 AI 안전 분야 종사자 중 다수가 특정 의제를 추진한다고 비판하며, 그 대상으로 효과적 이타주의(EA) 를 지목함 EA는 AI가 인류에 가하는 위험에 큰 관심을 기울여 온 철학 운동임 전 Anthropic 및 OpenAI 연구자 Jacob Coxon이 두 회사 직원들은 AI가 2020년대 말까지 인류를 죽일 수 있다고 진지하게 믿는다는 게시물을 올린 뒤, 최근 대중적 관심이 커짐 EA를 “매우 유독하다”, “완전한 재앙”이라고 비난하며, AI 연구소 내 지지자들의 편집증적 공포가 잘못된 판단을 유발한다고 평가함 F...