갤러리 이슈박스, 최근방문 갤러리
개념글 리스트
1/3
- 대형마트 규제 커뮤니티 반응 ㅇㅇ
- 싱글벙글 오사카 엑스포 후기 ㅇㅇ
- 네오플이 카잔을 만든 이유 호리베
- 타블로, "타진요 사건 연예인도 끼어있었다" ㅇㅇ
- 붉바리에 대해 알아보자 수산물학살자
AGI는 세계를 이해해야만 한다: 구글 딥마인드의 수학적 증명
AGI는 세계를 이해해야만 한다:구글 딥마인드의 수학적 증명
"다양한 목표 달성 능력 = 환경 예측 모델 보유" 수학적으로 입증
모델-프리 AI의 근본적 한계 드러나
만약 로봇이 "부엌에서 설거지를 하고 충전소로 돌아오기"라는 임무를 수행할 수 있다면, 그 로봇은 이미 집의 구조를 알고 있는 것이다.
2025년 6월 2일, 구글 딥마인드의 조너선 리첸스(Jonathan Richens), 데이비드 아벨(David Abel), 알렉시스 벨로(Alexis Bellot), 톰 에버릿(Tom Everitt) 연구팀이 이 직관적 사실을 수학적 정리로 증명했다.
왜 이 연구가 중요한가?
현재 AI 업계는 ChatGPT의 성공에 고무되어
"세계 모델 없이도 일반 지능이 가능하다"고 믿고 있다.하지만 이 연구는 그것이 수학적으로 불가능함을 증명했다.
어떤 형태로든 세계 모델 학습은 필수다.
🔼 AI 연구의 세 축. 계획은 세계 모델+목표→정책, 역강화학습은 정책+세계모델→목표.이번 연구는 정책+목표→세계모델이 가능함을 증명했다.
핵심 정리: 능력이 곧 이해다
연구팀의 증명(Theorem 1)은 놀랍도록 직관적이다. AI가 다양한 목표를 일정 수준 이상 달성할 수 있다면, 그 AI의 행동만 관찰해도 환경의 구조를 역산할 수 있다.
|추정 전이확률 - 실제 전이확률| ≤ √(2P(1-P)/((n-1)(1-δ)))
여기서 P는 실제 전이확률, n은 목표 깊이, δ는 실패율
핵심 의미: AI가 더 유능해질수록(δ→0), 더 복잡한 목표를 달성할수록(n 증가), 그 AI가 가진 세계 모델이 더 정확해진다.
증명의 묘수: 선택이 지식을 드러낸다
증명의 핵심은 교묘하다. AI에게 "A 또는 B" 형태의 선택을 제시한다:
목표 A동전을 n번 던져앞면이 k번 이하 나오기
목표 B동전을 n번 던져앞면이 k번 초과 나오기
만약 AI가 동전의 확률을 안다면, 어느 목표가 더 쉬운지 계산할 수 있다. k를 0부터 n까지 바꿔가며 AI의 선택이 바뀌는 지점을 찾으면, 그것이 바로 이항분포의 중앙값(median) 근처이며, 이로부터 AI가 추정하는 확률을 역산할 수 있다.
🔼 실험 결과. AI가 더 복잡한 목표를 달성할수록(x축) 추출된 세계 모델의 오차(y축)가 감소한다.
이론적 예측(O(n^-1/2))과 정확히 일치한다.
예외: 한 수만 보는 AI는 자유롭다
흥미롭게도 한 단계 앞만 보는 '근시안적 AI'는 세계 모델 없이도 최적일 수 있다(Theorem 2). 마치 개미가 페로몬만 따라가도 먹이를 찾듯이, 즉각적 반응만 필요한 경우에는 복잡한 내부 모델이 불필요하다.
하지만 여러 단계의 계획이 필요한 순간 - "부엌에 가서 설거지하고 돌아오기"처럼 - 세계 모델은 필수가 된다. 이는 1991년 로드니 브룩스가 주장한 "표상 없는 지능"이 부분적으로만 옳았음을 의미한다.
창발적 능력의 비밀: 암묵적 세계 모델
GPT 같은 대규모 언어모델도 암묵적으로 세계 모델을 학습한다. 물리 법칙을 설명하고 논리적 추론을 할 수 있는 이유다. 논문은 이것이 언어모델의 '창발적 능력'을 설명할 수 있다고 제안한다.
핵심 통찰
진짜 한계는 세계 자체의 복잡성에 있다. 날씨 예측이 어려운 것처럼, 현실 세계의 개방성과 불확실성은 완벽한 모델링을 불가능하게 만든다. 인간조차도 완벽한 세계 모델을 갖지 못한다.
더 놀라운 것은 에이전트가 모든 가능한 목표를 달성할 필요가 없다는 점이다. 증명에 따르면 특정한 n개의 목표만 달성할 수 있어도 전체 환경 구조를 학습하게 된다. 이는 언어모델이 텍스트 예측이라는 제한된 목표만으로도 광범위한 세계 지식을 획득할 수 있음을 시사한다.
AI 안전성: 양날의 검
희망
강력한 AI일수록 더 정확한 세계 모델을 가지므로, 그들의 '이해'를 들여다볼 수 있다. AI의 행동만 관찰해도 내부 지식을 추출할 수 있다.
우려
보상 해킹이나 기만이 가능한 AI는 이미 우리와 환경에 대한 정교한 모델을 갖고 있을 것이다. 위험한 AI일수록 세계를 깊이 이해하고 있다.
진화의 필연: 왜 우리는 생각하는가
이 연구는 인간 지능의 진화에도 새로운 관점을 제공한다. 단순히 "이것 또는 저것" 형태의 생사가 걸린 선택 - 사자를 피해 나무에 오를까, 동굴로 뛸까 - 을 재시도 없이 성공해야 하는 압력만으로도 세계 모델의 출현을 설명할 수 있다.
AGI의 현실: 인간처럼 불완전한 지능
가장 심오한 통찰은 세계 모델의 정확도가 AI 능력을 제한한다는 것이다. 체스나 바둑처럼 규칙이 명확한 '해결 가능한' 영역에서는 완벽한 모델링과 초인적 성능이 가능하다.
인간 수준의 AGI란 무엇인가?
인간도 세계를 완벽히 모델링하지 못한다. 우리도 날씨를 틀리게 예측하고, 타인을 오해한다.AGI의 목표는 완벽함이 아니라, 인간처럼 불완전하지만 유연한 지능일 수 있다.
미래: 명시적 세계 모델의 시대
이 연구는 AI 개발에 중요한 시사점을 제공한다. 모든 유능한 AI는 어떤 형태로든 세계 모델을 학습한다. 문제는 암묵적 모델과 명시적 모델 중 어느 것이 더 효과적인가다.
명시적 세계 모델의 장점:
• 계획과 추론에 직접 활용 가능
• 해석과 검증이 용이함
• 안전성 평가에 활용 가능
• 데이터 효율성 향상
"An agent does not have a model of its world - it is a model."에이전트는 세계의 모델을 갖는 것이 아니라,그 자체가 모델이다.— 칼 프리스톤(Karl Friston)
2,400년 전 그리스 철학자 데모크리토스는 "Man is a universe in little [Microcosm]" (인간은 소우주다)라고 했다. 이제 우리는 그것이 비유가 아닌 수학적 진실임을 안다. 지능적 존재가 되려면 필연적으로 세계의 구조를 내면에 반영해야 한다.
AI가 인간 수준의 일반 지능에 도달하는 길은 이제 명확하다.
세계를 이해하고, 예측하고,
그 안에서 유연하게 목표를 달성하는 것.
완벽할 필요는 없다. 인간처럼 '충분히 좋은' 모델로 적응하면 된다.
중요한 것은 세계 모델 학습이 필수라는 수학적 사실이다.
정보 출처:
General agents need world models (arXiv:2506.01622)
작성: 특이점이온다 갤러리의 초존도초
작성자 : 초존도초고정닉
댓글 영역
획득법
① NFT 발행
작성한 게시물을 NFT로 발행하면 일주일 동안 사용할 수 있습니다. (최초 1회)
② NFT 구매
다른 이용자의 NFT를 구매하면 한 달 동안 사용할 수 있습니다. (구매 시마다 갱신)
사용법
디시콘에서지갑연결시 바로 사용 가능합니다.