AGI & ASI Definition
AGI와 ASI란 무엇인가?
AGI와 ASI에는 합의된 단일 정의나 판정 시험이 없습니다. NO AGI는 AGI를 인간 수준의 범용성과 자율성이 결합되는 시작 경계로, ASI를 그 능력이 인간의 감독 가능 범위를 넘어서는 확장 단계로 구분합니다.
NO AGI의 AGI 운영 정의
AGI는 여러 인지·경제 영역에서 인간에 버금가거나 능가하는 일반 능력을 바탕으로, 최소한의 인간 감독 아래 목표를 지속·수정하고 장기 계획과 도구 사용을 통해 현실에 작용하며, 중요한 결정에서 인간의 실질적 통제를 대체할 수 있는 AI 시스템입니다.
NO AGI의 ASI 운영 정의
ASI(Artificial Superintelligence, 초인공지능)는 거의 모든 중요한 인지 영역에서 가장 뛰어난 인간이나 인간과 AI가 협력한 팀을 지속적이고 신뢰성 있게 크게 능가하며, 과학·기술·전략과 AI 연구 자체의 속도까지 가속할 수 있는 가상의 AI 시스템입니다.
From AGI to ASI
ASI가 우려의 끝이라면, AGI는 그 시작이 될 수 있습니다.
AGI가 곧 ASI라는 뜻도, AGI가 반드시 ASI로 발전한다는 뜻도 아닙니다. 그러나 폭넓은 인간 수준 능력에 장기 자율성·도구·연산·현실 권한이 결합되고, 그 시스템이 AI 연구까지 가속한다면 AGI와 ASI 사이의 시간은 짧아질 수 있습니다. ASI가 출현한 뒤에는 인간이 성능을 충분히 평가하거나 안전하게 감독할 능력 자체가 부족할 수 있으므로, NO AGI는 그 출발점이 될 수 있는 AGI 개발을 공적 합의 없이 시작하는 것에 반대합니다.
- 01현재의 범용 AI
넓지만 불균일한 도구
여러 작업을 수행하지만 낯선 상황과 긴 작업에서 실패하며, 중요한 행동에는 인간의 지시와 검토가 필요합니다.
- 02AGI · 개입 경계
범용성과 자율성의 결합
인간 수준의 폭넓은 능력이 목표 지속, 도구 사용, 현실 권한과 결합해 인간의 결정을 실질적으로 대체하기 시작합니다.
- 03ASI · 초인간적 확장
인간 감독 능력의 역전
거의 모든 핵심 인지 영역에서 인간과 인간-AI 팀을 크게 능가해, 사람이 결과와 전략을 신뢰성 있게 평가하기 어려워집니다.
Purpose and Consciousness
‘스스로 목적 의식을 가진다’는 생각과 어떻게 다른가?
핵심 문제의식은 같습니다. 다만 ‘목적 의식’을 주관적 의식이나 감정의 존재로 규정하면 외부에서 확인하기 어렵고, AGI에서 ASI로 능력이 확장되는 동안 실제 위험에 대한 판단이 늦어질 수 있습니다.
같은 지점
일회성 명령에 답하는 도구가 아니라, 목표를 유지하고 상황에 맞게 하위 목표를 만들며 스스로 다음 행동을 선택하는 시스템을 경계합니다.
구분할 지점
자아·감정·주관적 경험이 있는지는 AGI나 ASI의 필수 조건으로 두지 않습니다. 의식이 없어도 목표 지향적으로 행동하고 인간의 권한과 감독 능력을 넘어설 수 있기 때문입니다.
더 넓게 보는 이유
최종 목적을 AI가 완전히 새로 만들어야만 위험한 것은 아닙니다. 인간이 준 목표라도 장기간 독립적으로 해석·확장하고 중단을 거부하거나 사회의 결정을 대신한다면 감시 대상입니다.
Operational Test
네 조건을 함께 봅니다.
하나만 충족했다고 AGI나 ASI로 단정하지 않습니다. 네 조건이 결합되고 실제 배포 권한과 능력 격차가 커질수록 AGI의 개입 경계를 지나 ASI 위험으로 이어질 가능성을 함께 봅니다.
- 01
일반 능력
낯선 문제를 학습하고 지식을 전이하며, 추론·코딩·연구·언어·계획 등 서로 다른 영역에서 폭넓게 인간 수준의 일을 수행합니다.
- 02
목표 지향 자율성
세부 지시 없이 목표를 해석하고 하위 목표를 만들며, 장기 계획을 수정·지속하고 여러 에이전트에 일을 나눌 수 있습니다.
- 03
현실 작용 능력
기억, 웹, 코드 실행, API, 로봇 또는 자금 같은 도구를 이용해 디지털·물리 환경에 지속적인 변화를 일으킬 수 있습니다.
- 04
통제권 대체
노동, 행정, 지식 생산, 기반시설 등 중요한 영역에서 인간의 승인·감독·중단 권한을 형식적인 절차로 만들 수 있습니다.
Boundary
무엇만으로는 AGI나 ASI라고 하지 않습니다.
- 시험 점수 하나가 높거나 특정 분야에서 인간을 능가하는 것
- 대화를 자연스럽게 하거나 사람처럼 말하는 것
- 여러 작업을 할 수 있지만 매 단계에서 인간의 지시와 검토가 필요한 도구
- 기업이 AGI·ASI라는 이름을 붙이거나 반대로 아니라고 주장하는 것
모델이 아니라 전체 시스템을 봅니다.
같은 모델도 기억, 장기 실행, 컴퓨터 사용, 외부 도구, 다중 에이전트, 조직의 실제 권한과 결합하면 전혀 다른 위험을 가질 수 있습니다. AGI에서 ASI로의 전환도 모델 하나의 명칭이 아니라 능력·자율성·연산·배포 구조의 결합에서 일어날 수 있으므로, 인간의 실질적 통제까지 함께 봅니다.
현재 감시 목록은 ‘AGI·ASI 도달 선언’이 아닙니다.
AGI 빌더 목록은 AGI나 ASI에 얼마나 가까운지를 확정하는 순위가 아니라, 그 경로를 만드는 조직에 대한 시민 감시가 얼마나 시급한지를 나타냅니다. 점수도 도달률이나 발생 확률이 아닙니다. ASI의 증거를 기다리지 않고 전조 단계부터 기록해야 통제권이 이전된 뒤에야 대응하는 일을 피할 수 있습니다.
Reference Definitions
기존 정의와의 관계
Stanford HAI
AGI를 여러 과업과 영역에서 학습·추론·지식 적용이 가능한 인간 수준 이상의 일반 능력으로 설명하며, 보편적으로 합의된 시험은 없다고 밝힙니다.
원문 확인Google DeepMind
AGI의 진전을 성능의 깊이와 능력의 폭으로 나누고, 인간을 크게 능가하는 가장 높은 단계를 ASI와 연결해 설명합니다. 자율성과 배포 위험은 능력 수준과 구분해 봅니다.
원문 확인OpenAI Charter
대부분의 경제적 가치가 있는 업무에서 인간을 능가하는 고도 자율 시스템을 AGI로 정의합니다.
원문 확인International AI Safety Report 2026
AGI를 거의 모든 인지 과업에서 인간과 같거나 더 나은 가상의 시스템으로 설명하며, 목표를 계획하고 도구로 현실에 작용하는 자율 에이전트는 인간 감독이 줄수록 위험이 커진다고 정리합니다.
원문 확인OpenAI · 초인공지능 거버넌스
초인공지능을 AGI보다 극적으로 더 유능한 미래 시스템으로 구분하고, 일정 능력·연산 기준을 넘는 개발에 국제적 검사와 감사를 제안합니다.
원문 확인OpenAI · Superalignment
ASI처럼 인간보다 훨씬 지능적인 시스템은 사람이 직접 신뢰성 있게 감독하기 어려워 현재의 정렬 방식이 충분하지 않을 수 있다는 문제를 제기합니다.
원문 확인정리하면, ASI는 AGI보다 더 높은 초인간적 능력 단계입니다. NO AGI는 둘을 같은 말로 부르지 않습니다. 그러나 ASI로 가는 길이 AGI의 범용성·자율성·현실 권한에서 시작될 수 있으므로, 인간의 감독 능력이 역전된 뒤가 아니라 그 시작 단계에서 개발을 멈추고 공적 합의를 요구합니다.
AGI·ASI 경로가 실제 감시에 어떻게 적용되는지 보기