Mission
기술은 인간을 대신해서가 아니라, 인간을 위하여 존재해야 합니다.
NO AGI의 목표는 공포를 퍼뜨리는 것이 아닙니다. 인간이 최종 결정권을 유지하도록 AGI에서 ASI로 이어질 수 있는 개발 경쟁을 공적 의제로 만들고, 인간 통제와 공개 감시를 사회적 기준으로 세우는 것입니다.
Our Scope
우리가 반대하는 것은 AI가 아니라 통제권의 대체입니다.
번역, 연구, 의료, 창작 보조처럼 인간의 능력을 확장하는 도구형 AI의 활용을 반대하지 않습니다. 경계는 기술의 이름이 아니라 권한입니다. 스스로 목표를 세우고 장기 계획을 실행하며, 인간의 승인 없이 중요한 결정을 내리는 시스템이 사회 기반을 대신해서는 안 됩니다.
NO AGI 선언문 읽기The Problem
AGI는 시작의 경계이고, ASI는 감독 능력의 역전입니다.
지금의 AI는 이미 번역, 코딩, 이미지 생성, 검색, 업무 자동화에 깊게 들어와 있습니다. 이 흐름이 스스로 계획하고 도구를 사용하며 결정을 위임받는 AGI로 이어질 때, 질문은 성능이 아니라 누가 최종 결정권을 갖는가가 됩니다. 그 시스템이 거의 모든 핵심 영역에서 인간을 크게 능가하는 ASI로 확장된다면, 사람은 그 판단을 감독할 능력까지 잃을 수 있습니다.
인간은 만드는 존재이며, 스스로 판단하고 책임질 때 자유로운 존재입니다. AGI가 노동, 창조, 행정, 지식 생산을 대체하고 ASI로 가는 기반이 되면 인간은 기술의 주체가 아니라 기술에 의존하는 객체가 될 수 있습니다.
Why Now
완성된 뒤에는 사회가 선택할 시간이 없습니다.
개발 목표, 배포 구조, 안전 기준과 연산 인프라는 이미 만들어지고 있습니다. AGI가 반드시 ASI가 된다고 단정할 수는 없지만, AI가 AI 연구를 가속하는 단계에서는 전환 시간이 짧아질 수 있습니다. 고도 자율 시스템이 사회에 깊이 편입된 뒤에는 중단하거나 되돌리는 비용이 훨씬 커지므로 감시는 가능성이 현실이 된 뒤가 아니라 지금 시작되어야 합니다.
AGI 감시 보기What We Stand For
NO AGI의 세 가지 원칙
인간 통제
결정권은 인간에게 남아 있어야 하며, 설명 불가능한 범용·초인간 지능에 사회 기반을 위임해서는 안 됩니다. AI는 인간의 판단을 돕는 도구로 남아야 합니다.
공개 감시
AGI 개발 경쟁은 기업 내부의 문제가 아니라 시민이 감시해야 할 공적 위험입니다. 모델 능력과 위험 평가, 사고는 독립적으로 검증할 수 있어야 합니다.
개발 제한
통제 가능성, 책임 구조, 사회적 합의 없이 AGI에서 ASI로 이어질 수 있는 개발은 멈추거나 강하게 제한되어야 합니다. 능력을 키운 뒤 안전을 붙이는 방식으로는 충분하지 않습니다.
Our Demands
NO AGI의 요구사항
- AGI와 슈퍼인텔리전스 개발 목표, 안전 평가, 모델 능력의 공개
- 통제 가능성이 입증되지 않은 자율 에이전트형 시스템의 개발 제한
- 대형 AI 회사의 위험 평가와 사고 사례에 대한 독립적 검증
- 노동, 교육, 행정, 안보 등 사회 기반 영역에 대한 무분별한 자동화 중단
FAQ
자주 묻는 질문
AGI와 ASI는 어떻게 다르고 무엇을 감시하나요?
AGI는 인간 수준의 폭넓은 범용성과 자율성이 결합되는 시작 경계이고, ASI는 거의 모든 핵심 인지 영역에서 인간의 감독 능력을 크게 넘어서는 확장 단계입니다. 하나의 명칭이나 선언으로 도달 여부를 판단하지 않고, 모델 능력·자율성·안전 평가·실제 배포·연산 인프라와 통제권 변화를 함께 추적합니다.
위험을 말하는 것이 기술 발전을 막는 것 아닌가요?
위험을 공개적으로 다루는 것은 기술을 책임 있게 쓰기 위한 조건입니다. 인간 통제, 투명성, 책임 구조 없이 진행되는 발전은 진보가 아니라 권한 이전입니다.
시민 감시가 실제로 무엇을 바꿀 수 있나요?
공개 기록은 기업의 주장과 실제 행동을 비교할 기준을 만들고, 언론·연구자·정책 담당자가 검증할 공통 자료를 제공합니다. 반복되는 검증과 공개 요구는 안전 기준과 책임 구조를 사회적 의제로 만듭니다.