AI에서 AGI와 ASI까지

1. 1

   학습

   데이터의 예측 오차가 줄어들도록 신경망 내부의 수많은 수치인 가중치를 조정합니다. 데이터의 구성과 학습 목표가 모델이 익히는 능력과 편향에 큰 영향을 줍니다.

2. 2

   추론

   학습을 마친 모델이 새 입력을 받아 가능성이 높은 출력을 계산합니다. 언어 모델은 문맥을 바탕으로 다음 토큰을 거듭 예측하지만, 그 결과가 사실이라는 보장은 없습니다.

3. 3

   후속 학습

   사람의 선호, 안전 규칙, 도구 사용법을 추가로 학습시켜 응답 방식을 조정합니다. 행동을 더 유용하게 만들 수 있지만 진실성이나 통제 가능성을 완전히 보장하지는 않습니다.

모델

입력에서 출력을 계산하도록 학습된 수학적 구조

토큰

언어 모델이 처리하는 단어나 글자보다 작은 정보 단위

파라미터

학습 과정에서 조정되어 패턴을 저장하는 내부 수치

추론

학습된 모델을 사용해 새 입력에 대한 출력을 만드는 과정

1. 1950

   기계의 지능을 어떻게 확인할까

   기계가 생각하는지에 관한 추상적인 질문을, 대화에서 기계와 사람을 구별할 수 있는지라는 구체적인 평가 문제로 옮겼습니다.

   주요 인물·연구진앨런 튜링

   • 1950 · Computing Machinery and Intelligence — ‘모방 게임’을 제안한 논문입니다. 훗날 튜링 테스트로 알려졌으며, 오늘날 모델의 행동을 평가하는 논의와도 이어집니다.
2. 1956

   인공지능이라는 연구 분야

   다트머스 여름 연구 프로젝트가 ‘인공지능’이라는 이름 아래 학습·추론·언어를 기계로 구현하는 연구 의제를 제시했습니다.

   주요 인물·연구진존 매카시 · 마빈 민스키 · 너새니얼 로체스터 · 클로드 섀넌

   • 1955년 제안서 → 1956년 다트머스 연구 모임 — 네 연구자가 작성한 제안서를 바탕으로 여름 연구 모임이 열렸습니다. 하나의 완성된 기술을 발표한 자리가 아니라 연구 분야의 방향을 정한 출발점입니다.
3. 1980s–2000s

   규칙에서 기계학습으로

   전문가 규칙에 의존하던 접근과 함께, 데이터에서 분류와 예측 규칙을 학습하는 통계적 기계학습과 신경망 연구가 발전했습니다.

   주요 인물·연구진데이비드 루멜하트 · 제프리 힌턴 · 로널드 윌리엄스 · 코리나 코르테스 · 블라디미르 바프니크

   • 1986 · 역전파를 통한 표현 학습 — 루멜하트·힌턴·윌리엄스의 논문이 출력 오차를 이용해 신경망 내부 표현을 학습하는 방법을 보여 주었습니다.
   • 1995 · 서포트 벡터 네트워크 — 코르테스·바프니크가 데이터의 분류 경계를 학습하는 SVM을 제시했습니다. 신경망 외에도 여러 학습 접근이 함께 발전했습니다.
4. 2012

   딥러닝의 도약

   많은 데이터와 GPU 연산, 다층 신경망의 결합이 이미지 인식 성능을 크게 높였습니다. 모델뿐 아니라 학습 데이터와 공통 평가 기준의 축적도 중요했습니다.

   주요 인물·연구진알렉스 크리제브스키 · 일리야 수츠케버 · 제프리 힌턴 · ImageNet 연구진의 페이페이 리

   • 2009 · ImageNet 데이터셋 — 페이페이 리·자 덩 등의 연구진이 대규모 이미지 데이터베이스를 발표해 이미지 인식 연구의 기반을 넓혔습니다.
   • 2012 · AlexNet과 이미지 인식 대회 — 크리제브스키·수츠케버·힌턴의 합성곱 신경망이 ILSVRC 2012에서 다른 참가 시스템과 큰 성능 격차를 보였습니다.
5. 2016

   알파고가 보여 준 학습과 탐색

   신경망으로 좋은 수와 승리 가능성을 추정하고, 탐색과 강화학습을 결합하는 접근이 복잡한 바둑에서 성과를 보였습니다.

   주요 인물·연구진데이비드 실버 등 DeepMind 연구진 · 이세돌(대국 상대)

   • 2016년 3월 · 알파고–이세돌 대국 — 서울에서 열린 다섯 번의 대국에서 알파고가 4승 1패를 기록했습니다. 특정 과제의 뛰어난 성과와 인간 수준의 범용 지능은 구분해야 합니다.
6. 2017

   트랜스포머

   정보 사이의 관계에 주의를 배분하는 트랜스포머 구조가 제안됐습니다. 대규모 언어 모델과 오늘날 여러 생성형 AI의 핵심 기반이 됐습니다.

   주요 인물·연구진아시시 바스와니 · 노엄 셔지어 등을 포함한 8명의 연구진

   • 2017 · Attention Is All You Need — 순환 신경망 대신 어텐션을 중심으로 번역 모델을 구성했습니다. 더 많은 계산을 병렬로 처리할 수 있는 구조가 대규모 학습의 기반이 됐습니다.
7. 2020s

   기반 모델과 생성형 AI

   넓은 데이터로 미리 학습한 하나의 모델을 다양한 작업에 적용하고, 텍스트·이미지·음성·영상과 코드를 다루는 방식이 빠르게 확산됐습니다.

   주요 인물·연구진톰 브라운 등 GPT-3 연구진 · 리시 봄마사니·퍼시 량 등 Stanford CRFM 연구진

   • 2020 · GPT-3 — 추가 학습 없이 지시와 소수의 예시만으로 여러 언어 과제를 수행하는 능력을 대규모로 연구했습니다.
   • 2021 · 기반 모델의 기회와 위험 — Stanford CRFM이 다양한 작업에 재사용되는 모델을 ‘기반 모델’로 정리하고, 능력과 사회적 위험을 함께 분석했습니다.
   • 2022년 11월 · ChatGPT 공개 — OpenAI가 대화형 연구 시제품을 일반 사용자에게 공개했습니다. 질문과 수정 요청을 이어 가며 생성형 AI를 사용하는 접점이 넓어졌습니다.
8. 현재

   도구를 사용하는 에이전트

   모델에 기억, 검색, 코드 실행, 컴퓨터 조작과 반복 계획을 연결해 더 긴 작업을 수행시키고 있습니다. 모델의 답변이 시스템의 행동으로 바뀌는 단계입니다.

   주요 인물·연구진슌위 야오 등 ReAct 연구진 · 톈바오 셰 등 OSWorld 연구진

   • 2022 · ReAct — 언어 모델의 추론 단계와 도구·환경에 대한 행동을 번갈아 연결하고, 새 정보를 얻어 계획을 고치는 접근을 제시했습니다.
   • 2024 · OSWorld — 실제 컴퓨터 환경에서 앱 조작과 파일 작업을 평가하는 기준을 제시했습니다. 답변의 그럴듯함을 넘어 행동의 결과와 실패를 측정합니다.

1. 01

   기반 모델

   언어·이미지·코드에서 폭넓은 패턴과 표현을 학습

2. 02

   멀티모달

   텍스트뿐 아니라 보고 듣고 말하며 여러 형식의 정보를 연결

3. 03

   도구와 기억

   검색, 코드, API, 장기 기억으로 모델 밖의 정보와 자원에 접근

4. 04

   에이전트

   목표를 단계로 나누고 결과를 확인하며 계획을 반복·수정

5. 05

   AGI 개입 경계

   인간 수준의 범용 능력이 자금, 조직, 기반시설과 연결되어 결정과 행동을 실제로 집행

ASI는 단순히 더 높은 시험 점수가 아닙니다. AGI의 범용성·자율성·현실 권한이 초인간적 능력과 자기 연구 가속으로 확장되어 인간이 시스템을 신뢰성 있게 감독하기 어려워지는 단계입니다. NO AGI는 그 단계가 아니라 시작이 될 수 있는 AGI 경계에서 개입합니다.

1. 01

   이 시스템이 실제로 할 수 있는 일과 아직 못 하는 일은 무엇인가?

2. 02

   누가 목표를 정하고, 시스템은 그 목표를 얼마나 독립적으로 바꿀 수 있는가?

3. 03

   어떤 데이터·도구·자금·기반시설에 접근할 수 있는가?

4. 04

   중요한 행동 전에 사람이 승인하며, 언제든 실질적으로 중단할 수 있는가?

5. 05

   능력과 위험 평가는 개발사 밖에서도 재현·검증할 수 있는가?

6. 06

   사고와 실패, 한계가 공개되고 피해에 책임질 주체가 분명한가?