AI 시장이 빠르게 달아오를수록 더 빨리 출시하고, 더 많은 기능을 먼저 내놓는 게 정답처럼 보이기도 해요. 하지만 Anthropic의 공동 창업자 다리오 아모데이(Dario Amodei)와 다니엘라 아모데이(Daniela Amodei)는 다른 길을 선택했어요. OpenAI에서 각각 연구 부문 부사장, 안전 정책 부문 부사장으로 일하다 2021년 회사를 나와 Anthropic을 세운 건, 속도보다 방향이 먼저라고 믿었기 때문이에요.

ChatGPT가 세상을 뒤흔든 뒤에도 Claude는 1년 넘게 출시를 미뤘어요. 이유는 하나였어요. 안전성 연구와 정렬 작업이 충분히 완성되기 전까지는 공개하지 않겠다는 원칙. 그 원칙이 지금의 Claude를 만들었어요.

왜 Anthropic은 달랐나

다리오가 OpenAI를 떠나면서 스스로에게 한 말이 있어요. "신뢰할 수 있는 사람들과 함께 네 비전을 직접 실현해라." 그 말대로 물리학, 신경과학, 철학, 컴퓨터공학 등 다양한 배경의 사람들을 모아 팀을 꾸렸어요.

• 빠른 출시보다 안전성 검증을 먼저 — ChatGPT보다 1년 이상 늦게 출시한 이유

• Constitutional AI — AI에 원칙을 직접 심어 외부 통제가 아닌 내부 정렬을 구현

• 대량 감시와 자율 무기에 Claude 사용 금지 조항 — 수익보다 원칙을 택한 결정

• 해석 가능하고 조정 가능한 AI — 블랙박스가 아닌 이해할 수 있는 AI를 목표로

• Public Benefit Corporation — 이익보다 인류에 대한 책임을 법적으로 명시한 구조

이 원칙들은 단순한 선언이 아니에요. 실제로 미국 국방부가 계약 조항 삭제를 요구했을 때 Anthropic은 거절했고, 그 결과 정부 계약을 잃었어요. 원칙을 지키는 데 비용이 따른다는 걸 알면서도 그 길을 택한 거예요.

🔍 다리오 아모데이가 AI를 바라보는 6가지 관점

1. 리스크와 가능성은 동시에 봐야 한다
   AI의 위험을 말하는 것과 AI의 가능성을 믿는 것은 모순이 아니에요. 그는 위험을 직시하기 때문에 오히려 더 낙관적인 미래를 그릴 수 있다고 말해요.

2. AI는 의료, 빈곤, 기후 문제를 바꿀 수 있다
   2024년 에세이 'Machines of Loving Grace'에서 그는 AI가 100년치 의학 발전을 5~10년으로 압축할 수 있다고 주장했어요.

3. 속도보다 방향이 먼저다
   경쟁사가 먼저 출시할 때도 흔들리지 않았어요. 방향이 잘못된 빠름보다 방향이 맞는 느림이 낫다는 판단이에요.

4. AI는 인간을 대체하는 게 아니라 증폭시키는 도구다
   외과 의사의 판단을 AI가 보조하듯, 사람의 역량을 높이는 도구로서 AI를 설계해야 한다는 철학이에요.

5. 권력 집중을 경계해야 한다
   AI가 소수의 강력한 주체에게 집중되면 안 된다고 봐요. 의사결정이 분산되고 다양한 해석이 공존해야 한다는 게 그의 입장이에요.

6. 신뢰는 기술보다 먼저 구축해야 한다
   기업, 정부, 사용자가 Claude를 믿을 수 있어야 비로소 AI가 제 역할을 한다고 생각해요.

Anthropic이 실제로 만드는 것들

• Claude — 안전성과 높은 EQ를 함께 설계한 AI 모델

• Constitutional AI — AI 내부에 원칙을 심는 정렬 방법론

• Claude Code — 개발자를 위한 AI 코딩 도구

• 광고 없는 AI 서비스 — 사용자 경험을 광고보다 우선시하는 원칙

우리가 이 이야기에서 주목한 것

다리오와 다니엘라가 만든 건 단순한 AI 제품이 아니에요. 기술이 어떤 방향으로 가야 하는지에 대한 하나의 태도예요. 더 빠르게, 더 크게가 아니라 더 안전하게, 더 신뢰할 수 있게. 그 태도가 제품에 담겨 있어요.

저희도 같은 질문을 하고 있어요. 우리가 만드는 것이 빠른가보다, 우리가 만드는 것이 옳은 방향인가. 그 질문이 더 중요하다고 생각하거든요.

마치며

AI 시대를 설계하는 사람들은 가장 빠른 사람이 아니에요. 방향을 잘 잡은 사람, 그리고 그 방향을 끝까지 지킨 사람이에요. Anthropic의 이야기가 그걸 보여줘요.