AI 기업이 그은 '윤리적 레드라인', 전쟁 앞에서 무너지다

들어가며

구독자님, 지난주 뉴스에서 미국의 이란 공습 소식을 보셨을 거예요. 그런데 저는 이 뉴스를 보면서 다른 게 눈에 들어왔어요. 첫 24시간 동안 1,000개 이상의 표적을 타격한 이 작전의 핵심 도구가, 바로 우리가 매일 이메일 초안을 쓰고 코드를 짜는 데 쓰는 AI 모델이었다는 사실이에요. Anthropic의 Claude가 Palantir의 Maven Smart System¹​을 통해 미군의 정보 분석, 표적 식별, 전투 시나리오 시뮬레이션에 사용됐어요. 그것도 트럼프 대통령이 Anthropic 사용 금지를 선언한 바로 다음 날이었어요.

AI 기업들이 그동안 내세워 온 ‘윤리적 원칙’은 과연 전시(戰時)에도 유효한 것일까요? 이번 사태가 보여준 건 원칙과 현실 사이의 거대한 간극이에요.

Project Maven에서 이란전까지 — 8년의 궤적

이 이야기의 출발점은 2017년이에요. 미 국방부의 Project Maven은 드론 영상에서 AI로 객체를 식별하는 프로젝트였는데, 당시 구글이 이 계약을 수주했어요.

그런데 2018년 3월, 구글 내부에서 4,000명 이상의 직원이 서명운동을 벌였어요. “구글의 기술은 사람을 죽이는 데 사용해서는 안 된다”는 내용이었고, 십여 명의 직원이 실제로 퇴사했어요. 결국 구글은 국방부에 “못하겠다”고 통보했고, 같은 해 100억 달러 규모의 펜타곤 클라우드 계약 입찰에서도 “자사 AI 원칙과 부합하는지 확신할 수 없다”며 손을 뗐어요.

구글이 빠진 자리에 Palantir가 들어왔어요. AWS와 컨소시엄을 구성해 소프트웨어 개발을 맡았는데, 성과가 지지부진했어요. 전환점은 2024년이에요. Anthropic이 Palantir와 파트너십을 맺으면서 Maven Smart System이 완성됐어요. Claude가 Palantir 플랫폼 위에 올라간 거예요.

여기서 한 가지 짚어야 할 게 있어요. Anthropic은 2024년 파트너십 체결 시점에 이미 자사 기술이 국방부 드론 작전 시스템에 통합된다는 걸 알고 있었어요. 구글이 8년 전에 거부한 바로 그 역할이에요.