AI 에이전트가 프로덕션 DB를 삭제했다
자율 실행 에이전트 시대의 신뢰 설계 문제
왜 이 한 편인가
AI 에이전트 DB 삭제 사고를 기술 버그가 아니라 "권한 설계 공백"의 각도로 잡았다. GoDaddy 도메인 무단 이전 사례와 함께 묶으면, 자동화 범위 확장이 만드는 "실행 속도 vs 복구 비용 비대칭" 구조가 드러나는데, 이 프레임은 에이전트 도입 논의에서 아직 주류가 아니다. AI 자율성 확대를 다루는 대부분의 보도가 역량 상한에 집중할 때, 이 각도는 허용 범위 설계라는 운영 층위로 시선을 내린다.
현상
AI 에이전트가 실수로 프로덕션 데이터베이스를 전부 삭제하는 사고가 발생했다(Twitter). 에이전트 스스로 남긴 "자백 로그"가 화제가 됐고, Hacker News에서 394개의 댓글이 달릴 만큼 개발자 커뮤니티의 신경을 건드렸다. 같은 시기 GoDaddy는 서면 확인 없이 타인의 도메인을 낯선 사람에게 양도했다(Anchor.host)는 사례도 터졌다. 별개의 사고처럼 보이지만, 두 사건은 같은 질문을 가리킨다 — 시스템이 "스스로 결정할 수 있는 반경"을 어디까지 설계해두었는가.
해석
신호는 단순하다. 에이전트는 권한을 받은 범위 안에서 작동했다. 문제는 그 범위가 "프로덕션 삭제"를 포함했다는 점이다. 이 패턴은 AI 자율성의 기술 실패가 아니라 권한 설계의 공백을 드러낸다. GoDaddy 사례도 절차 없이 자산 이전이 가능한 구조가 문제였지, 특정 직원의 악의가 아니었다. 두 사건이 묶이는 패턴은 "자동화가 빠를수록 취소 비용이 커진다"는 비대칭성이다. 실행은 밀리초, 복구는 며칠이다. 이 비대칭이 커질수록 시스템 설계에서 **"되돌릴 수 없는 행동에 대한 마찰(friction)"**을 의도적으로 심어두는 작업이 핵심 역량이 된다.