AI 에이전트 워크플로우, 예전엔 만드는 게 일이었는데 이제는 이해하는 게 일이에요

TL;DR

• 예전엔: 시스템을 만들려면 품이 많이 들어서 설계부터 따져 봤어요
• 지금은: AI가 만들기를 거의 공짜로 만들어 줘서 일단 붙이고 보게 돼요
• 왜: 쌓이는 건 기능이 아니라 만든 사람도 설명 못 하는 복잡함이에요

"내가 만든 건데 이게 왜 돌아가는지 모르겠어요." AI 에이전트(사람 대신 여러 단계를 알아서 처리하는 AI)로 업무 자동화를 만들어 본 사람이라면 낯설지 않은 말이에요. UX 리서치로 알려진 닐슨 노먼 그룹(NN/G)이 10월 2일, 이 현상을 '빅 볼 오브 머드(Big Ball of Mud, 급하게 이어 붙이다 진흙 덩어리처럼 엉킨 시스템)'에 빗대 정리했어요.

🔙 예전엔: 만드는 데 품이 많이 들어서 설계부터 신중하게 따지는 게 당연했어요.

🔜 지금은: AI가 만들기를 거의 공짜로 만들어 줘서, 일단 붙여 보다 보면 만든 사람도 못 알아보는 덩어리가 되기 쉬워요.

🤔 왜 바뀌었을까

NN/G가 만난 사용자들은 코딩 배경이 없는데도 컨텍스트 라이브러리(AI가 읽도록 모아 둔 지침과 자료 묶음)를 계속 키우고 있었어요. 엉키는 과정은 옛 소프트웨어와 똑같았어요. 임시로 만든 게 그대로 눌러앉고, 기능을 조각조각 덧붙이고, 고장 나면 땜질하고, 정리 못 한 자료는 AI만 찾을 수 있는 서랍에 쌓였어요. 한 참가자는 시스템을 다듬느라 정작 쓰지는 못한다고 털어놨어요. 소프트웨어 설계 저술가 마틴 파울러가 9월에 소개한 제시카 커의 글도 같은 맥락이에요. 에이전트는 작업이 끝나면 맥락을 잊어버리니, 만든 사람이 다 이해하는 방식은 한계에 닿았다는 이야기예요. 연구진이 7월에 정리한 분석에서도 AI가 올린 코드 수정안은 사람 것보다 덜 검토되고 빨리 합쳐지는 경향이 보였어요. 다만 분석 방식에 따라 뒤집힐 수 있다고 단서를 달았고요.

💡 Tip

NN/G는 이렇게 점검하라고 해요. 바꿔야 할 컨텍스트 파일이 어느 건지 바로 짚을 수 있는지 스스로 물어보는 거예요. 못 짚는다면 다시 지어야 할 때가 가까워졌다는 신호예요. 9월 글에서는 항상 적용할 지침, 지금 작업용 자료, 메일처럼 계속 흘러드는 자료로 종류를 나눠 두라고도 권했어요.

⚠️ 화면 쪽도 마찬가지예요

NN/G는 8월 글에서, AI로 기능을 만드는 속도를 평가 속도가 못 따라가서 UX 팀이 출시 뒤 뒷정리를 맡게 된다고 짚었어요. 만들기가 빨라진 만큼 이해와 검증이 병목이 되는 건 시스템도 화면도 같아요.

✅ 예전엔 만드는 속도가 한계라서 설계를 먼저 따져 봤어요
✅ 지금은 이해하는 속도가 한계라서 만든 뒤 정리할 시간을 따로 떼어 둬야 해요
✅ 결론: AI로 만들수록 내가 설명할 수 있는 만큼만 키워야 오래 가요

참고문헌

• The New Big Ball of Mud: Why Agentic AI Systems Turn Fragile - NN/G
• The 3 Roles of Context for AI Agents - NN/G
• The Custodial Era of UX: Cleaning Up After AI - NN/G
• Fragments: September 8 - Martin Fowler
• 3100 Opinions on Code Review in an AI World - arXiv

---

💬 AI 얘기하다 점심 메뉴 얘기로 새도 괜찮은 편한 오픈채팅방이에요, 눈팅만 하셔도 좋아요 → 오픈채팅 참여하기