AI가 알아서 해주는 시대, UI는 뭘 보여줘야 할까

TL;DR

• AI 에이전트가 알아서 움직이면서, 사용자 행동을 기다리던 기존 UI 문법이 안 통하기 시작했어요
• "뭘 할 건지 먼저 보여주기"가 새로운 디자인 원칙으로 떠올랐어요
• 자율성은 켜고 끄는 스위치가 아니라, 상황에 맞게 조절하는 슬라이더로 다뤄야 해요

지금까지 UI는 "사용자가 행동하면 시스템이 반응한다"는 계약 위에서 만들어졌어요. 근데 에이전트형 AI는 사용자가 정한 목표를, 사용자가 지정하지 않은 방식으로 알아서 처리해요. 이 계약이 깨지면서, 디자인은 아직 이걸 보여줄 언어를 제대로 못 찾고 있다는 지적이 나왔어요.

1️⃣ 계획을 먼저 보여준다

"제가 알아서 처리할게요" 같은 막연한 말로 끝내면 안 돼요. 에이전트가 여러 단계를 실행하기 전에, 그 계획 자체를 미리 보여줘야 사용자가 안심하고 맡길 수 있어요.

2️⃣ 어떤 도구를 왜 쓰는지 공개한다

에이전트가 어떤 API나 도구를 호출하고 있는지 투명하게 드러내야, 문제가 생겼을 때 원인을 진단할 수 있어요.

3️⃣ 기억을 숨기지 않는다

에이전트가 가진 숨겨진 맥락·기억을 사용자가 보고 수정할 수 있게 해야, 왜 그렇게 행동했는지 이해할 수 있어요.

4️⃣ 되돌릴 길을 항상 남긴다

자율적으로 내린 결정이 잘못됐을 때, 빠르게 고치거나 취소할 수 있는 경로는 부가 기능이 아니라 핵심 기능으로 다뤄야 해요.

📎 예시

한 여행 챗봇 사례가 이걸 잘 보여줘요. 에이전트가 실시간 API 대신 예전에 학습해둔 낡은 가격 정보를 그대로 인용해버린 거예요. 계획과 근거가 안 보였다면 사용자는 뭐가 잘못됐는지조차 몰랐을 거예요. 가트너는 2026년 말까지 기업용 앱의 40%가 특정 업무를 처리하는 AI 에이전트를 탑재할 거라고 전망했어요. 2025년엔 5% 미만이었으니, 이 흐름이 얼마나 빠른지 알 수 있어요.

✅ AI가 대신 행동하는 시대엔, "뭘 할 건지" 미리 보여주는 게 새로운 기본값이 됐어요
✅ 자율성은 전부 맡기거나 전혀 안 맡기거나가 아니라, 상황 따라 조절하는 슬라이더로 다뤄야 해요
✅ 잘못됐을 때 빠르게 되돌릴 수 있는 장치가 신뢰를 지키는 핵심이에요

출처

• Agentic UX: When the Interface Stops Waiting for You - UX Magazine