에이전틱 AI 경험 설계를 위해 알아야 할 것

최근 AI 업계의 화두는 단연 ‘에이전틱(Agentic) AI’입니다. 고도의 자율성을 갖고 스스로 작동할 수 있는 인공지능이죠. 단순히 프롬프트 대로 작동하는 것이 아닌, 스스로 인지(Perceive) - 추론(Reason) - 행동(Act) - 학습(Learn) 과정을 거쳐 사용자가 전달한 ‘목표’를 달성합니다. 도구(Tool)가 아닌 동료(Agent)가 된 AI, 사용자 경험은 어떻게 달라져야 할까요?

 

 

 

멘털 모델 변화: 정답 확인에서 '목표 동기화(Alignment)'로

 

먼저 에이전틱 AI와 기존 AI의 차이점을 살펴볼게요. 오늘 저녁 크림 파스타를 요리해 먹자는 계획하에 A와 B에게 각각 심부름을 시킨다고 가정해 봅니다. A에게는 ”마트에 가서 ㄱ사의 스파게티면, ㄴ사의 크림소스, ㄷ사의 훈제 베이컨을 하나씩 사와.”라고 전합니다. A가 장을 봐 오면 품목, 상표, 수량 등 전달 과제를 정확하게 수행했는지 확인하고요. 

 

반면, B에게는 “크림 파스타를 해 먹으려고 하니까 재료를 사와.”라고만 전해요. B는 스스로 크림 파스타가 어떤 요리인지, 무슨 재료가 얼마만큼 필요한지를 파악하고 구매할 겁니다. B가 일을 마치면, 크림 파스타를 요리해 먹는다는 목표에 맞는 판단과 결정을 내렸는지 검토하죠. 

 

 

우리가 익히 알고 있는 프롬프트 기반의 생성형 AI가 A, 에이전틱 AI가 B라고 할 수 있습니다. 생성형 AI는 사용자의 프롬프트 또는 요청에 따라 글쓰기, 이미지 제작, 데이터 분석 등 다양한 작업을 수행하고, 사용자는 작업 결과를 기준으로 AI의 성능을 판단하죠. 

 

하지만 에이전틱 AI는 사용자의 목표에 따라 자율적으로 의사결정하고 행동합니다. 따라서 사용자는 AI에게 목표를 향한 과정을 위임하고, AI가 실제 사용자의 목표를 제대로 이해했는가를 기준으로 AI 성능을 판단하고요. 자율주행차를 예로 들면, 사용자의 목표가 오후 6시 전에 집에 도착하는 것이라고 할 때, 어느 도로로 가느냐, 속력을 얼마나 내느냐 등 운전은 AI에게 맡기고 집 도착 시각을 확인합니다. 

 

AI가 나의 의도를 정확히 파악했는가, 목표를 달성하기 위해 거쳐온 과정을 신뢰할 수 있는가. 에이전틱 AI 사용자에겐 이 두 가지가 가장 중요합니다. 즉, 목표 동기화(Alignment)와 신뢰가 에이전틱 AI UX의 핵심이라고 볼 수 있어요.

 

키 포인트는 과정의 가시성(Visibility)

 

목표 동기화와 신뢰를 쌓기 위한 에이전틱 AI의 UX는 AI의 사고 과정을 ’블랙박스(Black box)’로 두지 않고, 투명하게 보여주는 데에 기반을 둡니다. 우리가 일상에서 쉽게 쓸 수 있는 실제 서비스를 통해서도 확인할 수 있죠.

 

의도 재확인(Refining Intent)

 

사용자의 질문을 AI가 다시 정리하고 세분화, 때로는 되물어 확인합니다.

 

 

진척도와 상태 공유(Status Updates)

 

사용자는 에이전틱 AI에 목표를 위임하고 결과를 기다립니다. 얼마나 진척됐는지, 현재 어떤 과정(검색, 이해, 비교, 추론 등) 중에 있는지, 예상되는 대기 시간은 어느 정도인지를 사용자에게 알리면 사용자를 안심시키면서 '내가 당신을 위해 열심히 자료를 찾고 있다'는 행위를 증명해 신뢰를 얻을 수 있습니다.

 

 

명확한 근거 제시(Citation & Evidence)

 

AI가 참고한 출처, 구체적인 인용 등 과정에서의 근거를 명시합니다. 이는 사용자가 "AI가 멋대로 지어낸 것은 아닐까?" 의심하며 환각(Hallucination)을 우려하지 않도록 돕습니다. 

 

 

 

에이전틱 AI를 위한 6가지 UX 원칙

 

기반을 다졌다면 그 위로 경험을 구축해야겠죠. 에이전틱 AI의 UX를 설계할 때는 다음 6가지 원칙을 고려해야 합니다.

 

1. 소통을 통한 목표 동기화 

AI가 사용자의 의도를 정확히 파악하기 위해 소통하고 목표를 맞춰나갑니다. 사용자의 말을 재진술(Paraphrasing)하거나, 실행 전 계획을 브리핑하는 방식으로 ‘지금 AI가 이해한 목표’를 공유하고 사용자와 AI가 같은 목표에 이르도록 하는 과정이 필요합니다.

 

2. 사고 과정의 투명성 

결과만 툭 던지는 것이 아니라, 왜 이런 결론이 나왔는지 추론 경로를 시각적으로 제공합니다. 타임라인이나 단계별 카드 UI를 통해 AI의 활약상을 보여주세요.

 

3. 명확한 권한 구분

사람과 AI의 원활한 협업을 위해서는 어디까지 AI가 자동 수행하고 어디서부터 사람의 승인이 필요한지 명확히 구분해야 합니다. 작업 기록 조회, ‘AI 제안’, ‘사용자 승인’과 같은 라벨링 등을 통해 책임 소재를 분명히 해야 하고요.

 

4. 사용자 개입 장치

자율주행차에도 브레이크가 필요하듯, AI가 자율적으로 행동하더라도 사용자가 언제든 일시 정지, 수정, 방향 전환 장치가 마련돼야 합니다. 사용자는 통제권을 확보함으로써 주체성을 지키고 결과에 이르기 전 돌발 상황에서 즉각적으로 대처할 수 있습니다. 

 

5. 피드백을 통한 성장

사용자가 AI에 명확한 피드백을 줄 수 있어야 합니다. 이 피드백을 학습하고 다음 작업에 반영하는 루프를 통해, AI는 사용자 마음에 들지 않는 결과를 줄여나가고 사용자에게 ‘개선된 인상’을 전달하며 자연스럽게 신뢰를 쌓을 수 있습니다. 

 

6. 맥락에 맞는 멀티모달

단순 반응을 넘어 목적을 기준으로 스스로 상황을 인지하고 조정하는 경험을 제공해야 합니다. AI 에이전트가 회의 중에는 입력된 사용자의 음성을 텍스트로 기록하고, 운전 중에는 텍스트 메시지를 음성으로 사용자에게 읽어주는 등의 시나리오를 고려할 수 있죠.

 

 

결국은 다시, 사람

 

최근 맥킨지(McKinsey), 구글 등 여러 기업의 관련 발표에 따르면, 에이전틱 AI가 ‘사람의 일’에 효과적으로 녹아들기 위한 관건은 사람에 대한 이해와 맥락 파악에 있습니다. 역설적이지 않나요? 최첨단의 기술을 구현하기 위해서는 가장 ‘인간적인’ 일을 해야 한다는 사실이 말이죠. 에이전틱 AI UX의 의의는 '기능 구현'이 아니라 사용자의 삶과 업무에 자연스럽게 스며드는 ‘맥락’ 그 자체를 만드는 일이 될 것입니다. 바로 지금이 사용자, 즉 사람을 이해하는 일이 무엇보다 중요한 까닭입니다.

 

---

 

[참고 자료]

• Agentic UX: 위임 중심의 새로운 사용자 경험 

• AI First Principles

• Designing for Autonomy: UX Principles for Agentic AI Systems 

• Gemini at Work 2025  

• Introducing ChatGPT agent: bridging research and action

• One year of agentic AI: Six lessons from the people doing the work 

• OpenAI DevDay 2025 

• UX design for agents