🧐 Summary
1️⃣ 생성형 AI 서비스들의 UX 개발/평가 시 기존의 전통적인 UX 원칙과는 다른, 생성형 AI의 특성을 반영한 UX 디자인 원칙이 필요합니다.
2️⃣ 생성형 AI의 UX 디자인 시 고려해야 할 주요 특징으로는 새로운 형태의 상호작용, 가변성, 그리고 잠재적 리스크가 있습니다.
3️⃣ 생성형 AI의 UX 디자인을 위해 책임감 있게 디자인하기, 멘탈 모델 형성, 적절한 신뢰와 의존성, 가변성 고려, 공동 창작 지원, 불완전성 인지를 포함한 여섯 가지 디자인 원칙을 제안합니다.
안녕하세요 구독자님, 이번주에는 IBM Research AI 및 IBM USA의 연구원들이 발표한 생성형 AI 앱을 위한 디자인 원칙[1]에 대해 이야기해보려 합니다. 다양한 생성형 AI 서비스들이 등장하고 있지만 현재 생성형 AI 서비스들은 챗봇 형태의 UX가 대부분으로 어떠한 방향으로 UX가 발전해 나가야 할지 논의만 많을 뿐 정말 생성형 AI의 특징을 고려한 UX 디자인 원칙은 정립되지 않은 상태죠. 그렇다면 우리가 UX 디자인을 할 때 고려해야 할 생성형 AI만의 특징은 무엇이 있을까요?
UX 디자인 시 고려해야 할 생성형 AI의 특징
1. 새로운 형태의 상호작용
Jakob Nielsen은 생성형 AI가 의도를 기반으로 한 결과 제공(intent-based outcome specification)이라는 새로운 형태의 상호 작용을 제공한다고 주장했습니다 . 우리는 원하는 결과를 위해 프롬프트를 작성하지만, 사실 어떠한 프롬프트를 작성해야 정말 원하는 결과를 얻을 수 있는지 알 수 없죠. 사용자가 효과적으로 프롬프트를 작성하는 방법을 배우는 AI 사용자 경험을 어떻게 디자인할 수 있을까요?
2. 가변성
생성형 AI에서는 사용자가 버튼을 클릭할 때마다 다른 결과를 얻게 됩니다. 이는 UX가 일관성있고 예측 가능해야 한다는 전통적 UX 지침과 전혀 다른 이야기이죠. 이러한 상황에서 사용자의 멘탈모델 형성을 어떻게 도울 수 있을까요?
3. 잠재적 리스크
생성형 AI는 저작권 침해, 개인정보 유출 등의 리스크를 가지고 있죠. UX 디자이너는 이러한 사용자의 잠재적 리스크를 어떻게 고지하고 해결할 수 있을까요?
생성형 AI UX 디자인을 위한 여섯 가지 원칙
이 연구에서는 디자인 실무자들이 생성형 AI UX를 디자인하는데에 도움이 되는 여섯 가지 원칙을 제시하였습니다. 위에서 언급한 세 가지 생성형 AI의 고유 특성에 초점을 맞추어, 기존 UX 디자인 원칙을 새롭게 해석한 것입니다.
1. 책임감 있게 디자인하기(Design Responsibly) 이 원칙은 사용자의 실제 요구를 해결하고 사용자에게 해를 끼치지 않도록 AI 시스템을 디자인하는 것을 강조합니다. 인간 중심 접근 방식을 사용하여 사용자의 요구와 불편점을 이해하고, 관련된 모든 사람들 사이의 가치 갈등을 식별하고 해결하는 것이 중요합니다.
2. 멘탈 모델 형성을 위한 디자인(Design for Mental Models) 사용자가 생성형 AI와 효과적으로 상호 작용할 수 있도록 돕는 것이 목표입니다. 사용자가 AI 시스템의 동작을 이해하고, 시스템 사용 방법을 효과적으로 배울 수 있도록 지원하는 것이 중요합니다.
3. 적절한 신뢰 및 의존을 위한 디자인(Design for Appropriate Trust & Reliance) 사용자가 AI 시스템의 출력에 언제 신뢰하고 의존해야 하는지를 결정할 수 있도록 돕는 것이 중요합니다. 품질 문제, 정확도 문제, 편향, 대표성 부족 등에 대한 사용자의 의심을 가르치는 것이 포함됩니다.
4. 가변성을 고려한 디자인(Design for Generative Variability) 생성형 AI가 동일한 입력에 대해 다양하고 구별되는 여러 출력을 생성할 수 있는 능력을 관리하는 것을 돕습니다. 사용자가 여러 출력 중에서 선택하거나, 새로운 출력 가능성을 탐색하도록 지원하는 것이 중요합니다.
5. AI와의 공동 창작을 위한 디자인(Design for Co-Creation) 사용자가 생성 과정에 영향을 주며 AI 시스템과 협력할 수 있도록 지원하는 것이 목표입니다. 사용자가 효과적인 프롬프트를 만들도록 돕고, 생성된 답변은 AI와 공동으로 편집할 수 있는 기능을 제공하는 것이 필요합니다.
6. 불완전성을 고려한 디자인(Design for Imperfection) 생성형 AI 모델이 완벽하지 않은 답변을 제공할 수 있음을 인지하고, 답변 방식을 이해하고 다룰 수 있도록 지원하는 것이 중요합니다. 불확실성을 드러내고, 답변을 평가 및 개선할 수 있는 방법을 제공하는 것 역시 필요합니다.
IBM 연구자들은 이 여섯 가지 디자인 원칙을 실제 IBM에서 개발하는 생성형 AI UX 디자인에 활용했다고 합니다. 약간 모호한듯한 느낌이 드는 원칙들도 있었지만, 기존 전통적인 UX에서는 찾아보기 힘들었던 가변성 및 불완전성을 어떤 식으로 컨트롤 할 수 있을지에 대한 고민은 저에게도 와닿는 지점이었어요.
지난번 프롬프트 엔지니어링 관련한 내용에서도 말씀드렸듯이, 생성형 AI의 활용은 정말 무궁무진한 것 같은데 이 멋진 기술을 보다 많은 사람들이 잘 활용할 수 있도록 초기 진입장벽을 낮춰주는 데에는 UX 디자이너들의 역할이 매우 중요할 것 같아요. 제 주변에도 사실 챗지피티를 써보고 싶지만 막상 링크를 따라 들어가보면 그저 대화창만 덩그러니 있으니 어떻게 사용해야 할지 몰라서 주저하는 친구들이 있거든요. 조금 더 시간이 지나면 지금의 챗봇같은 형태와는 또 다른 UX가 등장하지 않을까 기대해보며, 오늘의 이야기를 마칩니다.
Reference
[1] Weisz, J. D., He, J., Muller, M., Hoefer, G., Miles, R., & Geyer, W. (2024). Design Principles for Generative AI Applications. arXiv preprint arXiv:2401.14484.
🤔 InspireX의 물음표
댓글이나 이메일로 여러분의 생각을 들려주세요! 😉
Q1. 생성형 AI 서비스를 사용하며 동일한 질문에 대해서도 매번 대답이 달라질 수 있다는 것에 대해 어떤 느낌을 받으세요? 가능성이 무궁무진하다는 긍정적인 부분이 더 크게 느껴지나요, 아니면 모호한 불확실성에 대한 부정적인 부분이 더 크게 느껴지나요?
Q2. 기존에 사용하던 전통적 UX 디자인 원칙과 생성형 AI를 위한 디자인 원칙에서 가장 큰 차이점은 무엇이라고 생각하시나요? 혹시 오늘 다룬 내용에는 없지만 평소에 중요하다고 생각하셨던 부분이 있다면 생각을 나눠주세요.
댓글
의견을 남겨주세요