Paper review

Human Centered Explainability for Intelligent Vehicles–A User Study

2023.11.20 | 조회 966 |
2
|

이 논문은 사용자 맞춤형 차량 내 시스템에 설명 가능성을 통합하는 것에 초점을 맞추고 있습니다. 이 연구는 사용자가 AI 기반 사용자 맞춤형 시스템에서 제공하는 설명을 어떻게 평가하는지, 그리고 이러한 설명이 사용자 수용, 신뢰 및 시스템 투명성에 어떤 영향을 미치는지를 조사합니다.


연구 방법

  • 목표: 지능형 차량에서 사용자 적응형 편의성 및 인포테인먼트 기능의 설명 가능성이 최종 사용자에게 어떻게 인식되는지 평가
  • 연구에 사용된 프로토타입: 

- 정보 제공 및 설명 컨셉트(I&E 컨셉트): 기본 정보 외에도 적응이 이루어진 이유와 알고리즘이 결과에 도달한 방법을 설명

- 정보 제공 컨셉트(I 컨셉트): 시스템이 만든 적응에 대한 기본 정보를 제공

  • 사용 사례: 차량의 편의성 및 인포테인먼트에 대해 일반적인 다양한 기능을 포함하기 위해 네 가지 다른 사용 사례(내비게이션, 기후 조절, 중간 정차, 엔터테인먼트)가 프로토타입에 구현되었습니다. 
  • 연구 설계: 참가자들은 (평균 나이 39세인 59명; 여성 51%, 남성 49%) 시뮬레이션 환경에서 두 개념(I 및 I&E)을 경험했습니다. 수용도, 신뢰도, 설명의 가치, 이해도/투명성과 같은 종속 변수를 측정하기 위해 다양한 설문지가 사용되었습니다.

 

주요 결과

1. 전반적 평가

  • I&E 개념은 인식된 투명성 및 이해도 측면에서 유의미하게 더 높게 평가되었습니다.
  • 그러나 I&E 개념에 대한 만족도는 I 개념에 비해 낮았습니다.
  • 대부분의 참가자들은 간결하고 효율적인 정보를 선호하여 I 개념을 더 선호했습니다.

 

2. 이해도 및 투명성

  • I&E 개념은 이해도 및 투명성에서 더 높은 점수를 받았습니다.
  • 그러나 시스템 이해에 대한 객관적 평가는 이러한 주관적 평가와 완전히 일치하지 않았습니다.

 

3. 설명의 가치

  • I&E 개념의 설명은 일반적으로 가치 있다고 인식되었으며, 특히 내비게이션 및 중간 정차 사용 사례에서 더 높은 가치가 인식되었습니다.

 

의의

  • 사용자 선호도에 대한 통찰: 이 연구는 인공 지능 시스템에서 설명의 길이와 복잡성을 균형있게 다루는 것이 중요하다는 것을 강조하며, 사용자들은 간결하고 효율적인 정보를 선호한다는 것을 보여줍니다.
  • 설명 가능한 AI에 대한 함의: 이 연구의 결과는 설명이 인식된 투명성 및 이해도를 향상시키지만, 항상 시스템에 대한 더 나은 객관적 이해로 이어지지는 않는다는 것을 시사합니다. 이는 설명의 설계 및 통합에 신중을 기해야 함을 나타냅니다.
  • 특징에 따른 설명 필요성: 연구는 설명이 필요한 정도가 기능에 따라 다르다는 것을 제시하며, 일부 기능은 높은 수준의 투명성을 요구한다고 제안합니다.
  • 미래 차량 설계에 대한 지침: 이러한 발견은 지능형 차량의 사용자 인터페이스를 설계할 때 유용한 통찰을 제공합니다. 또한, 설명 가능한 AI에서 사용자 중심 접근과 특징별 설명 전략의 필요성을 강조합니다.

 

결론적으로, 이 연구는 지능형 차량 시스템에서 사용자 중심의 설명 가능성이 중요하다는 실증적 증거를 제공하며, 설명은 인식된 투명성과 이해도를 향상시키지만, 사용자의 필요와 선호를 효과적으로 충족시키기 위해서는 그 설계와 통합에 신중을 기해야 함을 시사합니다.

 

다가올 뉴스레터가 궁금하신가요?

지금 구독해서 새로운 레터를 받아보세요

✉️

이번 뉴스레터 어떠셨나요?

inspireX 님에게 ☕️ 커피와 ✉️ 쪽지를 보내보세요!

댓글 2개

의견을 남겨주세요

확인

다른 뉴스레터

MCP란 무엇일까?

AI를 세상과 연결해주는 표준 연결고리, MCP. 🧐 Summary 1️⃣ Model Context Protocol(MCP)은 AI가 외부 시스템의 데이터를 안전하게 불러올 수 있도록 돕는 오픈소스 표준입니다. 2️⃣ 최근 Ope

2025.04.09·Wednesday Insights·조회 2.02K

사투리와 감정을 배우고 있는 AI

챗GPT는 왜 아빠 사투리를 못 알아들었을까?. 🧐 Summary 1️⃣ 음성인식(STT) 모델은 표준어 중심으로 학습되어 사투리를 잘 처리하지 못하지만, 파인튜닝, 합성 데이터, 멀티언어 모델 등으로 점차 개선되고 있어요. 2

2025.09.03·조회 1.83K

창의성은 기술과 함께 진화할 수 있을까?

완벽한 AI와 불완전한 인간의 창의성에 대한 생각. 🧐 Summary 1️⃣ 많은 창작자들이 AI의 능력을 최적화가 아니라 방해물로 활용합니다. 2️⃣ AI에 의존할수록 사고와 기억이 줄어들 수 있어요. 3️⃣ AI는 결과물만 보면

2025.07.16·Wednesday Insights·조회 769

AI에게 몸이 필요하다고요?

Embodied AI와 UX의 새로운 역할. 🧐 Summary 1️⃣ AI가 진짜로 세상을 이해하려면 단순한 뇌가 아니라 몸을 통한 경험이 필요해요. 2️⃣ Embodied AI는 감각-사고-행동이 연결된 몸 가진 AI로,

2025.06.18·Wednesday Insights·조회 1.15K

좋은 질문으로 바꾸는 세상

당연하다고 생각했던 것들에 대해 끊임없이 질문 던지기. 🧐 Summary 1️⃣ 우리가 당연하게 여겼던 것들에 질문을 던질 때, 새로운 가능성이 열립니다. 2️⃣ 기술은 ‘빠름’이나 ‘정확함’보다 ‘누구를 위한 것인가’를 묻는 질문에

2025.06.25·Wednesday Insights·조회 779

AI 동반자, 인간이 만들어낸 새로운 관계의 이면

AI에 의지하게 되는 심리학적 이유 및 비판적 수용의 중요성. 🧐 Summary 1️⃣ 연인, 혹은 친구와 같은 역할을 해주는 AI 동반자 서비스가 새로운 관계 형태로 주목받고 있어요. 2️⃣ AI와의 깊은 관계는 투사, 감정이입과 같은 심리

2025.08.20·Wednesday Insights·조회 1.48K
© 2026 inspireX

매주 수요일, 한 주 동안 생각해볼 만한 IT/UX 이야기를 전달해드립니다.

뉴스레터 문의inspirexnewsletter@gmail.com

메일리 로고

도움말 자주 묻는 질문 오류 및 기능 관련 제보

서비스 이용 문의admin@team.maily.so 채팅으로 문의하기

메일리 사업자 정보

메일리 (대표자: 이한결) | 사업자번호: 717-47-00705 | 서울특별시 송파구 위례광장로 199, 5층 501-8호

이용약관 | 개인정보처리방침 | 정기결제 이용약관 | 라이선스