[PAIR Guidebook] #1 사용자 니즈 + 성공 정의하기 (User Needs + Defining Success)



People + AI 가이드북을 소개합니다

People + AI 가이드북은 구글에서 공개한 자료로, 인간 중심의 AI 제품 설계를 위한 실용적인 지침과 모범 사례를 담고 있습니다. 가이드북에는 AI 기능을 갖춘 유용한 제품을 만들기 위한 UX 및 ML 지침, 원칙, 접근 방식, 디자인 패턴, 워크숍이 포함되어 있습니다.

총 6개의 챕터로 구성된 이 가이드북을 바탕으로 각 챕터의 내용을 소개합니다.

이번 글에서는 「사용자 니즈 + 성공 정의하기 (User Needs + Defining Success)」 챕터를 다룹니다.

가이드북 링크: https://pair.withgoogle.com/guidebook/



---

사용자 니즈와 AI 강점의 교차점을 찾으세요

AI 제품을 개발할 때 우리는 다음 질문들에 답변할 수 있어야 합니다.

• 사용자는 누구인가요?

• 그들의 가치는 무엇인가요?

• 그들이 해결해야 할 문제는 무엇인가요?

• 그 문제를 어떻게 해결할 것인가요?

• 사용자의 경험이 언제 '완성'되었다고 판단할 수 있나요?

AI 사용 여부를 결정하기 전에, 팀은 해결하려는 문제를 자세히 설명하는 사용자 조사를 수행해야 합니다. 이 조사를 바탕으로 AI를 사용하여 사용자 요구 사항을 해결해야 하는 이유를 명확히 제시해야 합니다. 팀원들은 AI가 추구할 가치가 있는 해결책인지, 그리고 그 이유는 무엇인지에 대해 의견 일치를 보여야 합니다.

여기서 중요한 것은 AI가 모든 문제의 정답은 아니라는 점입니다. 사용자의 어떤 태스크는 AI로 의미 있게 향상되지만, 어떤 태스크는 오히려 AI로 인해 퇴보할 수 있습니다. 예를 들어, 사용자가 직접 수행하고 싶어하는 고가치 작업에 자동화를 도입하면 오히려 불만을 초래할 수 있습니다.

사용자의 문제 정의 방식을 이해하세요

사용자의 문제는 결정론적일 수도 있고, 미결정론적(open-ended)일 수도 있습니다.

사람들은 현실 세계의 문제를 해결할 때 창의적으로 생각하고, 낯선 환경에서 임기응변으로 대처하며, 자신의 경험을 고려하는 경향이 있습니다. 사람들이 문제를 "해결됨"으로 간주하는 기준과 시점에 대한 기존의 기대치를 이해하는 것을 AI 모델과 제품 정책의 성공 기준을 설정하는 데 도움이 됩니다.

AI 시스템이 성공하려면 시스템의 목적을 명확히 정의하여 AI 시스템의 동작이 사용자의 의도와 일치하도록 하는 것이 중요합니다.

사용자는 '명세화(Specification)'라는 과정을 통해 AI 시스템에 목표를 전달합니다. 명세화 정렬은 AI 시스템을 의도한 결과로 이끌어가는 능력을 의미합니다. 문제는 AI 시스템의 동작이 사용자의 의도와 일치하지 않을 때 발생합니다. 이러한 불일치는 성능 저하나 안전 문제로 이어질 수 있습니다.

도널드 노먼의 행위의 7가지 단계

가이드북에서 직접 다루는 내용은 아니지만, 사용자 명세화와 정렬 개념을 이해하는 데 도널드 노먼의 행위 7단계 모델이 유용한 프레임워크가 될 수 있을 것 같습니다.

이미지 출처: https://velog.io/@chaeki/%EB%8F%84%EB%84%90%EB%93%9C-%EB%85%B8%EB%A8%BC-%EB%94%94%EC%9E%90%EC%9D%B8%EA%B3%BC-%EC%9D%B8%EA%B0%84%EC%8B%AC%EB%A6%AC-13

노먼은 인간의 행동을 7단계로 세세하게 분석합니다. 어떤 목표를 가지고 행동으로 옮긴 뒤, 세상(장치, 디스플레이 등)으로부터 피드백을 받는 흐름으로 이루어져 있습니다. 사람들은 그 과정에서 두 가지 갭(간격)을 경험하게 됩니다.

• 실행의 간격: 어떻게 작동하는지 알아낼 때 의도와 다른 부분을 발견하는 간격

• 평가의 간격: 무엇이 일어났는지 알아낼 때 예상과 달랐던 간격

  
  

디자이너의 역할은 바로 이 두 가지 갭을 줄여주는 것입니다. 이 갭은 사용자의 불만족으로 이어지며, 새 제품이나 서비스를 개발하는 출발점이 되기도 합니다.

AI 제품에서도 마찬가지입니다. 사용자가 AI에게 목표를 전달할 때(명세화) 실행의 갭이 발생할 수 있고, AI의 결과물을 해석할 때 평가의 갭이 발생할 수 있습니다. AI 제품 디자이너는 이 두 갭을 최소화하여 사용자의 의도와 AI의 동작이 일치하도록 설계해야 합니다.

자동화와 증강의 균형을 맞추세요

AI가 언제 자동화하고, 언제 증강하고, 언제 사용자에게 제어권을 넘겨줘야 하는지 아는 것은 유용한 AI 제품을 구축하는 데 핵심입니다.

• 자동화(Automation): 기계가 최소한의 사용자 개입으로 작업을 수행하는 것입니다. 반복적이고 지루한 작업, 명확한 지시가 가능한 작업에 적합합니다.

• 증강(Augmentation): 기계가 사용자의 역량을 증폭시켜 새로운 통찰력과 효율성을 협업을 통해 발견할 수 있도록 하는 것입니다. 개인적 즐거움이나 책임감이 수반되는 작업, 위험도가 높은 작업에 적합합니다.

자동화와 증강 중 선택할 때는 아래의 질문을 던져보세요:

• 만약 비슷한 역할을 맡을 동료를 교육한다면, 가장 먼저 가르칠 중요한 업무는 무엇일까요?

• 만약 업무를 함께 수행할 인간 조수가 있다면, 어떤 업무를 위임할까요?

제품이 해결하고자 하는 문제의 필요한 단계를 이해하려면, 사람들이 현재 해당 프로세스를 완료하는 방식을 살펴보고 AI를 통해 자동화하거나 보완할 수 있는 부분을 파악해야 합니다.

인터랙션 디자인 정책을 수립하세요

생셩형 AI 제품의 경우에는 유연하고 무한한 사용자 여정이 특징입니다. 따라서 인간과 AI 간의 상호작용을 위한 인터랙션 디자인 정책이 필요합니다.

인터랙션 디자인 정책은 사용자가 제품 내 AI 시스템과 상호작용하는 중요한 사용자 여정(CUJ) 단계에서 사용자 경험을 좌우하는 기준의 집합입니다. AI 시스템이 수행할 수 있는 허용 가능한 작업과 허용되지 않는 작업, 오류로 인한 잠재적 위험, 사용자가 안전하게 감당할 수 있는 불확실성 수준 등을 정의합니다.

정확도를 최적화하면 잘못된 예측의 수를 줄일 수 있지만, 많은 좋은 예측도 함께 제외될 수 있습니다. 재현율을 최적화하면 더 다양한 결과를 보여주지만, 부정확한 결과도 포함될 수 있습니다. 아래 두 앱의 예시를 살펴보세요.

저위험 예시(러닝 앱): 정확도 우선 시 사용자는 달릴 가능성이 높은 코스만 보게 되어 추천이 반복될 수 있습니다. 재현율 우선 시 새로운 코스를 발견할 기회가 늘어납니다.

고위험 예시(암 검진): 정확도만 우선하면 희귀암이 발견되지 않을 수 있습니다. 재현율을 높이면 발병 가능성이 낮더라도 환자가 정보를 얻고 적시에 치료받을 수 있습니다.

잠재적 위험에 대비하세요

완벽한 AI 시스템은 없습니다. 설령 완벽하다 하더라도, AI를 사용하는 개인과 집단의 기대와 인식, 그리고 우리가 살아가는 세상은 끊임없이 변화합니다.

오류가 사용자 경험에 스며들 수 있음을 인지하고, 팀원들이 제품에 AI를 통합할 때 발생할 수 있는 잠재적 문제점을 예측하고 그로 인한 2차 효과를 해결할 수 있도록 지원해야 합니다.

2차 효과란 어떤 행동의 결과가 낳는 또 다른 결과를 의미합니다. 예를 들어, 학생들에게 AI 튜터를 도입하면 학습 효율이 높아질 수 있지만(1차 효과), 장기적으로 학생들의 자기주도적 사고력이 약화될 수 있습니다(2차 효과).

이러한 위험을 대비하려면:

• 다양한 전문성과 경험을 가진 사람들의 관점을 모아야 합니다

• 시간의 흐름에 따른 변화를 고려해야 합니다

• 출시 후에도 지속적으로 모니터링하고 사용자 피드백에 대응해야 합니다

마치며

AI 제품 설계의 핵심은 결국 사람입니다. 우리가 해결하려는 문제가 진짜 사용자의 문제인지, AI가 그 문제를 해결하는 데 정말 고유한 가치를 더하는지 끊임없이 질문해야 합니다. 그리고 그 과정에서 자동화와 증강의 균형을 찾고, 명확한 디자인 정책을 수립하며, 예상치 못한 위험에 대비하는 것이 성공적인 AI 제품의 조건입니다.