AI UI 신뢰는 정보량이 아니라 개입 가능성에서 생긴다. 사용자가 결과를 수정하거나 거부할 수 있는 지점을 화면이 제공하는가가 한 줄 판단 기준.
Distill의 한 줄
투명성 패턴을 '더 많은 정보 보여주기'로 해석해 진행 단계 전체를 나열하지 않는다. 사용자가 개입해야 하는 순간만 골라 드러내는 것이 투명성이다.
이럴 때 써요 이런 시점에 본 기준을 끌어온다. 본인 AI 제품 화면을 새로 설계할 때. 사용자가 결과를 안 믿는다고 피드백 줄 때. 본인 제품이 자동화 정도와 사용자 통제 정도 사이 균형 잡을 때. UX 디자인 우선순위 결정 시점.
이유는요
AI 결과 신뢰는 두 가지 방식으로 만들어진다. 정보량 늘리기와 개입 가능성 박기. 둘은 다르다. 정보량 늘리기는 사용자에게 AI가 거친 모든 단계를 보여주는 방식이다. 단계가 많으면 인지 과부하가 생기고 사용자는 보고도 의미를 못 잡는다. 정보가 신뢰를 만든다는 가정이 자주 빗나간다. 개입 가능성 박기는 사용자가 결과를 수정하거나 거부할 수 있는 지점을 화면이 제공하는 방식이다. 단계를 다 보여주는 게 아니라 '여기서 멈출 수 있다' '여기서 다른 선택 할 수 있다' '여기서 결과 거부할 수 있다' 지점만 박는다. 판단 기준은 한 줄이다. 사용자가 결과를 받았을 때 그것을 수정하거나 거부할 수 있는 지점을 화면이 제공하고 있는가. 이 지점이 없으면 본인 제품은 자동화가 아니라 통제 박탈이다. 1인 사업에 적용하면 본인이 만든 AI 기능 화면 한 장 펴고 사용자가 결과를 되돌릴 수 있는 분기점을 표시한다. 표시할 점이 하나도 없으면 그 화면은 다음 스프린트 1순위. 검색 엔진 역사가 같은 사이클을 거쳤다. 구글 PageRank 초기에는 '왜 1위인가'를 안 보여줬다. SEO 스팸 후 신뢰 무너졌고 10여 년에 걸쳐 출처 표기·스니펫·표시 이유 링크가 단계적으로 추가됐다. AI 에이전트는 같은 사이클을 더 짧게 통과 중.
이렇게 해 봐요
- 본인 사업 AI 기능 화면 1개를 종이에 그린다.
- 사용자가 결과를 되돌릴 수 있는 분기점에 빨간 표시한다.
- 표시 0개면 그 화면은 자동화가 아니라 통제 박탈. 다음 스프린트 1순위.
- 표시 너무 많으면 인지 과부하. 본질만 남기고 줄인다.
- 다른 AI 제품(Claude·ChatGPT)에서 본인이 어디서 개입할 수 있는지 본다. 좋은 패턴 본인 제품에 박는다.
이럴 땐 안 써요
본인 AI 제품이 결과 수정·거부 자체가 본질이 아닌 영역(예: 단순 검색·정보 조회). 본 기준 적용 표면이 작음. 본인 사용자가 결과 검증 시간이 없는 시점에 박힌 경우(예: 응급 의사결정). 이때 개입 지점보다 결과 신뢰성 자체가 우선. 본인 제품이 자동화 정도 자체가 낮아 사용자가 항상 개입 중인 경우. 본 점검법은 자동화 강한 자리에 우선 적용.
영상으로 더 보기
같은 본질을 영상으로 풀어 정리합니다. newsdistill과 유튜브 채널 뉴스디스틸은 같은 운영자가 만드는 한 묶음입니다.
유튜브 @뉴스디스틸 채널 열기