연구 목록
인간 중심 AI (HCAI)
인간 중심 AI(HCAI)란 무엇인가 — HCI·HAI·HCAI는 어떻게 다른가
AI를 사람 중심으로 만든다는 말은 정확히 무엇을 뜻하는가
인간 중심 AI(HCAI)는 AI를 사람을 대체하는 쪽이 아니라 사람의 판단과 통제력을 키우는 쪽으로 설계하겠다는 입장이다. 자동화 수준과 사람의 통제력을 맞바꾸는 것이 아니라 둘 다 높이는 것을 목표로 삼고, 시스템이 틀렸을 때 그 대가를 누가 치르는지를 설계 단계에서 묻는다.
HCI · HAI · HCAI — 한 문장씩
HCI(인간-컴퓨터 상호작용)는 분야다. 사람과 컴퓨팅 시스템 사이에서 일어나는 일 전부를 다룬다. HAI(인간–AI 상호작용)는 그 안의 하위 분야다. 대상을 AI로 좁힌다. HCAI(인간 중심 AI)는 분야가 아니라 입장이다. 무엇을 연구하느냐가 아니라 무엇을 위해 만드느냐를 정한다.
그래서 세 개는 서로 경쟁하지 않는다. HCI 안에서 HAI를 연구하고, 그 결과를 HCAI라는 기준으로 제품에 적용한다 — 이 순서가 성립한다.
「사람 중심」이 실제로 걸러내는 것
듣기 좋은 말이라 아무것도 걸러내지 못하면 소용이 없다. 실제로 이 기준은 몇 가지를 배제한다. 사용자가 빠져나갈 수 없게 만드는 설계, 통제권을 되돌려주지 않는 자동화, 틀렸을 때 사용자가 그 사실조차 알 수 없는 불투명함, 그리고 지표는 오르는데 사람의 삶은 나빠지는 종류의 성공.
지향점으로 두는 이유
HCAI는 달성했다고 선언할 수 있는 상태가 아니라 매번 다시 물어야 하는 기준에 가깝다. 제품을 운영하다 보면 지표를 올리는 가장 쉬운 길과 사람에게 좋은 길이 갈라지는 순간이 반복해서 온다. 그때 무엇을 고를지 미리 정해두는 것이 이 입장의 실질이다.