AI 기술이 완벽하지 않은 상황에서 인간에게 의미 있게 사용되려면 사용자가 가치 있게 쓸 수 있도록 유도하는 서비스 설계가 필요하다. 이를 위해서는 인간 사용자의 능력과 특징, 니즈 등 휴먼 팩터(Human Factor)를 면밀히 살피고 서비스 설계에 반영해야 한다. 사용자가 AI의 제안을 단순히 수용하는 것이 아니라 필요에 따라 조정하고 수정할 수 있도록 옵션을 제공하거나 창작 과정에서 최종 편집 등 인간의 역할을 남겨놓음으로써 AI 서비스의 효과와 만족도를 높일 수 있다. 또한 인간 사용자가 현명한 판단을 내릴 수 있도록 AI가 도출한 결과에 대한 충분한 설명을 제공해 AI 시스템에 대한 신뢰도를 제고할 수 있다. 최적의 사용자 경험을 제공하기 위해서는 이처럼 AI 자동화가 주는 편리함과 인간의 참여와 개입을 통한 안정성을 균형 있게 서비스에 녹여야 한다.
편리함의 함정, 완벽하지 못한 AI
거대 언어 모델(LLM)의 발전과 함께 최근 고객 서비스 분야에서 AI 자동화가 활발히 이뤄지고 있다. 글로벌 항공사 에어프랑스는 AI 챗봇을 도입해 24시간 고객 문의에 응답하는 등 고객 서비스 분야의 AI 자동화는 고객들이 필요한 정보를 빠르게 제공해 대기 시간을 줄이며 고객 만족도를 크게 높이고 있다. 게다가 단순한 CS 응대를 넘어 기업의 핵심 비즈니스에 AI를 도입해 효율성을 높이려는 시도도 활발하다. 핀테크 기업 등 금융업계에서는 AI를 활용해 대출 신청을 자동화하고 있다. 일례로 미국 핀테크 기업 업스타트는 AI 알고리즘을 통해 대출 신청자의 신용도를 평가한 후 빠르게 대출 승인 여부를 결정한다. AI 자동화로 인해 대출 신청 과정이 간소화되며 사용자는 더욱 빠르고 간편하게 대출을 받을 수 있게 됐다. 이처럼 AI 자동화는 업종을 불문하고 다양한 비즈니스에 적용되며 사용자들에게 실질적인 혜택을 제공하고 있다.
AI 기술이 발전하기 전에도 여러 형태의 자동화 서비스가 있었다. 엑셀의 매크로 기능 등 사용자가 정의한 일련의 명령을 시스템이 자동으로 실행해 반복적인 작업을 자동화하는 식이었다. 그렇다면 AI 자동화와 비AI 기반 자동화 시스템의 차이점이 뭘까? HCI(Human-Computer Interaction, 인간-컴퓨터 상호작용) 관점에서 봤을 때 근본적인 차이는 AI 기반 자동화가 인간의 인지, 지능적 능력을 어느 정도 갖추고 있다는 점이다. (표 1) AI 기술은 인지, 지능적 능력을 발휘해 특정 작업을 독립적으로 수행할 수 있다. 인간이 미리 규칙을 정의하고 수동으로 개입해 활성화해야 작동하는 비AI 기반 자동화 시스템과 달리 AI 기반 자동화는 특정 상황에서 자율적인 작업 수행이 가능하다. 또한 AI는 스스로 적응하고 문제를 해결할 수 있는 능력을 갖추고 있어 인간이 예상치 못한 상황에서 성공적으로 작동할 수도 있다.
HCI 전문가들은 AI의 이런 독특한 특성을 충분히 이해하고 결과물을 효과적으로 다뤄야 인간을 위한 최적의 경험을 제공할 수 있다고 입을 모은다. 인지, 지능적 능력을 기반으로 AI가 때론 인간의 예상을 벗어나 작동하거나 예측하지 못한 결과를 내놓을 수 있기 때문이다. 기존의 비AI 기반 자동화 시스템에서는 볼 수 없었던 AI 기술이 초래하는 새로운 문제와 위험은 다음과 같다.
고민삼 교수는 한국과학기술원(KAIST) 지식서비스공학과에서 박사학위를 취득하고 인공지능연구원, 삼성전자에서 근무했다. 2022년부터 딜라이트룸의 연구책임자를 겸직하고 있다. HCI 분야 국제 저명 학술대회에 논문을 다수 게재했고 세계컴퓨터연합회(ACM)가 주최한 ‘컴퓨터 지원 공동 작업 및 소셜 컴퓨팅(CSCW)’ ‘인간-컴퓨터 상호작용 학회(CHI)’에서 우수 논문상을 수상하기도 했다. 인간-인공지능 상호작용 연구실을 이끌며 HCI 분야에 AI 기술을 응용하기 위한 다양한 연구를 수행하고 있다.
