Article at a Glance

능동형 AI는 미리 정해진 규칙과 명령에 따라 작동하는 챗GPT와 같은 수동형 AI와 달리 스스로 학습하고, 문제를 해결하고, 결정한다. 그간 능동형 AI는 자율주행 등 전문적인 한 가지 영역에 사용되도록 개발됐다. 그러나 최근 GPT 모델을 적용한 오토GPT, 에이전트GPT 등 범용적인 상황에서 활용할 수 있는 능동형 AI가 활용되기 시작했다. 챗GPT에선 사용자가 양질의 답을 얻을 때까지 질문을 반복하지만 오토GPT에선 이 과정을 AI가 스스로 수행한다. 그러나 능동형 AI는 수동형 Al 보다 윤리적 문제에 취약하며 결과에 대한 설명도 더욱 어렵다는 점은 명심해야 한다. 위험한 상황에서는 자동으로 중단되는 기능을 마련하거나 돌발 상황에 대비할 수 있도록 기업 내 다양한 이해관계자에게 AI 교육을 진행하는 등 안전장치를 마련해야 한다.

---

수동형 AI 챗GPT, 능동형 AI는?

능동형 AI(Active AI)는 목표만 주어지면 스스로 학습하고, 시도하고, 문제를 발견해 개선하기까지 모든 과정을 능동적으로 수행하는 AI를 뜻한다. 최근 유명해진 챗GPT와 같은 형태의 AI는 수동형 AI(Passive AI)로 지칭한다. 명령이 있어야만 계속해서 동작을 수행하고, 정해진 규칙에 따라 움직인다. 문제가 발생한 경우 인간이 직접 규칙을 수정해줘야 한다. 예를 들어 수동형 AI가 의료 진단에 사용되는 경우 의료 전문가가 이미지나 검사 결과를 해석해 AI 시스템에 정확한 진단을 내리도록 프로그래밍해야 한다.

그러나 능동형 AI는 이전에 학습한 데이터와 패턴을 기반으로 스스로 진단을 내릴 수 있다. 수동형 AI는 더 정확한 결과를 보장할 수 있지만 문제가 발생했을 때 프로그래밍을 수정하거나 업데이트해야 한다. 반면 능동형 AI는 스스로 문제를 해결할 수 있으므로 프로그래밍이나 업데이트 없이도 다양한 문제에 대처할 수 있다.

그렇다면 능동형 AI가 더 좋은 것 아니냐고 생각할 수 있겠다. 그렇지만은 않다. 능동형 AI는 스스로 학습하므로 잘못된 데이터나 잘못된 가설에 기반해 잘못된 결론을 내릴 수 있다. 그뿐만 아니라 AI가 왜 이런 행동을 하는지에 대해 결과를 이해하거나 설명하기 어려울 수 있다. 물론 이러한 능동형 AI를 설명하는 시도로 설명 가능한 AI(Explainable AI)1 1AI 시스템이 판단한 최종 결과를 인간이 정확히 이해하고 설명할 수 있도록 정보를 제공하는 확장된 개념의 AI 기술 닫기 도 함께 연구되고 있지만 지금으로선 알기 어려운 것은 사실이다. 우스갯소리로 AI 개발자들은 실행(Run)만 시켜놓고 신의 계시를 받듯 원하는 결괏값이 나오기를 기도한다는 말도 있다. 일반적으로 수동형 AI는 반복적이고 일정한 작업에 적합하며 능동형 AI는 변화하는 환경에 적응하고 다양한 작업을 수행하는 데 적합하다고 이해할 수 있다.

인기기사