에이전틱 AI란?

에이전틱 AI는 인간 개입을 최소화하는 방식으로 데이터 및 툴과 상호작용하도록 설계된 소프트웨어 시스템입니다. 목표 지향적 행동에 중점을 둔 에이전틱 AI(AI 에이전트라고도 함)는 단계 목록을 생성하고 이러한 단계를 자율적으로 수행하여 태스크를 완수할 수 있습니다.

자동화를 대규모 언어 모델(LLM)의 창의적인 기능과 결합한 것을 에이전틱 AI라고 생각하면 됩니다. 에이전틱 AI를 실행하려면 LLM에 외부 툴에 대한 액세스 권한을 제공하는 시스템과 AI 에이전트가 그러한 툴을 사용하는 방법에 대한 지침을 제공하는 알고리즘을 만들어야 합니다.

에이전트가 툴과 통신하는 방식에는 오케스트레이션, 그리고 사용되는 프레임워크에 의존하는 흐름 또는 그래프가 수반됩니다. 이러한 접근 방식을 통해 LLM은 사용 가능한 정보만으로 질의에 응답할 수 있는지 아니면 외부 검색이 필요한지 여부를 결정하는 등 질문에 답하는 가장 좋은 방법을 '판단'하고 결정할 수 있습니다.

Red Hat AI 살펴보기 

AI 에이전트를 다른 소프트웨어 툴을 기반으로 하여 이러한 툴을 작동하는 엔터티로 생각해 보세요. 에이전틱 AI는 물리적 구조나, 소프트웨어 프로그램 또는 이 두 가지가 결합된 것일 수 있습니다.

로봇 시스템의 AI 에이전트는 카메라, 센서, 모니터 등을 사용하여 환경에 관한 데이터를 수집한 다음 해당 정보를 소프트웨어와 더불어 실행하여 다음 단계에 대한 결정을 내릴 수도 있습니다. 이것이 센서 융합이라고 하는 프로세스입니다.

한편 소프트웨어 환경의 에이전틱 AI는 API, 온라인 검색, 텍스트 프롬프트, 데이터베이스 등 에이전트가 지각과 맥락의 개념을 만드는 데 도움이 되는 다른 소스에서 데이터를 수집할 수 있습니다.

에이전틱 AI의 몇 가지 전문적인 특징을 좀 더 자세히 살펴보겠습니다.

에이전트 AI는 적응력이 뛰어나고 동적입니다

에이전틱 AI는 이전 패턴과 데이터로부터 학습합니다. 따라서 새로운 정보를 수신하거나 정보가 변경되면 전략을 실시간으로 변경할 수 있습니다. 기존 워크플로우는 진행 방향이 앞으로만 한정된 데 비해, 에이전틱 워크플로우는 앞으로도 뒤로도 진행할 수 있으며 그 과정에서 오류를 역추적하고 수정할 수 있습니다. 따라서 에이전틱 AI는 요구 사항을 사전 예방적으로 예측하고 작업에 직접 반영할 수 있습니다.

예를 들어 자율 주행차는 에이전틱 AI를 사용하여 도로 위의 쓰레기와 다람쥐를 구분하는 기능을 개선할 수 있습니다. 그리고 자체 행동을 지속적으로 모니터링하고 분석하면서 조치의 결과를 개선할 수 있습니다.

에이전틱 AI는 태스크를 독립적으로 관리하고 완료할 수 있습니다

에이전틱 AI는 자율 AI라고도 합니다. 인간 사용자나 다른 AI 에이전트를 대신하여 다른 AI 시스템 및 디지털 인프라와 통신하고 협업할 수 있는 역량이 있기 때문입니다.

예를 들어 AI 에이전트에게 저녁 식사로 스파게티를 만들고 싶다고 이야기합니다. 그러면 AI 에이전트가 레시피를 찾고, 재료 목록을 만들고, 근처 마트에 재료를 집으로 배달해 달라고 주문할 수 있습니다.

에이전틱 AI에는 '체인' 기능이 있습니다

다시 말해 AI 시스템은 하나의 요청에 대해 일련의 조치를 수행할 수 있습니다. 예를 들어 AI 에이전트에게 '웹사이트를 만들어 달라'고 요청하면 해당 태스크에 필요한 모든 조치를 수행할 수 있습니다. 즉, 하나의 프롬프트만 입력해도 AI 에이전트가 코드를 작성해 웹사이트 구조를 짜고, 페이지에 콘텐츠를 채우고, 시각적 요소를 디자인하고, 반응성을 테스트하는 태스크를 수행한다는 뜻입니다.

에이전틱 AI는 지속적인 모니터링이나 신속한 의사 결정이 필요한 태스크에 가장 유용합니다. 에이전틱 AI의 이점은 다음과 같습니다.

생산성 향상 - 태스크를 AI 에이전트에 위임하면 조직에 가치를 더하는 이니셔티브에 더욱 집중할 수 있습니다. AI 에이전트는 휴무 없이 24시간 근무하는 인턴이나 마찬가지입니다.

비용 절감 - 에이전틱 AI는 인적 오류를 줄여 비효율성, 착오, 실수 등과 관련된 비용을 제거합니다.

정보에 입각한 의사 결정 - 에이전틱 AI는 머신 러닝을 사용하여 그 어떤 사람도 할 수 없을 만큼 방대한 양의 실시간 데이터를 필터링하고 처리합니다. 양질의 대규모 데이터 풀에서 인사이트를 확보하면 더 나은 예측과 전략을 제공할 수 있습니다.

사용자 환경 개선- 기존에는 자동화된 워크플로우를 생성하려면 엔지니어링과 코딩에 대한 전문 지식이 필요했습니다. 그러나 에이전틱 AI를 사용하면 ChatGPT 같은 플랫폼에서와 마찬가지로 쉬운 언어로 상호작용할 수 있습니다.

에이전틱 AI는 고유의 기능으로 여러 용도에 사용될 수 있습니다. 에이전틱 AI가 산업 환경에서 어떻게 사용될 수 있는지 살펴보겠습니다.

• 비즈니스 운영에서 AI 에이전트는 공급망 관리, 재고 수준 최적화, 수요 예측, 물류 계획 등에 사용될 수 있습니다.
• 보건 의료 분야에서는 고객과의 소통, 요구 사항 모니터링, 치료 계획 수행, 맞춤형 지원 제공 등에 AI 에이전트를 활용할 수 있습니다.
• 소프트웨어 개발의 경우 디버깅 코드 생성, 개발 라이프사이클 관리, 시스템 아키텍처 설계 등에 에이전틱 AI를 활용하여 효율성을 제고할 수 있습니다.
• 소프트웨어 운영의 경우 에이전틱 AI를 네트워크 및 기타 IT 인프라 또는 서비스의 자율적 운영에 사용할 수 있습니다.
• 사이버 보안 분야에서는 네트워크 트래픽 모니터링, 문제 감지, 위협에 대한 실시간 대응에 AI 에이전트를 활용할 수 있습니다.
• 연구진은 에이전틱 AI를 사용하여 사람 한 명(또는 연구진)이 할 수 있는 것보다 더 빠르게 작업을 수행함으로써 실험을 설계 및 실행하고, 데이터를 분석하고, 새로운 가설을 세우고, 혁신 속도를 높일 수 있습니다.
• 에이전틱 AI 기능은 액세스 가능한 실시간 데이터 스트림을 기반으로 지속적으로 시장 동향을 분석하고, 거래 결정을 내리고, 전략을 조정하여 금융 및 무역 부문을 강화할 수 있습니다.

에이전틱 AI를 사용하면 독립적으로 작동하고 효과적으로 협업하며 데이터와의 상호작용을 통해 학습할 수 있는 지능형 시스템의 개발에 한 걸음 더 가까이 다가갈 수 있습니다. 에이전틱 AI는 에이전틱 워크플로우라고 하는 프로세스가 있기 때문에 작동할 수 있습니다.

에이전틱 워크플로우는 AI 에이전트가 관리하고 완료하는 일련의 구조적인 작업입니다. AI 에이전트에 완료해야 할 목표가 주어지면 태스크를 소규모 개별 단계로 나눈 다음 해당 단계를 수행하는 방식으로 워크플로우를 시작합니다.

이러한 일련의 단계를 수행하기 위해 AI 에이전트는 자신의 여러 버전을 구동하는 멀티 에이전트 시스템(MAS)을 생성합니다. 이 워크플로우에서 메인 에이전트(메타 에이전트, 오케스트레이터 또는 수퍼바이저라고도 함)는 태스크를 다른 에이전트에 위임하여 값을 할당하고 피드백 루프에서 메모리와 상호작용합니다. 이 에이전트들은 전체 목표가 완료될 때까지 함께 동시에 작업합니다.

이 MAS 내에서 각 에이전트는 독립적으로 또는 협업하여 기능할 수 있는 내부 구조로 구성됩니다. 이러한 협업에는 개별 지식, 과거 경험, 신념 상태 등에 관한 컨텍스트를 제공하는 공유 메모리 저장소가 필요합니다.

생성형 AI가 창작 중심이라면 에이전틱 AI는 실행에 중점을 둡니다. 생성형 AI는 예측 모델링과 선형 회귀를 사용하여 새로운 콘텐츠를 만듭니다. 에이전틱 AI는 수학적 체계를 사용하여 예측 모델링을 기반으로 의사 결정을 내리지만 한 단계 더 나아가 사용자 대신 작업(하나 또는 여러 작업)을 수행합니다.

생성형 AI는 사용자가 입력하는 프롬프트를 기반으로 출력을 생성합니다. 에이전틱 AI는 작업을 시작하는 기능이 있다는 점에서 기존의 AI와 다릅니다. 예를 들어 AI 에이전트는 액세스 가능한 정보를 바탕으로 추가적인 자체 프롬프트와 출력을 생성할 수 있습니다.

검색 증강 생성(RAG)은 대규모 언어 모델(LLM)을 대체 지시 프롬프트 또는 외부 리소스에 연결하여 생성형 AI 애플리케이션으로부터 더 나은 답변을 얻는 방법입니다. 에이전틱 RAG는 기존의 RAG를 한 단계 더 발전시켜 LLM이 단순히 검색만 하지 않고 능동적으로 조사할 수 있도록 지원합니다.

RAG는 답변을 검색하고 액세스 가능한 설명서와 데이터 세트로부터 일부 컨텍스트를 제공하기도 하지만 수동 프롬프트 엔지니어링에 의존하기도 합니다. 또한 기존의 RAG는 컨텍스트에 대한 인지가 제한적이고 첫 질의에만 의존하여 관련 정보를 검색합니다.

반면 에이전틱 RAG는 더 정교하고 역동적입니다. 스스로 질문을 생각해 내고, 자체 메모리에서 컨텍스트를 만들고, 분명한 요청 없이도 추가 태스크를 수행할 수 있습니다. 에이전틱 RAG에는 기존 RAG에는 없던 이러한 단계가 있기 때문에 사용자의 수동적 개입 없이도 정보에 입각한 의사 결정을 내릴 수 있습니다.

예를 들어 기존 RAG를 사용할 경우 챗봇에게 회사의 반품 정책이 무엇인지 질문할 수 있습니다. 반면 에이전틱 RAG의 경우 사용자의 질의에 따라 반품 정책을 알려준 다음 반품 시작하기 옵션까지 표시할 수 있습니다. 그러면 AI 에이전트는 주문 번호가 포함된 반품 양식을 작성하고, 환불을 위해 신용카드 정보를 확인하고, 사용자 대신 업무를 완료하는 등 세부 계획을 실행할 수 있습니다.

에이전틱 AI는 많은 시스템의 혁신과 속도를 개선합니다. 그러나 아직도 해결해야 할 윤리적 문제와 기술적 문제가 남아 있습니다. 예를 들어 에이전틱 시스템을 사람의 가치에 맞게 조정할 수 있을까요? 에이전틱 AI가 실수하면 누가 책임을 져야 하나요? 투명성의 문제가 존재하는 경우들이 있습니다. 즉, 에이전트가 출력하는 결론에 도달하는 과정을 제대로 파악할 수 없다는 문제가 있습니다('블랙박스' 문제라고도 함).

개인정보 보호와 보안의 관점에서 볼 때 우리는 개발하거나 사용하는 모든 AI 모델을 심사숙고하여 조심히 다뤄야 합니다. 즉, 보안을 위한 제한 범위를 마련하고 아키텍처를 구축하여 데이터 흐름을 보호해야 합니다.

또한 에이전틱 AI에는 처리 능력과 스토리지에 대한 많은 요구 사항을 비롯하여 상당한 컴퓨팅 리소스가 필요하다는 사실에도 주목해야 합니다. 따라서 이 기술이 환경에 미치는 영향을 고려하는 것이 중요합니다.

마지막으로, 다른 이머징 기술과 마찬가지로 학습 커브가 존재합니다. LLM 에이전틱 워크플로우를 구현하고 관리하려면 전문 기술이 필요하며, 특히 기업 수준에서는 더욱 그러합니다.

AI/ML 활용 사례 살펴보기

아직 생성형 AI의 이점을 탐색하고 있는 조직의 경우 AI 에이전트가 실질적인 비즈니스 가치를 달성하는 열쇠가 될 수 있습니다. Red Hat® AI와 Red Hat의 AI 파트너 에코시스템을 활용하면 에이전틱 워크플로우를 구축하고 AI 에이전트를 확장하기 위한 프레임워크를 설계할 수 있습니다.

Red Hat Enterprise Linux® AI는 InstructLab의 에이전틱 오케스트레이션이며, 에이전틱 워크플로우에 의해 사용되는 LLM과 SLM을 미세 조정할 수 있습니다.

Red Hat OpenShift® AI는 멀티 에이전트 시스템을 생성하는 통합 플랫폼을 제공합니다. 또한 AI 에이전트가 사용하는 적응형 학습과 추론은 OpenShift의 MLOps 기능을 통해 제어가 가능합니다.

Red Hat OpenShift AI 살펴보기