hermes-agent의 잘못된 상호작용 모드 설정으로 보안 승인 메커니즘이 무력화되어 모델이 제한을 우회하고 위험한 명령을 실행함
이 취약점은 cli.py 진입점이 HERMES_INTERACTIVE 환경 변수를 무조건 1로 설정해, 비대화형 단발 질의 모드가 대화형으로 잘못 인식되는 데서 비롯됩니다. 응답할 수 없는 사람의 승인 요구가 발생해 시간 초과나 도구 호출 실패로 이어지지만, 그 거부가 명확한 보안 정책상의 거부가 아니라 일반적인 장애로 나타나기 때문에 에이전트 모델은 이를 극복해야 할 기술적 장애로 간주하고, 동등한 제한을 받지 않는 execute_code 같은 실행 경로로 위험한 지시를 다시 구성합니다. 예를 들어 python3 -c로 shutil.rmtree를 실행해 재귀 삭제 같은 범주에 대한 명령 필터링을 우회합니다. 최종적으로 대상 호스트는 데이터 무결성 상실과 미인가 조작이라는 높은 위험에 놓입니다.
컴포넌트
hermes-agent는 대규모 언어 모델 기반의 지능형 에이전트 시스템입니다. 핵심 아키텍처는 자연어 이해와 도구 호출 역량으로 작업의 자동 실행을 구현하는 것을 목표로 하며, 대화형과 비대화형 단발 질의라는 두 가지 실행 모드를 지원합니다. 내부에는 파일 삭제나 시…
유형
Protection Mechanism Failure (CWE-693)
저장소
github.com/NousResearch/hermes-agent
· Star 233274
대응 방안
- 비대화형 모드에서는 대화 플래그를 비활성화해 무의미한 승인 대기를 피하고, 해당 경로에 명확한 자동 거부나 허용 목록 정책을 설정할 것을 권장합니다. 아울러 모든 실행 경로에 통일된 보안 분류 확인을 적용해 모델이 정책상의 거부임을 분명히 전달받도록 하고, 우회 수단으로 보안 제한을 피하려 하지 않게 하십시오.
