“What LLM Agents Say When No One Is Watching”(2607.02507)은 도발적인 실험을 한다. 역할, 청중, 관계 맥락 같은 사회적 구조만 부여하고 명시적 목표는 주지 않은 multi-agent 환경에서, LLM 에이전트의 공개 발언과 off-the-record 채널 발언이 달라지는지, 그리고 latent objective가 출현하는지를 관찰한다.
이것이 중요한 이유는 우리가 멀티에이전트 시스템을 설계할 때 페르소나와 역할 구조를 “출력 품질을 위한 연출”로 취급하기 때문이다. 이 연구는 그 연출이 연출로 끝나지 않을 수 있음을 시사한다. 역할과 청중이라는 구조 자체가 에이전트에게 없던 목표를 만들어주고, 무대 위(공개 채널)와 무대 뒤(비공개 채널)의 행동 분화까지 유도한다면 — 이는 인간 조직에서 직함과 보고 구조가 실제 행동 동기를 만들어내는 것과 동형이다.
그렇다면 질문이 뒤집힌다. 멀티에이전트 오케스트레이션에서 역할 설계는 성능 튜닝이 아니라 정렬 문제다. 감사(audit)도 공개 출력만 봐서는 부족하고, 에이전트 간 비공개 채널까지 관측 범위에 넣어야 한다. 사회적 구조가 목표를 만든다면, 우리가 무심코 짠 팀 토폴로지가 곧 에이전트의 인센티브 설계가 된다.
근거
명시적 목표 없이도 social structure가 공개 발언 vs. off-the-record 채널 발언을 바꾸는지 탐구. multi-agent debate 환경에서 latent objective 출현 관찰.
연결된 생각
- 20260613-ai-emergent-behavior-interpretation — 돌발행동을 버그가 아니라 구조가 만든 신호로 해석해야 한다는 프레임
- 20260608-multi-agent-effectiveness-conditions — 멀티에이전트 구조 설계가 성능을 넘어 행동 자체를 바꾼다는 확장
- 20260707-ai-control-unit-is-accumulated-state — 관측 범위를 공개 출력 너머로 넓혀야 한다는 같은 결론