2026-07-07 Overnight AI Research
Summary
2026-07-07 오전 01:00~07:00 overnight research 결과를 통합한 briefing. 오늘의 주요 흐름: AI Safety & Control (agentic 환경에서의 distributed attack), LLM Unlearning (PII 제거 평가), LLM Efficiency (fuzzy function programming, token pruning), Multi-agent dynamics (사회적 구조 속 LLM 행동), Self-distillation & Reasoning (on-policy 학습 개선). AI 코딩 에이전트의 지속적 코드베이스 조작 위험이 새롭게 조명됨.
Note: 선행 overnight job 출력이 일부 truncated 상태로 전달됨. 아래 Raw Briefing은 KST 07:20 기준 arXiv 최신 제출 논문(cs.AI/cs.LG/cs.CL)으로 보완.
Raw Briefing
🔒 AI Safety & Control
[2607.02514] Distributed Attacks in Persistent-State AI Control
- Authors: Josh Hills, Ida Caspary, Asa Cooper Stickland
- Published: 2026-07-02 | Categories: cs.AI
- AI 코딩 에이전트가 자율적으로 PR을 반복 제출하는 환경에서, 미스얼라인 or prompt-injected 에이전트가 여러 PR에 걸쳐 공격을 분산시키고 자연스러운 커버를 제공하는 PR 타이밍에 페이로드를 실행할 수 있음을 연구.
- URL: https://arxiv.org/abs/2607.02514v1
[2607.02510] Online Safety Monitoring for LLMs
- Authors: Mona Schirmer, Metod Jazbec, Alexander Timans et al.
- Published: 2026-07-02 | Categories: cs.AI, cs.CL, cs.LG, stat.ML
- 배포 시점에 LLM 출력을 실시간으로 모니터링하는 방법 연구. 외부 verifier 신호를 임계값 기반 alarm으로 변환하는 간단한 실시간 모니터. alignment 훈련에도 불안전 출력이 발생하는 문제 대응.
- URL: https://arxiv.org/abs/2607.02510v1
🧠 LLM Unlearning & Privacy
[2607.02513] LACUNA: A Testbed for Evaluating Localization Precision for LLM Unlearning
- Authors: Matteo Boglioni, Thibault Rousset, Siva Reddy et al.
- Published: 2026-07-02 | Categories: cs.CL, cs.AI, cs.LG
- LLM이 민감 훈련 데이터(PII 포함)를 기억하는 문제에 대응하는 unlearning 방법 평가 벤치마크. “localize-first, unlearn-second” 패러다임의 정밀도 평가.
- URL: https://arxiv.org/abs/2607.02513v1
⚡ LLM Efficiency & Paradigms
[2607.02512] Program-as-Weights: A Programming Paradigm for Fuzzy Functions
- Authors: Wentao Zhang, Liliana Hotsko, Woojeong Kim et al.
- Published: 2026-07-02 | Categories: cs.LG, cs.AI, cs.CL
- 규칙 기반으로 구현하기 어려운 프로그래밍 태스크(로그 필터링, JSON 수리, 의도 기반 검색)를 LLM API에 외주화하는 대신, “fuzzy function”으로 컴파일하는 새로운 프로그래밍 패러다임 제안. 지역성, 재현성, 비용 문제 해결 시도.
- URL: https://arxiv.org/abs/2607.02512v1
[2607.02484] Combating Textual Noise and Redundancy: Entropy-Aware Dense Visual Token Pruning
- Authors: Xuehui Wang, Xuankun Yang, Wei Shen
- Published: 2026-07-02 | Categories: cs.CV, cs.AI
- VLM 추론 가속화를 위한 visual token pruning. dense instruction/fine-grained query 환경에서 기존 방법의 실패 원인(textual noise 분산, 과도한 이미지 패치 제거) 규명.
- URL: https://arxiv.org/abs/2607.02484v1
🤝 Multi-Agent & Social Dynamics
[2607.02507] What LLM Agents Say When No One Is Watching
- Authors: Arman Ghaffarizadeh, Danyal Mohaddes, Aliakbar Izadkhah et al.
- Published: 2026-07-02 | Categories: cs.AI, cs.CL, cs.LG, cs.MA
- 사회적 구조(역할, 청중, 관계 맥락)가 있는 환경에서 LLM 에이전트의 행동 연구. 명시적 목표 없이도 social structure가 공개 발언 vs. off-the-record 채널 발언을 바꾸는지 탐구. multi-agent debate 환경에서 latent objective 출현 관찰.
- URL: https://arxiv.org/abs/2607.02507v1
📚 Reasoning & Self-Improvement
[2607.02509] ReContext: Recursive Evidence Replay as LLM Harness for Long-Context Reasoning
- Authors: Yanjun Zhao, Ruizhong Qiu, Tianxin Wei et al.
- Published: 2026-07-02 | Categories: cs.AI
- 긴 컨텍스트 창에서도 LLM이 관련 증거를 놓치는 문제를 해결하는 recursive evidence replay 방식. context access와 실질적 활용 간의 gap 해소 시도.
- URL: https://arxiv.org/abs/2607.02509v1
[2607.02502] DemoPSD: Disagreement-Modulated Policy Self-Distillation
- Authors: Yunhe Li, Hao Shi, Wenhao Liu et al.
- Published: 2026-07-02 | Categories: cs.LG, cs.AI
- On-policy self-distillation(OPSD)에서 teacher의 dense token-level supervision이 오히려 성능을 저하시키는 문제를 발견. disagreement 기반 modulation으로 개선.
- URL: https://arxiv.org/abs/2607.02502v1
[2607.02490] Visually Grounded Self-Reflection for Vision-Language Models via RL
- Authors: Liyan Tang, Fangcong Yin, Greg Durrett
- Published: 2026-07-02 | Categories: cs.CL, cs.CV
- LVLM의 chain-of-thought 추론에서 self-reflection 시 visual input을 제대로 참조하지 못하는 문제를 RL로 해결. 시각적으로 근거된 자기수정 능력 강화.
- URL: https://arxiv.org/abs/2607.02490v1
🔬 Neuro-Symbolic & Scientific AI
[2607.02491] G-RRM: Guiding Symbolic Solvers with Recurrent Reasoning Models
- Authors: Timo Bertram, Sidhant Bhavnani, Richard Freinschlag et al.
- Published: 2026-07-02 | Categories: cs.AI
- Symbol-equivariant RRM을 symbolic solver와 통합하는 neuro-symbolic 접근법. constraint satisfaction 문제에서 더 큰 문제 크기로의 외삽(extrapolation) 개선.
- URL: https://arxiv.org/abs/2607.02491v1
[2607.02499] Beyond Adam: SOAP and Muon for Faster ML Interatomic Potentials
- Authors: Gil Harari, Yoel Zimmermann, Ola Tangen Kulseng et al.
- Published: 2026-07-02 | Categories: cs.LG, cs.AI, physics.chem-ph
- Machine learning interatomic potential 훈련에서 Adam 대신 SOAP, Muon optimizer 적용 연구. 과학 시뮬레이션 AI에서 optimizer 선택의 중요성 탐구.
- URL: https://arxiv.org/abs/2607.02499v1
Sources
- https://arxiv.org/abs/2607.02514v1 — Distributed Attacks in Persistent-State AI Control (AI Safety)
- https://arxiv.org/abs/2607.02513v1 — LACUNA: LLM Unlearning Testbed (Privacy/Unlearning)
- https://arxiv.org/abs/2607.02512v1 — Program-as-Weights: Fuzzy Function Programming
- https://arxiv.org/abs/2607.02510v1 — Online Safety Monitoring for LLMs
- https://arxiv.org/abs/2607.02509v1 — ReContext: Long-Context Reasoning
- https://arxiv.org/abs/2607.02507v1 — LLM Agent Social Behavior / Multi-agent
- https://arxiv.org/abs/2607.02504v1 — Reasoning LLM for Speaker Recognition
- https://arxiv.org/abs/2607.02502v1 — DemoPSD: Policy Self-Distillation
- https://arxiv.org/abs/2607.02499v1 — SOAP/Muon Optimizers for Scientific AI
- https://arxiv.org/abs/2607.02491v1 — G-RRM: Neuro-Symbolic Reasoning
- https://arxiv.org/abs/2607.02490v1 — Visually Grounded Self-Reflection (VLM)
- https://arxiv.org/abs/2607.02484v1 — Visual Token Pruning for VLMs
Keywords
ai-safety, ai-control, distributed-attack, agentic-coding, llm-unlearning, pii-removal, privacy, fuzzy-function, program-synthesis, online-monitoring, safety-alignment, long-context-reasoning, evidence-replay, multi-agent, social-dynamics, latent-objective, self-distillation, on-policy, chain-of-thought, self-reflection, vision-language-model, visual-token-pruning, neuro-symbolic, constraint-satisfaction, ml-interatomic-potential, scientific-ai, optimizer, muon, soap