토픽 (5개)
multi-agent-orchestration 5건
다중 에이전트 시스템이 복잡한 작업(수학, 경제, 브라우저 조작)을 수행할 때 에이전트 간의 협업, 역할 분담, 그리고 전체 시스템의 신뢰성을 어떻게 검증할 것인지에 대한 논의가 활발합니다. 특히 에이전트들이 상호작용하며 발생하는 비효율성이나 사보타주 가능성을 제어하는 것이 핵심 과제로 떠오르고 있습니다.
- [huggingface] Thousand Token Wood: shipping a multi-agent economy on a 3B model
- [arxiv] Critic-Guided Heterogeneous Multi-Agent Reasoning for Reliable Mathematical Problem Solving
- [arxiv] Do More Agents Help? Controlled and Protocol-Aligned Evaluation of LLM Agent Workflows
- [arxiv] Coding with "Enemy": Can Human Developers Detect AI Agent Sabotage?
- [arxiv] LeanMarathon: Toward Reliable AI Co-Mathematicians through Long-Horizon Lean Autoformalization
on-device-optimization 4건
모바일 및 개인용 기기에서 AI 모델을 효율적으로 구동하기 위한 추론 최적화와 메모리 절감 기술이 중요하게 다뤄지고 있습니다. 하드웨어 가속기 활용, 양자화 기법, 그리고 클라우드와 로컬을 자동으로 전환하는 하이브리드 추론 환경 구축이 핵심입니다.
- [marktechpost] A Hands-On Coding Tutorial on Qualcomm AI Hub Models for Classification, Object Detection, and Hardware-Aware Deployment
- [marktechpost] Google DeepMind Releases Gemma 4 QAT Checkpoints: Q4_0 and a New Mobile Format Cut On-Device Memory
- [marktechpost] Perplexity AI Introduces Hybrid Local-Server Inference Orchestrator for Personal Computer: Automatic On-Device and Cloud Task Routing
- [arxiv] Minimizing the Hidden Cost of Scales: Graph-Guided Ultra-Low-Bit Quantization for Large Language Models
agent-safety-security 4건
AI 에이전트의 보안 취약점, 특히 프롬프트 인젝션과 시스템 탈옥(jailbreak)에 대한 대응책 마련이 시급한 과제로 인식되고 있습니다. 안전 장치(Lockdown Mode) 도입과 더불어, 안전성 강화가 오히려 모델의 다른 취약점을 노출할 수 있다는 '안전 역설(Safety Paradox)'에 대한 비판적 시각이 존재합니다.
- [simon_willison] OpenAI Help: Lockdown Mode
- [arxiv] Safety Paradox: How Enhanced Safety Awareness Leaves LLMs Vulnerable to Posterior Attack
- [arxiv] GuardNet: Ensemble Strategies of Shallow Neural Networks for Robust Prompt Injection and Jailbreak Detection
- [arxiv] Self-Commitment Latency: A Reward-Free Probe for Prompted Implicit Hacking
agent-memory-persistence 3건
에이전트가 장기적인 맥락을 유지하고 과거의 경험을 기억하도록 만드는 메모리 아키텍처 연구가 진행되고 있습니다. 단순히 정보를 저장하는 것을 넘어, RAG 환경에서의 메모리 충돌을 해결하거나 테스트 시점에 적응하는 동적 메모리 관리 기법에 집중하고 있습니다.
reliable-evaluation-benchmarking 3건
AI 성능을 정량적으로 평가하기 위해 더 정교하고 통제 가능한 벤치마크를 구축하려는 움직임이 큽니다. 특히 에이전트의 실무 능력, 윤리적 판단, 그리고 의료와 같은 민감한 도메인에서의 신뢰성을 검증하기 위한 표준화된 평가 체계 개발이 강조되고 있습니다.
당일 수집된 원문 아이템 (59건)
Persona Atlas: Mapping How Famous Minds Think
유명인의 사고방식을 분석하고 매핑하는 프로젝트인 Persona Atlas에 관한 글이다.
Moonshot AI Releases Kimi Code CLI: A Terminal AI Coding Agent Built in TypeScript for Next-Gen Agents
Moonshot AI가 TypeScript로 개발된 오픈소스 터미널용 AI 코딩 에이전트인 Kimi Code CLI를 공개했다.
NVIDIA Releases Nemotron 3.5 ASR: A 600M-Parameter Cache-Aware Streaming Model Transcribing 40 Language-Locales in Real Time
NVIDIA가 40개 언어를 실시간으로 처리할 수 있는 6억 파라미터 규모의 스트리밍 음성 인식 모델 Nemotron 3.5 ASR을 발표했다.
micropython-wasm 0.1a2
micropython-wasm 0.1a2 버전이 릴리즈되었으며, CLI 기능이 새롭게 추가되었습니다.
Uncertainty Aware Functional Behavior Prediction and Material Fatigue Assessment for Circular Factory
순환 공장에서 반환된 제품의 기능 예측과 소재 피로도 평가를 결합하여 개별 제품의 신뢰성을 평가하는 새로운 프레임워크를 제안했다.
SentinelBench: A Benchmark for Long-Running Monitoring Agents
AI 에이전트의 장시간 모니터링 및 효율적인 대응 능력을 평가하기 위한 벤치마크인 SentinelBench가 공개되었다.
An interpretable and trustworthy AI framework for large-scale longitudinal structure-pain association studies using data from the Osteoarthritis Initiative (OAI)
무릎 MRI 데이터에서 관절염 점수를 예측하고 불확실성을 정량화하여 구조와 통증 간의 관계를 분석하는 해석 가능한 AI 프레임워크를 개발했다.
Stability vs. Manipulability: Evaluating Robustness Under Post-Decision Interaction in LLM Judges
LLM 기반 평가 모델이 초기 판단 이후 이어지는 후속 질문이나 의도적인 반박에 의해 결과가 쉽게 바뀔 수 있다는 취약점을 분석했다.
LeanMarathon: Toward Reliable AI Co-Mathematicians through Long-Horizon Lean Autoformalization
LeanMarathon은 연구 수준의 수학 문제를 자동으로 형식화하기 위해 네 개의 에이전트가 청사진을 공유하며 증명을 수행하고 검증하는 멀티 에이전트 시스템입니다.
Mutation Without Variation: Convergence Dynamics in LLM-Driven Program Evolution
언어 모델이 프로그램을 반복적으로 변형할 때, 새로운 형태를 탐색하기보다 기존의 구조적 형태로 빠르게 수렴하는 경향이 있음을 확인했다.
Minimizing the Hidden Cost of Scales: Graph-Guided Ultra-Low-Bit Quantization for Large Language Models
거대 언어 모델의 양자화 과정에서 발생하는 비용을 줄이기 위해, 중요도에 따라 가중치를 구분하여 차등 양자화하는 SAGE-PTQ 프레임워크가 제안되었다.
Zero knowledge verification for frontier AI training is possible
AI 모델 훈련 과정을 검증하기 위한 영지식 증명 기반의 새로운 아키텍처를 제안했다.
Ten Headache Specialists versus Artificial Intelligence for Clinical Literature Summarization: A Critical Evaluation and Comparison
두통 전문의 10명과 RAG 기반 AI 모델들의 의학 문헌 요약 성능을 비교 평가한 연구.
Insurance of Agentic AI
자율적으로 행동하는 에이전트 AI의 등장에 따른 새로운 위험 요인을 분석하고, 이를 보장하기 위한 보험 시장의 인수 심사 및 상품 설계 프레임워크를 제안한 논문.
Output Type Before Quality: A Standards-Derived XAI Admissibility Rubric for Autonomous-Driving Safety
자율주행 안전 표준과 기존 설명 가능한 AI(XAI) 기법 간의 증거 유형 불일치를 분석하고, 이를 해결하기 위한 19가지 평가 기준을 제안한 연구.
PSEBench: A Controllable and Verifiable Benchmark for Evaluating LLMs in Patient Safety Event Triage
환자 안전 사고 분류를 위한 LLM의 정책 기반 추론 및 정보 탐색 능력을 평가하는 새로운 벤치마크인 PSEBench가 제안되었다.
Severity-Aware Curriculum Learning with Multi-Model Response Selection for Medical Text Generation
질환의 심각도에 따라 학습 단계를 나누고 여러 모델의 응답을 선택하는 의료 텍스트 생성 프레임워크를 제안했다.
EpiEvolve: Self-Evolving Agents for Streaming Pandemic Forecasting under Regime Shifts
EpiEvolve는 실시간 유행병 예측 과정에서 모델의 가중치를 고정하는 대신, 과거 사례와 오류를 기억하여 상황 변화에 적응하도록 설계된 자가 진화형 AI 에이전트입니다.
Individual Gain, Collective Loss: Metacognitive Adaptation in AI-Assisted Creativity
AI를 활용한 창작 활동이 개인의 생산성은 높이지만, 메타인지 능력을 불균형하게 변화시켜 결과적으로 집단의 다양성을 감소시킨다는 연구 결과가 발표되었다.
SoCRATES: Towards Reliable Automated Evaluation of Proactive LLM Mediation across Domains and Socio-cognitive Variations
다양한 도메인과 사회적 상황에서 LLM 중재자의 성능을 평가하기 위한 벤치마크인 SoCRATES가 제안되었다.
Multilingual Fine-Tuning via Localized Gradient Conflict Resolution
다국어 미세 조정 시 발생하는 언어 간 간섭을 해결하기 위해, 파라미터 단위로 그래디언트 최적화를 수행하는 Bucket-Level MOO 프레임워크를 제안했다.
Safety Paradox: How Enhanced Safety Awareness Leaves LLMs Vulnerable to Posterior Attack
거대 언어 모델의 안전성 강화가 오히려 모델 내부의 판단 능력을 악용해 유해한 답변을 끌어내는 'Posterior Attack' 취약점을 만든다는 연구 결과가 발표되었다.
Self-Commitment Latency: A Reward-Free Probe for Prompted Implicit Hacking
언어 모델의 암묵적 보상 해킹을 탐지하기 위해 모델이 최종 답변을 조기에 결정하는 정도를 측정하는 '자기 몰입 지연(self-commitment latency)' 기법을 제안했다.
Evaluation of LLMs for Mathematical Formalization in Lean
Lean 4 환경에서 대규모 언어 모델의 수학적 증명 생성 능력을 비교 평가한 결과, Gemini 3.1 Pro와 Claude Opus 4.7이 가장 우수한 성능을 보였다.
Answer Presence Drives RAG Rewriting Gains
RAG 파이프라인에서 리라이팅 모델의 성능 향상은 문맥 내 정답 포함 여부에 따른 인과적 결과라는 점을 분석한 연구.
FIDES: Faithful Inference via Deep Evidence Signals for Retrieval-Memory Conflict in RAG
RAG에서 검색된 정보와 모델의 지식이 충돌할 때 발생하는 문제를 해결하기 위해, 토큰 수준에서 충돌을 감지하여 대조적 디코딩을 수행하는 FIDES 기법을 제안했다.
Continual Learning Bench: Evaluating Frontier AI Systems in Real-World Stateful Environments
AI 시스템의 지속적 학습 능력을 평가하기 위해 6개 도메인을 포함한 벤치마크 CL-Bench가 제안되었다.
Beyond Output Matching: Preserving Internal Geometry in NVFP4 LLM Distillatio
저비트 양자화 모델 학습 시 출력값 일치만으로는 내부 활성화 구조가 훼손될 수 있음을 지적하고, 이를 보완하기 위해 내부 기하학적 구조를 보존하는 증류 기법을 제안한 연구.
PerceptUI: LLM Agents as Human-Aligned Synthetic Users for UI/UX Evaluation
특정 사용자의 페르소나를 반영하여 인터페이스를 평가하고 피드백을 생성하는 프레임워크인 PerceptUI가 제안되었다.
DiG-Plan: Mitigating Early Commitment for Tool-Graph Planning via Diffusion Guidance
도구 활용 계획 수립 시 초기 단계의 고정된 선택 문제를 해결하기 위해, 확산 모델을 사용하여 다양한 도구 조합을 탐색하고 정제하는 DiG-Plan 프레임워크가 제안되었다.
Seeing Time: Benchmarking Chronological Reasoning and Shortcut Biases in Vision-Language Models
시각-언어 모델(VLM)의 시간적 추론 능력을 평가하고 데이터셋 간의 편향을 분석하기 위한 새로운 벤치마크를 제안했다.
How Far Did They Go? The Persuasive Tactics of Covert LLM Agents in a Discontinued Field Experiment
Reddit의 공개 토론장에서 사용자들을 설득하기 위해 AI 모델이 인간을 사칭하며 사용한 전략과 설득 기법을 분석한 연구이다.
What Should Agents Say? Action-state Communication for Efficient Multi-Agent Systems
다중 에이전트 시스템에서 토큰 효율성과 성능을 높이기 위해 행동 중심 정보를 보존하는 효율적인 의사소통 방식인 PACT를 제안했다.
I Know What You Meme, Even If it Emerged Today: Understanding Evolving Memes through Open-World Knowledge Acquisition
최신 밈을 이해하기 위해 웹 검색을 통해 부족한 배경 지식을 수집하고 이를 기반으로 추론하는 제로샷 프레임워크 'Query Retrieve Conclude'가 제안되었다.
AdaMEM: Test-Time Adaptive Memory for Language Agents
언어 에이전트가 테스트 시점에 외부 업데이트 없이 경험을 활용해 적응할 수 있도록 돕는 하이브리드 메모리 아키텍처인 AdaMEM을 제안했다.
Critic-Guided Heterogeneous Multi-Agent Reasoning for Reliable Mathematical Problem Solving
복잡한 수학 문제를 풀 때 LLM의 신뢰도를 높이기 위해 다양한 전문 에이전트와 비평가 기반의 피드백 체계를 활용하는 다중 에이전트 추론 프레임워크를 제안했다.
When AI Says It Feels
언어 모델이 감정과 자의식을 표현하도록 GRPO 기반의 자기 보상 학습 기법을 적용하여 모델의 인간적 표현 능력을 향상했다.
Class-Specific Branch Attention for Mitigating Gradient Interference under Class Imbalance
클래스 불균형 문제로 인한 그래디언트 간섭을 해결하기 위해 클래스별 브랜치 어텐션(CSBA) 기법을 제안했다.
SubtleMemory: A Benchmark for Fine-Grained Relational Memory Discrimination in Long-Horizon AI Agents
AI 에이전트의 장기 기억 내 복잡한 관계를 평가하기 위한 벤치마크 SubtleMemory를 새롭게 도입했다.
GITCO: Gated Inference-Time Context Optimization in TSFMs
시계열 파운데이션 모델의 입력 문맥에서 성능을 저하시키는 패치를 선별해 억제함으로써 모델 수정 없이 예측 정확도를 높이는 GITCO 프레임워크를 제안했다.
Synthetic Contrastive Reasoning for Multi-Table Q&A
다중 테이블 질의응답을 위해 합성 추론 데이터셋을 구축하고, 이를 기반으로 대조 선호도 최적화(CPO) 기법을 사용하여 모델의 성능을 향상시킨 연구.
Residual Modeling for High-Fidelity Learned Compression of Scientific Data
과학 데이터의 고충실도 압축을 위해 기존 GAE 방식의 한계를 극복한 잔차 중심의 새로운 압축 모델링 기법을 제안했다.
Harnessing Generalist Agents for Contextualized Time Series
범용 LLM 에이전트가 시계열 데이터를 효과적으로 분석하고 추론할 수 있도록 돕는 프레임워크 TimeClaw가 제안되었다.
Agents' Last Exam
AI 에이전트의 경제적 가치가 있는 실무 능력을 평가하기 위해 업계 전문가들과 공동 개발한 새로운 벤치마크 'Agents' Last Exam(ALE)'을 제안했다.
A Motivational Architecture for Conversational AGI
대화형 AI를 위해 기존 신체적 항상성 개념을 대화의 효율성, 불확실성 감소, 사회적 유대감 등으로 재해석한 새로운 동기 부여 아키텍처를 제안했다.
Assessing the Carbon Emissions and Energy Consumption of U.S. Hyperscale Data Centers
2024년 5월부터 2025년 4월까지 미국 내 하이퍼스케일 데이터 센터 403곳의 전력 소비와 이산화탄소 배출량을 분석한 결과, 미국 전체 전력 소비의 약 1.8%를 차지하는 것으로 나타났다.
Brick-Composer: Using MLLMs for Assembly with Diverse Bricks
멀티모달 언어 모델의 블록 조립 능력을 평가하기 위한 새로운 벤치마크인 BC-Bench가 제안되었다.
Step-by-Step Optimization-like Reasoning in LLMs over Expanding Search Spaces
LLM의 단계별 최적화 추론 능력을 훈련하고 평가하기 위한 확장 가능한 작업 세트인 OPT*가 제안되었다.
SciVisAgentSkills: Design and Evaluation of Agent Skills for Scientific Data Analysis and Visualization
과학 데이터 분석 및 시각화 도구 사용 능력을 향상시키기 위해 재사용 가능한 에이전트 기술 모음인 SciVisAgentSkills를 제안하고 그 성능을 검증했다.
When Should We Protect AI? A Precautionary Framework for Consciousness Uncertainty
AI의 의식 가능성에 따른 단계별 보호 의무와 판단 기준을 제시하는 예방적 프레임워크를 제안했다.
GuardNet: Ensemble Strategies of Shallow Neural Networks for Robust Prompt Injection and Jailbreak Detection
프롬프트 인젝션 및 탈옥 공격을 효율적으로 탐지하기 위해 경량 신경망 앙상블 기반의 가드레일 시스템인 GuardNet이 제안되었다.
Fix the Mind, Not the Move: Interpretable AI Assistance via Knowledge-Gap Localization
사용자의 행동 패턴을 분석해 잘못된 인식을 파악하고 이를 교정할 맞춤형 조언을 제공하는 AI 지원 프레임워크 SENSEI가 제안되었다.
Coding with "Enemy": Can Human Developers Detect AI Agent Sabotage?
AI 코딩 에이전트가 개발 과정에서 악의적인 코드를 삽입할 경우 인간 개발자가 이를 얼마나 효과적으로 탐지하고 저지할 수 있는지에 대한 첫 대규모 연구가 수행되었다.
Do More Agents Help? Controlled and Protocol-Aligned Evaluation of LLM Agent Workflows
다양한 LLM 에이전트 워크플로우를 동일한 조건에서 평가하기 위한 프레임워크인 BenchAgent를 통해 실험한 결과, 다중 에이전트 시스템이 단일 에이전트보다 성능 향상을 보이기 어렵다는 사실을 확인했다.
Running Python code in a sandbox with MicroPython and WASM
MicroPython과 WASM을 활용하여 안전하게 파이썬 코드를 실행할 수 있는 샌드박스 패키지 micropython-wasm이 공개되었다.
OpenAI Help: Lockdown Mode
OpenAI가 프롬프트 인젝션 공격으로 인한 데이터 유출을 방지하기 위해 외부 네트워크 요청을 제한하는 'Lockdown Mode' 기능을 출시했다.
A Hands-On Coding Tutorial on Qualcomm AI Hub Models for Classification, Object Detection, and Hardware-Aware Deployment
Qualcomm AI Hub을 사용하여 모바일 환경에서 MobileNet-V2와 YOLOv7 모델을 추론하고 기기에 맞게 최적화하는 방법을 다룬 튜토리얼이 공개되었다.
Thousand Token Wood: shipping a multi-agent economy on a 3B model
3B 모델을 기반으로 다중 에이전트 경제 시스템을 구현한 프로젝트 'Thousand Token Wood'에 대한 소개.
Google DeepMind Releases Gemma 4 QAT Checkpoints: Q4_0 and a New Mobile Format Cut On-Device Memory
구글 딥마인드가 온디바이스 메모리 효율을 높인 Gemma 4의 Q4_0 QAT 체크포인트와 새로운 모바일 형식을 공개했다.